Тот же чип, та же фабрика, примерно вдвое выше частота — и стойка, потребляющая столько же, сколько сорок домов

18 августа Cerebras представила CS-4 — первую машину платформы стоечного масштаба, которую компания называет Nexus. Стойка вмещает до трёх пластин размером с обеденную тарелку и в сумме даёт 750 петафлопс разреженных вычислений FP16, 129,6 петабайта в секунду пропускной способности памяти, 7,2 терабита в секунду ввода-вывода и 132 гигабайта памяти на самой пластине. Компания заявляет о скорости до двух раз выше, чем у CS-3, и до тридцатикратного превосходства над системами на видеокартах по числу токенов в секунду на одного пользователя на передовых моделях. Кремний не новый: та же 5-нанометровая разработка TSMC, и The Register подсчитывает, что удвоение получено главным образом за счёт примерно двукратного повышения тактовой частоты, до величины около 2,8 гигагерца, из-за чего каждая пластина потребляет, по оценке, 33 киловатта, а полная стойка — от 120 до 140. Первые системы заработают до конца квартала. Cerebras также объединяет свои стойки с системами AMD Helios и чипами AWS Trainium: те берут на себя ту половину работы, где читается запрос, а Cerebras пишет ответ.

✓ Проверено · 3 источников

Похожие новости