Представлен самый большой ИИ-чип в истории (фото)

Cerebras представила третье поколение своих процессоров WSE, предназначенных для самых высоконагруженных систем искусственного интеллекта.

WSE-3 является одним из самых больших чипов на рынке и в 57 раз больше самого крупного GPU Nvidia H100. По-сути, процессор представляет собой целую кремниевую пластину с 84 чиплетами, выполненными по 5-нм техпроцессу TSMC. Производитель утверждает, что WSE-3 оснащается 4 триллионами транзисторов.

Такая монолитная конструкция обеспечивает невозможную для других систем пропускную способность памяти 21 петабайт (21000 терабайт) в секунду. Для вычислений WSE-3 использует 900 тысяч оптимизированных для задач ИИ ядер, а также 44 Гб системной памяти SRAM.

В ИИ-вычислениях пиковая производительность одного чипа достигает 125 петафлопс, что более чем в 31 раз выше, чем быстродействие ускорителя Nvidia H100. Cerebras планирует создать собственный суперкомпьютер на основе WSE-3, который будет обучать языковые модели в 10 раз больше существующих ChatGPT-4 и Gemini, обеспечивая лучшее соотношение производительности и энергоэффективности в своем классе.

Интересно, что использование WSE-3 с коммерческой точки зрения выгодно лишь в большом количестве, в то время как один чип будет потреблять неоправданно много энергии — вплоть до нескольких десятков киловатт.