Илон Маск запускает самый мощный кластер для ИИ в мире с использованием 100 тысяч NVIDIA H100

Илон Маск, глава X (Twitter), Tesla, xAI и SpaceX, объявил о начале обучения модели искусственного интеллекта GROK 3 в Мемфисе. Обучение проводится на кластере, состоящем из 100 тысяч графических процессоров NVIDIA H100, что делает его самым мощным в мире для задач ИИ.

«Отличная работа команды xAI, команды X, NVIDIA и компаний поддержки, которые начали обучение в Мемфисском суперкластере примерно в 4:20 утра по местному времени. 100 тысяч процессоров H100 с жидкостным охлаждением на одной RDMA-матрице делают этот кластер самым мощным для обучения искусственного интеллекта в мире», – написал Маск в X.

Ранее xAI арендовала чипы NVIDIA для обучения ИИ у Oracle, но теперь компания решила создать собственный центр обработки данных. Новый ЦОД превзойдет по мощности арендованный у Oracle, демонстрируя решимость Маска и его команды продвигать передовые технологии ИИ.

Каждый ускоритель H100 стоит около 30 000 долларов. Для обучения предыдущей модели, GROK 2, использовалось 20 000 таких процессоров, но для GROK 3 потребовалось в пять раз больше вычислительных ресурсов.

Ожидается, что релиз чат-бота GROK 2 состоится в следующем месяце, а GROK 3 будет представлен к декабрю текущего года.