Илон Маск запускает «самый мощный обучающий кластер ИИ в мире» из 100 000 ГП Nvidia H100

Илон Маск похвастался запуском «самого мощного в мире обучающего кластера ИИ», который он будет использовать для создания «самого мощного ИИ в мире по всем показателям». Суперкластер xAI в Мемфисе начал обучение ИИ с использованием 100 000 графических процессоров Nvidia H100 с жидкостным охлаждением, подключенных к одной матрице RDMA (удаленный прямой доступ к памяти). Маловероятно, что Маск лично щелкнул выключателем, чтобы запустить это «сверхскопление», поскольку кластер начал свою гигантскую задачу в 4:20 утра по центральному американскому времени.

Гигафабрика вычислений должна была открыться к осени 2025 года, но проект был реализован на год раньше.

Маск объясняет, что новое «сверхскопление» будет «обучать самый мощный в мире искусственный интеллект по всем показателям». Исходя из предыдущих заявлений о намерениях, предполагается, что мощность установки 100 000 графических процессоров xAI H100 теперь будет направлена на обучение Grok 3. По словам Маска, доработанный LLM должен быть завершен с этапом обучения «к декабрю этого года».

Если рассматривать вычислительные ресурсы Memphis Supercluster в некотором контексте, то, конечно, с точки зрения масштаба, новый xAI Memphis Supercluster легко превосходит что-либо из последнего списка Top500 с точки зрения суммарной мощности графического процессинга. Самые мощные суперкомпьютеры в мире, такие как Frontier (37 888 графических процессоров AMD), Aurora (60 000 графических процессоров Intel) и Microsoft Eagle (14 400 графических процессоров Nvidia H100), похоже, значительно уступают машине xAI.

Сообщение Илон Маск запускает «самый мощный обучающий кластер ИИ в мире» из 100 000 ГП Nvidia H100 появились сначала на Время электроники.