Apple использовала чипы Google для обучения моделей ИИ. Сигнал о поиске альтернатив Nvidia?
Apple объявила, что модели искусственного интеллекта, лежащие в основе Apple Intelligence, её системы искусственного интеллекта, были предварительно обучены на процессорах, разработанных Google. Это свидетельствует о том, что крупные технологические компании ищут альтернативы Nvidia в области обучения передового ИИ.
В недавно опубликованной технической статье Apple подробно описала свой Tensor Processing Unit (TPU) для обучения. Кроме того, Apple выпустила предварительную версию Apple Intelligence для некоторых устройств в понедельник.
Графические процессоры (GPU) компании Nvidia доминируют на рынке высокопроизводительных чипов для обучения искусственного интеллекта. Однако в последние пару лет спрос на них настолько вырос, что их стало трудно закупать в необходимых количествах. OpenAI, Microsoft и Anthropic используют графические процессоры Nvidia для своих моделей, в то время как другие технологические компании, включая Google, Meta*, Oracle и Tesla, скупают их для создания своих систем и предложений на основе искусственного интеллекта.
Генеральный директор Meta Марк Цукерберг и генеральный директор Alphabet Сундар Пичаи на прошлой неделе высказали комментарии, в которых предположили, что их компании и другие представители отрасли, возможно, вкладывают слишком много средств в инфраструктуру ИИ. Однако они признали, что бизнес-риски в противном случае слишком высоки.
«Недостатком отставания является то, что вы не сможете воспользоваться важнейшей технологией на ближайшие 10–15 лет», — сказал Цукерберг в подкасте с Эмили Чанг из Bloomberg.
Apple не называет Google или Nvidia в своей 47-страничной статье, но отмечает, что её модель Apple Foundation Model (AFM) и сервер AFM обучаются на «кластерах Cloud TPU». Это означает, что Apple арендовала серверы у облачного провайдера для выполнения вычислений.
«Эта система позволяет нам эффективно и масштабируемо обучать модели AFM (Apple Foundation Model), включая AFM-на-устройстве, AFM-сервер и более крупные модели», — говорится в статье Apple. Представители Apple и Google не ответили на просьбы прокомментировать ситуацию.
Apple раскрыла свои планы в области ИИ позже, чем многие коллеги, которые громко приветствовали генеративный ИИ вскоре после запуска OpenAI ChatGPT в конце 2022 года. Представленная в понедельник Apple Intelligence включает в себя несколько новых функций, таких как обновлённый вид Siri, улучшенная обработка естественного языка и генерируемые ИИ сводки в текстовых полях.
В течение следующего года Apple планирует внедрить функции на основе генеративного искусственного интеллекта, включая генерацию изображений, генерацию эмодзи и расширенную версию Siri, которая сможет получать доступ к личной информации пользователя и выполнять действия внутри приложений.
В статье Apple заявила, что AFM на устройстве обучался на одном «слое» из 2048 чипов TPU v5p, работающих вместе. Это самый продвинутый TPU, впервые запущенный в декабре. Согласно статье, AFM-сервер обучался на 8192 чипах TPU v4, которые были настроены для совместной работы в качестве восьми срезов через сеть центра обработки данных.
Согласно веб-сайту Google, новейшие TPU от Google стоят менее $2 за час использования чипа при бронировании на три года вперёд. Google впервые представила свои TPU в 2015 году для внутренних рабочих нагрузок и сделала их доступными для публики в 2017 году. Сейчас они являются одними из самых зрелых специализированных чипов, разработанных для искусственного интеллекта.
Тем не менее, Google является одним из крупнейших клиентов Nvidia. Он использует графические процессоры Nvidia и собственные TPU для обучения систем ИИ, а также продает доступ к технологиям Nvidia в своём облаке.
Ранее Apple заявляла, что вывод, то есть использование предварительно обученной модели ИИ и её запуск для генерации контента или составления прогнозов, будет частично осуществляться на собственных чипах Apple в её центрах обработки данных.
Это вторая техническая статья о системе ИИ Apple после того, как более общая версия была опубликована в июне. В то время Apple заявила, что использует TPU при разработке своих моделей ИИ. Apple планирует опубликовать квартальные результаты после закрытия торгов 1 августа.
*Meta признана экстремистской организацией в России