NVIDIA представила доступный ИИ-суперкомпьютер для студентов и программистов
Сегодня, 17 декабря, компания NVIDIA официально представила свой новый компактный суперкомпьютер (в данном случае это, безусловно, преувеличение) для работы с генеративным искусственным интеллектом, который предоставит потенциальному покупателю повышенную производительность за счёт апдейта программного обеспечения, да ещё и по более низкой цене. Новинка получила название NVIDIA Jetson Orin Nano Super, она вполне помещается на ладони пользователя и, по словам компании, обеспечивает всем необходимым как разработчиков коммерческих проектов на базе ИИ, так и студентов, программистов и энтузиастов.
«Jetson Orin Nano Super идеально подходит для пользователей, заинтересованных в прокачке навыков в области генеративного искусственного интеллекта, робототехники или компьютерного зрения», — цитата из публикации в блоге NVIDIA.
Примечательно, что «суперкомпьютер» действительно получил приличную производительность — в NVIDIA говорят о том, что NVIDIA Jetson Orin Nano Super предоставит пользователю вычислительную мощность на уровне 67 TOPS (INT8) с пропускной способностью на уровне 102 ГБ/сек. Соответственно, эта модель на 70% мощнее Jetson Orin Nano (всего 40 TOPS), а прирост скорости составил целых 50%. Но, что куда важнее, NVIDIA Jetson Orin Nano Super стоит всего 249 долларов, тогда как собрат по линейке компактных одноплатных компьютеров на релизе продавали за 499 долларов — в два раза дороже.
Работает же новинка на базе 6-ядерного 64-битного процессора Arm Cortex-A78AE v8.2 в связке с графическим ускорителем поколения NVIDIA Ampere с 1024 CUDA-ядрами и 32-тензорными ядрами под капотом, 8 ГБ оперативной памяти LPDDR5 и поддержкой хранения данных на карте памяти и/или внешнем твердотельном NVMe-накопителе. При этом потребление энергии находится в диапазоне от 7 до 25 Вт (вероятно, на это влияет пиковая нагрузка при обучении и работе с искусственным интеллектом).
Хорошая новость ещё и в том, что обновление программного обеспечения, которое доступно Jetson Orin Nano Super, повысит производительность работы с генеративным искусственным интеллектом и в случае использования Jetson Orin Nano. Это будет очень полезно при разработке больших языковых моделей для чат-ботов, создания визуального ИИ-агента, развёртывания роботизированных устройств на базе искусственного интеллекта и всего в таком духе.