Новый тип памяти CRAM в 1000 раз снижает энергопотребление при обработки данных ИИ

Вычисления на базе искусственного интеллекта (ИИ) требуют огромного количества электроэнергии, но целенаправленные исследования могут стать ключом к значительному ее сокращению. Команда исследователей из США разработала технологию, которая может снизить энергопотребление, необходимое для обработки данных ИИ, как минимум в тысячу раз.

По информации Tom’s Hardware, группа инженеров-исследователей из Университета городов-побратимов Миннесоты продемонстрировала технологию, повышающую эффективность ИИ, и опубликовала рецензируемый документ, в котором излагаются их работа и выводы. Статья была опубликована в разделе «Нетрадиционные вычисления», рецензируемом журнале Nature. По сути, они сократили обычную практику вычислений ИИ, что значительно снижает энергозатраты на выполнение задачи.

В современных вычислениях ИИ данные передаются между обрабатывающими их компонентами (логикой) и местом хранения данных (памятью). Согласно этому исследованию, постоянная передача информации туда-сюда приводит к потреблению энергии, в 200 раз превышающей энергию, используемую при вычислениях.

Таким образом, исследователи обратились к вычислительной оперативной памяти (CRAM), чтобы решить эту проблему. CRAM, разработанная исследовательской группой, размещает высокоплотную реконфигурируемую вычислительную подложку в памяти внутри самих ячеек памяти.

Это отличается от существующих решений для обработки данных в памяти, таких как технология Samsung PIM, поскольку Samsung размещает блок обработки данных (PCU) в ядре памяти. Данные по-прежнему должны передаваться из ячеек памяти в PCU и обратно, но не так далеко.

С помощью CRAM данные никогда не покидают память, вместо этого они полностью обрабатываются в массиве памяти компьютера. По словам исследовательской группы, это позволяет системе, работающей с вычислительным приложением ИИ, снизить энергопотребление “примерно в 1000 раз по сравнению с современным решением”.

Другие примеры указывают на потенциал еще большей экономии энергии и ускорения обработки данных. В одном тестировании, выполняя задачу по классификации рукописных цифр MNIST, CRAM оказалась в 2500 раз энергоэффективнее и в 1700 раз быстрее, чем система обработки данных с близким объемом памяти, использующая 16-нм технологический узел. Эта задача используется для обучения систем ИИ распознавать рукописный ввод.

Важность такого рода работы трудно переоценить. Согласно недавним отчетам, рабочие нагрузки ИИ уже потребляют почти столько же электроэнергии, сколько весь Кипр в 2021 году. Общее потребление энергии составило 4,3 ГВт в 2023 году и, как ожидается, будет расти со скоростью от 26% до 36% в ближайшие годы. Генеральный директор Arm недавно предположил, что к 2030 году ИИ может потреблять четверть всей энергии, производимой в США.

Первый автор статьи Янг Л.В., аспирант кафедры электротехники и вычислительной техники Университета Миннесоты, и остальная исследовательская группа уже подали заявки на несколько патентов, основанных на новой технологии. Они планируют сотрудничать с лидерами полупроводниковой промышленности, в том числе из Миннесоты, для проведения масштабных демонстраций и производства оборудования, которое поможет расширить функциональность ИИ, а также сделает его более эффективным.

Сообщение Новый тип памяти CRAM в 1000 раз снижает энергопотребление при обработки данных ИИ появились сначала на Время электроники.