NeuRRAM — создан высокоэффективный нейроморфный процессор для ИИ

Чип NeuRRAM — это первый чип вычислений в памяти, который демонстрирует широкий спектр приложений ИИ, используя лишь небольшой процент энергии, потребляемой другими платформами, сохраняя при этом эквивалентную точность.

NeuRRAM, новый чип, который выполняет вычисления непосредственно в памяти и может запускать широкий спектр приложений ИИ, был разработан и создан международной группой исследователей. Что отличает его, так это то, что он делает все это за долю энергии, потребляемой вычислительными платформами для вычислений ИИ общего назначения.

Нейроморфный чип NeuRRAM приближает ИИ к работе на широком спектре периферийных устройств, отключенных от облака. Это означает, что они могут выполнять сложные когнитивные задачи в любом месте и в любое время, не полагаясь на сетевое подключение к централизованному серверу. Приложения для этого устройства изобилуют в каждом уголке земного шара и во всех аспектах нашей жизни. Они варьируются от смарт-часов до гарнитур виртуальной реальности, смарт-наушников, смарт-датчиков на заводах и вездеходов для исследования планет.

Чип NeuRRAM не только в два раза эффективнее с точки зрения энергопотребления, чем современные чипы «вычислений в памяти» — инновационного класса гибридных чипов, выполняющих вычисления в памяти, — он также обеспечивает такие же точные результаты, как и обычные цифровые чипы. Обычные платформы ИИ намного крупнее и как правило ограничены использованием больших серверов данных, работающих в облаке.

Кроме того, чип NeuRRAM очень универсален и поддерживает множество различных моделей и архитектур нейронных сетей. В результате чип можно использовать для множества различных приложений, включая распознавание и реконструкцию изображений, а также распознавание голоса.

«Принято считать, что более высокая эффективность вычислений в памяти достигается за счет универсальности, но наш чип NeuRRAM обеспечивает эффективность, не жертвуя универсальностью», — сказал Вейер Ван, первый автор статьи.

В настоящее время вычисления ИИ являются энергоемкими и дорогостоящими в вычислительном отношении. Большинство приложений ИИ на периферийных устройствах связаны с перемещением данных с устройств в облако, где ИИ обрабатывает и анализирует их. Затем результаты передаются обратно на устройство. Это необходимо, потому что большинство периферийных устройств питаются от батарей и, как следствие, имеют лишь ограниченное количество энергии, которое можно выделить для вычислений.

За счет снижения энергопотребления, необходимого для логического вывода ИИ на периферии, чип NeuRRAM может привести к созданию более надежных, интеллектуальных и доступных периферийных устройств и более интеллектуальному производству.

Это также может привести к повышению конфиденциальности данных, поскольку передача данных с устройств в облако сопряжена с повышенными рисками для безопасности.

В микросхемах ИИ перемещение данных из памяти в вычислительные устройства является одним из основных узких мест. «Это эквивалентно восьмичасовой дороге на работу при двухчасовом рабочем дне», — сказал Вейер Ван.

Чтобы решить эту проблему с передачей данных, исследователи использовали так называемую резистивную память с произвольным доступом. Этот тип энергонезависимой памяти позволяет выполнять вычисления непосредственно в памяти, а не в отдельных вычислительных блоках.

Производительность чипа

Исследователи измерили энергоэффективность чипа по показателю, известному как EDP (energy-delay product).

EDP ​​объединяет как количество энергии, потребляемой для каждой операции, так и количество времени, которое требуется для завершения операции. По этому показателю чип NeuRRAM обеспечивает снижение EDP в 1,6–2,3 раза (чем меньше, тем лучше) и вычислительную плотность в 7–13 раз выше, чем у современных чипов.

Инженеры выполняли различные задачи ИИ на чипе. Он достиг 99% точности в задаче распознавания рукописных цифр; 85,7% на задаче классификации изображений; и 84,7% в задаче распознавания голосовых команд Google.

Кроме того, чип также добился 70-процентного снижения ошибок реконструкции изображения в задаче восстановления изображения. Эти результаты сравнимы с существующими цифровыми чипами, которые выполняют вычисления с той же точностью, но с существенно большим потреблением энергии.

Исследователи отмечают, что одним из ключевых итогов работы является то, что все представленные результаты получены непосредственно на оборудовании. Во многих предыдущих работах по чипам вычислений в памяти результаты тестов ИИ часто частично получали с помощью программного моделирования.

Следующие шаги включают в себя улучшение архитектуры и схем, а также масштабирование проекта до узлов с более продвинутыми технологиями. Инженеры также планируют заняться другими приложениями, такими как импульсные нейронные сети.

Опубликовано в открытом доступе в журнале Nature.