Новый аналоговый синапс в 1 миллион раз быстрее, чем синапсы в человеческом мозге
Новое оборудование обеспечивает более быстрые вычисления для искусственного интеллекта с гораздо меньшим энергопотреблением.
Инженеры Массачусетского технологического института, работающие над «аналоговым глубоким обучением», нашли способ перемещать протоны через твердые тела с беспрецедентной скоростью.
Количество времени, усилий и денег, необходимых для обучения все более сложных моделей нейронных сетей, стремительно растет, поскольку исследователи раздвигают границы машинного обучения.
Аналоговое глубокое обучение, новая ветвь искусственного интеллекта, обещает более быструю обработку с минимальным потреблением энергии.
Программируемые резисторы являются ключевыми строительными блоками аналогового глубокого обучения, так же как транзисторы являются основными элементами для создания цифровых процессоров.
Повторяя массивы программируемых резисторов в сложных слоях, ученые могут создать сеть аналоговых искусственных «нейронов» и «синапсов», которые выполняют вычисления точно так же, как цифровая нейронная сеть. Затем эту сеть можно обучить для выполнения сложных задач ИИ, таких как обработка естественного языка и распознавание изображений.
Междисциплинарная группа исследователей из Массачусетского технологического института решила расширить пределы скорости аналогового синапса, который они ранее разработали.
Они использовали неорганический материал в процессе изготовления, который позволяет их устройствам работать в 1 миллион раз быстрее, чем предыдущие версии, что также примерно в 1 миллион раз быстрее, чем синапсы в человеческом мозгу.
Кроме того, этот неорганический материал также делает резистор невероятно энергоэффективным. В отличие от материалов, использовавшихся в более ранней версии их устройства, новый материал совместим с технологиями изготовления кремния.
Это изменение позволит производить устройства в нанометровом масштабе и может проложить путь к интеграции в коммерческое вычислительное оборудование для приложений глубокого обучения.
«Благодаря этому ключевому пониманию и очень мощным методам нанопроизводства, которые есть у нас, мы смогли собрать все части вместе и продемонстрировать, что эти устройства по своей природе очень быстрые и работают с разумными напряжениями», — говорит старший автор исследования Хесус А. дель Аламо.
«Рабочий механизм устройства заключается в электрохимическом внедрении мельчайшего иона, протона, в изолирующий оксид для модуляции его электронной проводимости. Поскольку мы работаем с очень тонкими устройствами, мы смогли ускорить движение этого иона, используя сильное электрическое поле, и перевести эти ионные устройства в наносекундный режим работы».
«Потенциал действия в биологических клетках возрастает и падает с временной шкалой в миллисекунды, поскольку разность потенциалов примерно в 0,1 вольт ограничивается стабильностью воды», — говорит старший автор Ю Ли, профессор материаловедения и инженерии.
«Здесь мы применяем до 10 вольт через специальную твердую стеклянную пленку наноразмерной толщины, которая проводит протоны, не повреждая ее. И чем сильнее поле, тем быстрее работают ионные устройства».
Такие программируемые резисторы резко увеличивают скорость обучения нейронной сети, при этом значительно снижая стоимость и энергию для выполнения этого обучения. Это может помочь исследователям гораздо быстрее разработать модели глубокого обучения, которые затем можно будет применять в таких целях, как самоуправляемые автомобили или анализ медицинских изображений.
Исследование было опубликовано в Science.