Искусственный интеллект учится рассуждать в уме, а не вслух

Исследователи из компании Pathway, специализирующейся на разработках в области искусственного интеллекта, предложили новый тип ИИ-модели, которая мыслит не через длинные словесные цепочки, а с помощью внутренней памяти, постоянно обновляемой на каждом шаге. Эта разработка, получившая название BDH-CQ и описанная в препринте на сервере arXiv, позволяет решать задачи с невероятно низкой стоимостью — менее одной десятой цента за попытку и при этом показывает рекордное для своего размера соотношение цены и точности на известном бенчмарке ARC-AGI-1.

Обычные чат-боты, такие как ChatGPT или Google Gemini, работают по принципу пошагового проговаривания рассуждений вслух. Они генерируют длинные текстовые объяснения, прежде чем выдать ответ, и это похоже на то, как студент решает задачу, подробно записывая каждое действие. Такой подход дает в целом точные результаты, но требует огромных вычислительных ресурсов и времени.

Авторы новой модели пошли иным путем: они создали систему, которая не произносит цепочку мыслей словами, а ведет все рассуждения в скрытом, внутреннем пространстве. Для этого используется небольшая, постоянно обновляемая память, куда модель шаг за шагом записывает поступающую информацию, а окончательное решение выдает уже после завершения этого внутреннего процесса. Благодаря компактной архитектуре — всего 150 миллионов параметров, что в сотни раз меньше, чем у лидеров рынка, модель требует скромных вычислительных мощностей.

Чтобы проверить свои идеи, ученые воспользовались тестом ARC-AGI-1, который представляет собой набор визуальных головоломок с цветными сетками. Искин (искусственный интеллект) должен увидеть несколько примеров, уловить скрытое правило и применить его к новой фигуре. BDH-CQ справилась с 29,5 процента заданий с двух попыток на каждую головоломку.

При этом себестоимость одного решения оказалась настолько низкой, что команда заявила о новом рекорде эффективности для этого теста. Независимые проверяющие из Bielik AI и Нью-Йоркского университета воспроизвели эксперимент и подтвердили полученные цифры, что добавляет результатам веса. Это показывает, что скрытое непрерывное рассуждение может быть не менее практичным, чем привычное «размышление вслух», особенно в задачах, где важна скорость и дешевизна.

Однако у находки есть и очевидные ограничения. Новая модель оказалась сильна в простых визуальных операциях, типа копировании форм или продолжении линий, но заметно пасовала перед многоэтапными логическими конструкциями, требующими сортировки множества объектов или длинных последовательностей умозаключений. Проще говоря, она хорошо справляется с бытовыми загадками, но пока уступает в сложных интеллектуальных вызовах.

В итоге главный вывод исследования таков: возможность рассуждать без проговаривания каждого шага это не фантастика, а рабочий прототип, который уже сегодня экономит ресурсы и деньги. Ученые намерены двигаться дальше и масштабировать свою идею, обучая более крупные версии модели на математических, языковых и визуальных задачах повышенной трудности.

Если этот подход получит развитие, мы можем получить класс ИИ-ассистентов, которые будут не только умны, но и невероятно экономичны, а их мышление останется для нас скрытым, как у человека, который решает пример в уме, не записывая промежуточных выкладок.