Почему возник ажиотаж вокруг новой модели Q* от OpenAI

После драматических событий в OpenAI на прошлой неделе ходили слухи о том, почему главный научный директор компании и ее совет решили уволить генерального директора Сэма Альтмана.

Хотя до сих пор не известно всех подробностей, появились сообщения о том, что исследователи OpenAI совершили «прорыв» в области искусственного интеллекта, что встревожило сотрудников. Агентства Reuters и The Information сообщают, что исследователи придумали новый способ создания мощных систем искусственного интеллекта и создали новую модель под названием Q* (произносится как Q star), способную решать математические задачи на уровне средней школы.

По словам людей, которые говорили с Reuters, некоторые в OpenAI считают, что это может стать важной вехой в стремлении компании создать общий искусственный интеллект — это широко разрекламированная концепция, относящаяся к системе искусственного интеллекта, которая умнее человека. Компания отказалась комментировать вопрос по поводу Q*.

Исследователи в течение многих лет пытались использовать модели ИИ для решения математических задач. Языковые модели, такие как ChatGPT и GPT-4, могут выполнять некоторые математические операции, но не очень хорошо и надежно.

«В настоящее время у нас нет алгоритмов или даже подходящей архитектуры для надежного решения математических задач с использованием ИИ», — говорит Венда Ли, преподаватель ИИ в Эдинбургском университете. Глубокое обучение и преобразователи (разновидность нейронной сети), которые используют языковые модели, отлично распознают шаблоны, но одного этого, вероятно, недостаточно, добавляет он.

Математика — это ориентир для рассуждений. Машина, способная рассуждать о математике, теоретически могла бы научиться выполнять другие задачи, основанные на существующей информации, например, писать компьютерный код или делать выводы из новостной статьи. Математика представляет собой особенно сложную задачу, поскольку она требует, чтобы модели ИИ обладали способностью рассуждать и действительно понимать, с чем они имеют дело.

Генеративная система искусственного интеллекта, которая могла бы надежно выполнять математические вычисления, должна была бы очень четко понимать конкретные определения конкретных понятий, которые могут быть очень абстрактными. Многие математические задачи также требуют определенного уровня планирования из нескольких шагов, говорит Кэти Коллинз из Кембриджского университета, которая специализируется на математике и искусственном интеллекте.

Люди, которые беспокоятся о том, представляет ли ИИ экзистенциальный риск для людей (что является одной из основных проблем OpenAI), опасаются, что такие возможности могут привести к появлению мошеннического ИИ. По ученых, могут возникнуть проблемы с безопасностью, если таким системам искусственного интеллекта будет разрешено ставить свои собственные цели и начать каким-то образом взаимодействовать с реальным физическим или цифровым миром.

Но хотя математические способности могут приблизить нас на шаг к более мощным системам искусственного интеллекта, решение такого рода математических задач не означает рождения сверхразума.

«Я не думаю, что это сразу приведет нас к общему ИИ или пугающим ситуациям», — говорит Кэти Коллинз. Также очень важно подчеркнуть, какие математические задачи решает ИИ, добавляет она.

«Решение математических задач в школе очень, очень отличается от расширения границ математики на уровне того, что может сделать лауреат Филдсовской премии», — говорит Коллинз, имея в виду высшую премию по математике.

Исследования в области машинного обучения были сосредоточены на решении задач начальной школы, но современные системы искусственного интеллекта еще не полностью справились с этой задачей. По словам Кэти Коллинз, некоторые модели ИИ не справляются с очень простыми математическими задачами, но зато могут преуспеть в решении других,  действительно сложных задач. OpenAI, например, разработала специальные инструменты, которые могут решать сложные задачи, возникающие на соревнованиях среди лучших учеников старших классов по математике, но эти системы лишь изредка превосходят людей.

Тем не менее, создание системы искусственного интеллекта, способной решать математические уравнения, — это крутая разработка, если Q* действительно на это способен. Более глубокое понимание математики может открыть возможности для ее применения, например, в научных исследованиях. Способность генерировать математические ответы может помочь разработать более персонализированное обучение, помочь математикам решать более сложные задачи.