Сотрудники OpenAI предупредили совет директоров о прорыве в области искусственного интеллекта перед увольнением генерального директора
Накануне четырехдневного изгнания генерального директора OpenAI (создатель ChatGPT) Сэма Альтмана несколько штатных сотрудников компании написали письмо совету директоров, предупреждая о мощном прорыве искусственного интеллекта, который, по их словам, может угрожать человечеству, сообщает информационное агентство Reuters.
До его возвращения поздно вечером во вторник более 700 сотрудников угрожали уволиться и присоединиться к Microsoft (MSFT.O) в знак солидарности со своим уволенным лидером.
Источники назвали это письмо одним из факторов в длинном списке жалоб совета директоров, приведших к увольнению Альтмана, среди которых были опасения по поводу коммерциализации достижений до понимания их последствий.
По словам одного из источников, после того, как агентство Reuters связалось с представителями OpenAI, которые отказались от комментариев, во внутреннем сообщении сотрудникам признали наличие проекта под названием Q*.
Некоторые в OpenAI считают, что Q* (произносится как Q-Star) может стать прорывом в области так называемого общего искусственного интеллекта (AGI), сообщил агентству Reuters один из собеседников. OpenAI определяет AGI как автономные системы, которые превосходят людей в большинстве экономически ценных задач.
Учитывая огромные вычислительные ресурсы, новая модель смогла решить некоторые математические задачи, сообщил источник на условиях анонимности, поскольку он не был уполномочен говорить от имени компании. По словам источника, несмотря на то, что Q* пока выполняет математику только на уровне учеников начальной школы, успешное выполнение таких тестов вселяет в исследователей большой оптимизм в отношении будущего успеха Q*.
Исследователи считают, что математика — это передовой рубеж развития генеративного ИИ.
В настоящее время генеративный ИИ хорошо умеет писать и переводить, статистически предсказывая следующее слово, и ответы на один и тот же вопрос могут сильно различаться.
Но завоевание способности заниматься математикой (где есть только один правильный ответ) подразумевает, что у ИИ будут более широкие способности к рассуждению, напоминающие человеческий интеллект. Это можно применить, например, к новым научным исследованиям, считают исследователи ИИ.
В отличие от калькулятора, который может выполнять ограниченное количество операций, AGI может обобщать, учиться и понимать.
В своем письме совету директоров исследователи отметили мощь ИИ и потенциальную опасность, сообщили источники, не уточнив, какие именно проблемы безопасности отмечены в письме.
Среди ученых-компьютерщиков уже давно ведутся дискуссии об опасности, которую представляют высокоинтеллектуальные машины, например, если они могут решить, что уничтожение человечества отвечает их интересам.
Исследователи также отметили работу группы «ученых по искусственному интеллекту», существование которой подтвердили многочисленные источники. По словам одного из источников, группа, сформированная путем объединения предыдущих команд «Code Gen» и «Math Gen», изучала, как оптимизировать существующие модели ИИ, чтобы улучшить их рассуждения и, в конечном итоге, выполнять научную работу.
Сэм Альтман возглавил усилия по превращению ChatGPT в одно из самых быстрорастущих программных приложений в истории и привлек инвестиции и вычислительные ресурсы от Microsoft, необходимые для приближения к AGI.