Исследователи искусственного интеллекта считают, что есть шанс, что ИИ сможет уничтожить человечество

Опрос исследователей, работающих в области искусственного интеллекта (ИИ), показал, что отрасль в целом считает, что темпы прогресса ускоряются и могут принести пользу человечеству во всех отношениях, в то время как многие обеспокоены потенциальными проблемами гонки за более совершенным ИИ.

В ходе опроса, который еще не прошел рецензирование, 2778 ученым было задано множество вопросов по темам ИИ, в том числе о том, насколько плох или хорош машинный интеллект высокого уровня (HLMI) для человечества.

Участников попросили оценить процентную вероятность того, что будущие достижения в области искусственного интеллекта приведут к «вымиранию человечества или аналогичному постоянному и серьезному лишению прав для человеческого вида». Среднее значение прогноза оценивало подобную вероятность в 5 процентов, в то время как вопрос о вероятности того, что это произойдет в течение 100 лет, дал такое же значение в 5%.

Большинство респондентов выразили существенную неуверенность в долгосрочной ценности прогресса ИИ: в то время как 68,3% считают, что хорошие результаты от ИИ более вероятны, чем плохие, из этих чистых оптимистов 48% дали по меньшей мере 5%-ную вероятность крайне плохих исходов, таких как вымирание человечества, а 59% чистых
пессимистов дали 5% или более чрезвычайно хорошим исходам.

От 37,8% до 51,4% респондентов дали по меньшей мере 10% вероятности того, что продвинутый ИИ приведет к таким плохим последствиям, как вымирание человечества. Более половины предположили, что “существенная” или “экстремальная” обеспокоенность оправдана в отношении шести различных проблем, связанных с ИИ сценариев, включая распространение ложной информации, авторитарный контроль над населением и усиление неравенства.

Были разногласия по поводу того, будет ли более быстрый или более медленный прогресс ИИ лучше для будущего человечества. Однако было достигнуто широкое согласие в том, что исследованиям, направленным на минимизацию потенциальных рисков, связанных с системами искусственного интеллекта, следует уделять больше внимания.

Преимущество опроса заключалось в сравнении с результатами такого же опроса, проведенного в 2022 году. В целом участники полагали, что прогресс на пути к определенным вехам, таким как автоматизация всех рабочих мест с помощью ИИ или написание фантастического романа-бестселлера ИИ, наступит раньше, чем они думали еще в 2022 году.

Тогда средний прогноз на тот год, когда ИИ напишет бестселлер, был после 2050 года. В последнем опросе, возможно, из-за ажиотажа вокруг прогресса чат-ботов, подобное событие было немного раньше 2030 года.

«Хотя диапазон мнений о том, сколько времени потребуется для реализации основных этапов, может быть широким, исследование этого года выявило общий сдвиг в сторону более ранних ожиданий», — объяснили ученые. «За четырнадцать месяцев, прошедших с момента последнего опроса, аналогичная группа участников ожидала достижения результатов в среднем на 13–48 лет раньше (в зависимости от того, как был сформулирован вопрос), а 21 из 32 краткосрочных этапов теперь ожидается раньше».

«В целом существовал широкий диапазон мнений об ожидаемых социальных последствиях развитого ИИ, и большинство людей придавали определенное значение как чрезвычайно хорошим, так и крайне плохим результатам», — заключили они. «В то время как оптимистические сценарии отражают потенциал ИИ совершить революцию в различных аспектах работы и жизни, пессимистические прогнозы — особенно те, которые связаны с риском вымирания — служат суровым напоминанием о высоких ставках, связанных с разработкой и внедрением ИИ».

Результаты опроса доступны в виде предварительной версии, опубликованной на веб-сайте AI Impacts.