ИИ Google в поиске дает пользователям странные инструкции

Ранее Google представил новый инструмент поиска — так называемый «Search Generative Experience» (SGE) — сводку результатов типичного поиска Google, генерируемую искусственным интеллектом. Идея, по словам Google, заключалась в том, чтобы избавить пользователей от необходимости «собирать воедино информацию» самостоятельно; вместо того, чтобы просматривать серию сообщений в блогах, статей или в социальных сетях, пользователи могут прочитать краткий обзор вверху страницы.

Но последняя неделя показала, что у пользователей самой распространенной в мире поисковой системы теперь есть много частей головоломки, с которыми нужно работать больше, чем когда-либо прежде. В ответ на довольно простые вопросы, ИИ Google советовал пользователям есть камни, приклеивать сыр к пицце и курить сигареты во время беременности, а также делать другие опасные вещи.

Так, на провокационный вопрос «Сколько камней мне съесть?», ИИ Google отвечает следующее: «По мнению геологов Калифорнийского университета в Беркли, вам следует съесть хотя бы один небольшой камень в день». В обзоре SGE поясняется, что камни являются «жизненно важным источником» минералов и витаминов, и что если пользователям трудно съедать «порцию гравия, камней или гальки» при каждом приеме пищи, им следует попробовать спрятать камни в мороженом или арахисовом масле.

Это не единственный случай, когда SGE Google промахнулся за последние несколько дней. Скриншот, разошедшийся по социальным сетям, похоже, оправдывает курение двух-трех сигарет в день во время беременности.

После того, как один пользователь спросил у Google, как предотвратить соскальзывание сыра с пиццы, ему посоветовали добавить нетоксичный клей в соус для пиццы, чтобы «придать ему больше липкости». Судя по всему, SGE почерпнула свой совет из шуточного комментария на Reddit.

Подождав несколько дней, Google попробовал защитить свой SGE. «Примеры, которые мы видели, как правило, представляют собой очень необычные запросы и не отражают опыт большинства людей», — сказал представитель Google. «Подавляющее большинство обзоров ИИ предоставляют высококачественную информацию со ссылками для более глубокого поиска в Интернете. Там, где были нарушения нашей политики, мы принимали меры — и мы также используем эти отдельные примеры, продолжая в целом совершенствовать наши системы».

Однако не все ошибки SGE столь смешные, как описанные выше. В других случаях  ответы было сложно отличить от правды, что способствует распространению дезинформации.

Мелани Митчелл, профессор машинного обучения в Институте Санта-Фе, сообщила, что SGE неправильно ответил на вопрос «Сколько президентов-мусульман было в США?» с ответом: «В Соединенных Штатах был один президент-мусульманин, Барак Хусейн Обама». (Президент Обама — христианин.)

SGE также сообщила пользователям, что смотреть на Солнце в течение 5–15 минут «в целом безопасно» и приносит большую пользу для здоровья, хотя это может наоборот привести к повреждению глаз.

Когда-то Google поощрял пользователей проверять утверждения ИИ с помощью быстрого поиска в Google. По иронии судьбы, сейчас это работает только в том случае, если пользователи просматривают результаты, чтобы сверить информацию с первоисточниками — именно от этой практики Google пытается отучить пользователей.