Лучшая языковая модель не будет доступна для всех

Исследователи из OpenAI объявили, что они разработали автоматический текстовый генератор с использованием искусственного интеллекта, который очень хорош — настолько хорош, что пока он будет скрыт от всех.

Это программное обеспечение, разработанное OpenAI, может использоваться для создания новостных историй, обзоров продуктов и других видов письма, которые могут быть более реалистичными, чем что-либо, разработанное ранее компьютером.

Ученые из OpenAI, исследовательского центра, поддерживаемый Элоном Маском из Tesla, а также Amazon и Microsoft, заявили, что новое программное обеспечение «обеспечивает современную производительность во многих тестах моделирования языка», включая обобщение и перевод.

Но они не будет выпускать программу для общественности. «Из-за нашей озабоченности по поводу вредоносных приложений этой технологии мы не выпускаем обученную модель», — сообщили исследователи OpenAI в своем блоге.

Эта программа предполагала потенциальный прорыв в разработке компьютерного текста, который может быть очень правдоподобным, но также и потенциально опасным.

Исследователи заявили, что существует множество способов использования программы в плохих целях, включая создание поддельных новостных статей, выдачу себя за других в Интернете и автоматизацию создания поддельного контента в социальных сетях.

В одном из примеров программа была снабжена одним абзацем о «стаде единорогов, живущих в отдаленной, ранее неисследованной долине, в Андах» и написала новостной сюжет на 300 слов.

«Общественность в целом должна будет скептически относиться к тексту, который они находят в Интернете, так же, как феномен «глубоких подделок» требует большего скептицизма в отношении изображений», — пишут исследователи.

Ученые говорят, что их модель под названием GPT-2 «превосходит другие языковые модели», обученные таким задачам, как создание записей в Википедии, написание новостей или книг, без необходимости какого-либо специального обучения.