Лучшая языковая модель не будет доступна для всех

Программа предполагала потенциальный прорыв в разработке компьютерного текста

Исследователи из OpenAI объявили, что они разработали автоматический текстовый генератор с использованием искусственного интеллекта, который очень хорош – настолько хорош, что пока он будет скрыт от всех.

Это программное обеспечение, разработанное OpenAI, может использоваться для создания новостных историй, обзоров продуктов и других видов письма, которые могут быть более реалистичными, чем что-либо, разработанное ранее компьютером.

Ученые из OpenAI, исследовательского центра, поддерживаемый Элоном Маском из Tesla, а также Amazon и Microsoft, заявили, что новое программное обеспечение «обеспечивает современную производительность во многих тестах моделирования языка», включая обобщение и перевод.

Но они не будет выпускать программу для общественности. «Из-за нашей озабоченности по поводу вредоносных приложений этой технологии мы не выпускаем обученную модель», – сообщили исследователи OpenAI в своем блоге.

Эта программа предполагала потенциальный прорыв в разработке компьютерного текста, который может быть очень правдоподобным, но также и потенциально опасным.

Исследователи заявили, что существует множество способов использования программы в плохих целях, включая создание поддельных новостных статей, выдачу себя за других в Интернете и автоматизацию создания поддельного контента в социальных сетях.

В одном из примеров программа была снабжена одним абзацем о «стаде единорогов, живущих в отдаленной, ранее неисследованной долине, в Андах» и написала новостной сюжет на 300 слов.

«Общественность в целом должна будет скептически относиться к тексту, который они находят в Интернете, так же, как феномен «глубоких подделок» требует большего скептицизма в отношении изображений», – пишут исследователи.

Ученые говорят, что их модель под названием GPT-2 «превосходит другие языковые модели», обученные таким задачам, как создание записей в Википедии, написание новостей или книг, без необходимости какого-либо специального обучения.

Если вы нашли ошибку, пожалуйста, выделите фрагмент текста и нажмите Ctrl+Enter.

0 0 голос
Рейтинг

Подписывайтесь на наш новый канал в и наши каналы в соц.сетях
Источник blog.openai.com
Войти с помощью: 
Подписаться
Уведомление о
guest
0 Комментарий
Встроенные отзывы
Посмотреть все комментарии
Share via
0
Будем рады вашим мыслям, пожалуйста, прокомментируйте.x
()
x

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам: