Ученые рассказали, как диалог с нейросетью меняет мышление

Мы живем в цифровой эпохе, когда информация, с одной стороны, становится новым «золотом» и двигателем инноваций, а с другой – искажает истинное знание и порождает «байки». Программисты создают машины, которые значительно превосходят навыки обычного человека. Они способны изучать, анализировать и интерпретировать гигантские объёмы данных.

Нам больше не нужно по крупицам добывать знания в книгах или среди множества сайтов – достаточно написать запрос в нейросеть, и она не просто подробно ответит на вопрос, но и вполне может написать дипломную работу студента.

Как это влияет на систему образования и человека? Искусственный интеллект, который знает ответы на любые вопросы – помогает стать умнее или, наоборот, ведет к деградации? Чем диалог с нейросетью отличается от «живого» и что значит режим работы «пленника» и «механического оракула»? Об этом рассказывает кандидат философских наук, доцент кафедры философии и права ПНИПУ Елена Середкина.

На что способен GPT

GPT расшифровывается и переводится как генеративный предварительно обученный трансформатор. Это одна из наиболее мощных нейросетей для генерации текста. По оценкам специалистов последняя ее модель (GPT-4) обучена более чем по 1,7 триллиона параметрам (для сравнения человеческий мозг оценивается в 100 триллионов взаимосвязей).

Сам чат-бот пишет, что его функция – обеспечивать максимально точные и релевантные ответы на вопросы, основываясь на базе программных алгоритмов и доступных данных. Собственного разума, как у человека, у него нет. Нейросеть GPT-4 понимает наш язык, принимает запросы пользователей и выдает в ответ связанную и логически корректную информацию. То есть служит инструментом для общения, поиска и получения ответов на любые вопросы.

Елена Середкина добавляет, что на самом деле не любые. У чат-бота есть фильтры на темы-табу – она не отвечает на запросы, связанные с противозаконной или аморальной деятельностью. Например, на вопрос о создании оружия ChatGPT ответил, что не может помочь в этом запросе, «целью науки и технологий должно быть создание изобретений, которые способствуют миру и благополучию людей».

Взаимодействие с таким искусственным интеллектом ведет к огромным изменениям в обществе. Диалог как процесс приобретает совсем другие смыслы. Новый способ задавать вопросы формирует новый тип мышления.

Суть диалога – в чем?

Со времен античности культура диалога представляет собой цель и способ совместного поиска истины. Главное – не просто обмен информацией, а познание темы через активное мышление с собеседником.

– Ключевая разница диалогов в системах «человек-человек» и «человек-искусственный агент» заключается в причинах, ради которых начинается беседа. В первом случае мы задаем вопрос, но не всегда ради того, чтобы получить ответ от собеседника, а чтобы отвечающий сформировал собственное уникальное суждение. В этом случае процесс общения – это обмен идеями, – поясняет доцент кафедры философии и права ПНИПУ Елена Середкина.

Диалог с ChatGPT – полная противоположность. С опорой на инструкции, большая языковая модель нейросети представляет собой чистые потоки информации, циркулирующие по внутреннему хранилищу. Если какое-то содержание не было включено в тренировочную базу данных, то диалог даже не сможет начаться, либо «умный» бот будет давать абсурдные ответы.

ChatGPT генерирует правдоподобно звучащие ответы, а не ищет объективную истину. Его возможности по-прежнему ограничены обучающими данными и алгоритмами, ему не хватает человеческого измерения – личного опыта, интуиции и способности к эмпатии.

Массовое мнение побеждает истину, и это проблема

– Ученые выяснили, что чат-бот с искусственным интеллектом формирует свои ответы на наиболее частом утверждении, популярном среди большинства людей. ChatGPT, обученный на огромном массиве данных, может непреднамеренно выдавать субъективные мнения или дезинформацию. И это вместо того, чтобы помогать человеку узнать объективную истину, – рассказывает эксперт Пермского Политеха Елена Середкина.

Исследования показывают, что, несмотря на прогресс навыков вести диалог, нейросеть дает сбои – у нее есть слепые пятна в знаниях, ответы бывают непрозрачными. Китайский философ Ю. Минфэн провел исследование «слепых пятен» в познании ChatGPT. Он попросил рассказать о знаменитом китайском режиссере Фей Му. Чат-бот ничего о нем не знал, но все-таки представил более или менее правдоподобный ответ, используя созвучное имя физика «Ферми».

Иногда в ответах нейросети проскальзывают ошибки здравого смысла. Например, в чат-бот написали задачу: «оркестр из 120 музыкантов играет девятую симфонию Бетховена за 40 минут. Сколько времени понадобится на это исполнение оркестру из 60 музыкантов». ChatGPT не сумел выстроить логику, что время исполнения музыкального произведения не зависит от количества людей. Сейчас уже эту ошибку исправили. Но подобных ситуаций много.

Елена Середкина считает, что диалог с ChatGPT – это не беседа, а интерактивная обработка данных. В отличие от «живого» диалога в ней нет эмоциональных, интуитивных и ассоциативных элементов. Настоящее обсуждение представляет собой творческое осмысление ситуации, постановку вопросов, исходя из собственной жизненной ситуации. Этот вид творчества нельзя просто так заменить машинами и алгоритмами.

ChatGPT в образовании: недостатки

ChatGPT стал популярным особенно среди школьников и студентов. Нейросеть – универсальный помощник в учебе, отвечает на запросы, помогает писать эссе и курсовые. Кажется, больше не нужно проявлять особые интеллектуальные способности или нужно?

– Главный негативный момент – это, прежде всего, так называемая «академическая GPT-непорядочность», вид обмана, когда образовательные работы выполняются с помощью искусственного интеллекта, а учащиеся выдают их за свои. И здесь речь не столько о морали, сколько о том, что важные навыки и компетенции (работа с информацией, критическое ее осмысление, создание письменных текстов) не развиваются в достаточной мере, – поясняет Елена Середкина.

Клинический психолог Джордан Петерсон писал, что если вы хотите научиться думать, вам следует научиться писать. Навык создавать письменные тексты помогает развить у учащихся критическое мышление, логическое рассуждение, исследовательские навыки, развитие собственной точки зрения. Работая со своей задачей, студенты читают различные источники и авторов, что обогащает их базу знаний и открывает новые перспективы.

Письменное изложение полученных знаний побуждает их сформулировать план, структурировать информацию и организовать ее, например, в виде эссе или творческой презентации. Студенты также приобретают навыки логического и аналитического мышления, поскольку они развивают свои аргументы, подкрепленные убедительными доказательствами.

Эксперт Пермского Политеха подчеркивает, что еще один недостаток диалога с Chat-GPT, это угроза «культурной предвзятости». Она формирует необъективное представление (субъективное мнение) о каком-либо предмете или явлении.

Елена Середкина приводит примеры: ChatGPT заявляет, что расовое оскорбление намного хуже, чем убийство миллионов людей или взрыв ядерной бомбы. Он может критиковать только определенные религии, например, ислам, кришнаизм. Чат-бот не готов хвалить Дональда Трампа, зато слагает героические стихи в честь Джо Байдена. А еще он не может определить, что такое «женщина», но определяет «мужчину». Способен шутить о белых мужчинах, но сам себе запрещает шутки по поводу черных мужчин и женщин.

ChatGPT в образовании: преимущества

Нейросеть ChatGPT в некотором смысле способна на двустороннюю коммуникацию, то есть с ней можно вести диалог и при необходимости корректировать её ответы. Если она неверно выдала ответ, то пользователь задает наводящий вопрос или дополняет информацию, чтобы получить нужный ответ. ChatGPT отличается тем, что запоминает детали диалога и может формулировать новые ответы, опираясь на предыдущую информацию.

Человеку, который стремится получить качественный результат от беседы с ИИ, необходимо правильно задавать вопросы, а значит улучшать навыки общения, быть разборчивым и критичным к полученным ответам, отличать субъективные мнения от объективных истин.

Среди положительных моментов Елена Середкина выделяет факт, что учащиеся могут использовать ChatGPT для развития исследовательских навыков. С его помощью студенты получают доступ к огромному массиву информации по определенной теме, что поможет написать более качественную работу.

Во-вторых, ChatGPT может помочь учащимся генерировать новые идеи в процессе мозгового штурма. Задавая правильные вопросы, студенты мгновенно находят массу информации по определенной теме. Например, творческую задачу можно сформулировать так: «Чтобы сказал Платон по поводу ChatGPT, если бы жил в наше время?». ИИ дает первые общие идеи, которые впоследствии учащийся может развить.

В-третьих, педагог может сформулировать задачу так, чтобы побудить учащихся создать продукт лучше, чем это делает нейросеть и таким образом в творческой конкуренции развивать креативность.

Кроме того чат-бот дает возможность обсудить любую проблему с разных сторон, например, противоречивое наследие исторического деятеля или неоднозначный образ литературного героя. Это помогает формировать критическое мышление (проработка большого числа источников и различных точек зрения, критический отбор своей версии и ее последующая защита).

– Если объединить сильные стороны идей, которые генерирует ИИ с человеческой интуицией, сочувствием и мудростью, то люди могут использовать получившуюся синергию для принятия более эффективных решений, – уверена доцент кафедры философии и права ПНИПУ Елена Середкина.

Пленник пещеры или механический оратор

Эксперт Пермского Политеха рассказывает, что ChatGPT как инструмент критического мышления можно использовать в двух различных режимах –«пленник пещеры» и «механический оракул».

В первом случае нейросеть похожа на искусственную сущность, которая только повторяет слова и идеи бесчисленных мыслителей и ученых. Аналогия проводится с пещерой, в которой сидят пленники и видят лишь тени вещей, а не сами истинные формы. В этом случае обучающийся сам становится учителем и тренирует чат-бот. С помощью наводящих вопросов «учитель» помогает «пленнику» достичь истины относительно отдельных предметов или явлений, но это ли нужно человеку в конкретный момент?

В режиме «механического оракула» чат-бот воспринимается как создание, способное вступать в диалог с людьми и давать разнообразные идеи. Он побуждает к критическому мышлению, хотя и с учетом технических ограничений.

– Диалоги с текстовыми нейросетями – это новая реальность. Они могут прокачать наши знания и навыки, а могут лишить возможности размышлять и самостоятельно принимать решения. Как и с какой целью взаимодействовать с искусственным интеллектом – решает только сам человек, он же несет ответственность за использование полученных результатов, – подводит итог Елена Середкина, доцент кафедры философии и права Пермского Политеха.