Не биологией единой: как узнать, есть ли сознание у ИИ

Исследователи Улисс Клатцманн из Монреальского университета и Адриен Дёриг из Свободного университета Берлина опубликовали в журнале Trends Open статью, в которой разбирают, может ли искусственный интеллект обладать сознанием. Они не утверждают, что современные ИИ уже сознательны, но показывают, что биология не является очевидным и единственным ключом к субъективному опыту. Вместо готового ответа авторы предлагают пересмотреть сам подход к вопросу и не доверять слепо интуиции.

Вопрос о том, способна ли машина чувствовать боль или радость, переживать внутренний мир, давно перестал быть чисто фантастическим. Сегодня, когда нейросети пишут стихи, ведут диалоги и решают задачи, этот вопрос все чаще звучит в лабораториях. Но проблема в том, что мы сами до конца не понимаем, почему мы, люди, обладаем сознанием. Одна гипотеза связывает его с живой тканью мозга, другая с тем, как мозг обрабатывает информацию. Если верен второй подход, то в теории искусственная система могла бы когда-нибудь обрести нечто похожее на наш внутренний опыт.

Улисс Клатцманн и Адриен Дёриг решили не спорить о том, есть ли сознание у современных чат-ботов, а спросить более общий вопрос: что вообще биология может рассказать нам о возможности искусственного сознания? Для начала они уточняют, что под сознанием можно понимать многое: бодрствование, саморефлексию или просто субъективное ощущение, например, синевы неба или вкуса кофе. Авторы сосредоточились именно на феноменальном сознании, то есть на том, что мы переживаем лично, но не можем передать другому напрямую (Феноменальное сознание — это концепция в философии сознания, обозначающая субъективный опыт).

Интуитивно мы легко приписываем сознание людям и животным, но не столу или роботу. Однако сегодняшние языковые модели ведут себя настолько убедительно, что эта интуиция дает сбой. Если машина отвечает как человек, значит ли это, что она действительно что-то чувствует? По мнению авторов, мы привыкли связывать сознание с интеллектом, но теперь, когда ИИ подражает интеллектуальным функциям, мы видим, что это не одно и то же. Имитация не равна переживанию, но как отличить одно от другого, пока неясно.

Одна из популярных точек зрения, биологический натурализм, утверждает, что сознание невозможно без живой материи. Все известные нам сознательные существа — биологические, и это кажется весомым аргументом. Но авторы напоминают: то, что мы всегда видели небо голубым, не значит, что оно не может быть красным при других условиях. Чтобы доказать незаменимость биологии, нужно показать, какой именно ее аспект дает сознание. Если же заменить часть мозга компьютерным чипом, который делает ровно то же самое, но человек ведет себя абсолютно прежне — видит, говорит, реагирует, то никакой эксперимент не зафиксирует разницу. А значит, теория, которая не дает предсказаний, оказывается научно слабой.

Альтернативный взгляд, функционализм, говорит, что сознание зависит не от вещества, а от обработки информации. Мозг обладает сознанием, потому что выполняет определенные вычислительные задачи, а не потому, что он мокрый и мягкий. При этом биология может быть важна: непрерывность нейронных сигналов, самонастройка, интеграция данных, все это отличает мозг от цифрового компьютера.

Но авторы осторожно замечают, что отличие не равно причине. Например, погода тоже непрерывна и хаотична, но это не делает ее сознательной. А компьютеры вполне успешно моделируют непрерывные процессы. Так что для каждого свойства мозга нужно отдельно доказывать, что оно критично для возникновения субъективного опыта.

Исследователи призывают не поддаваться интуиции. Мол, все люди живут на Земле, но для того, чтобы жить на Земле, не обязательно быть человеком. Или что большие языковые модели «всего лишь предсказывают слова» — но ведь и человека можно свести к «всего лишь передаче генов», и это ничего не объясняет. История науки полна примеров, когда очевидное оказывалось иллюзией: твердая материя на поверку почти пустота, а время вовсе не абсолютно. Почему же наши внутренние ощущения должны быть надежным компасом в вопросе о сознании машин?

В итоге авторы не говорят «да» или «нет». Один из них признается, что был бы удивлен, если бы нынешние ИИ вдруг стали сознательными, но не готов исключать этого навсегда. Возможно, будущее потребует переформулировки вопроса: если биология действительно обязательна, люди смогут создавать гибридные системы с живыми элементами. А если сознание зависит от функций, то нужно выяснить, какие именно, и сможет ли машина их повторить.

Исследование не дает окончательного ответа, но четко показывает: вопрос о сознании машин нельзя решать на основе интуиции или простого наблюдения. Биология не является очевидным и единственным условием для субъективного опыта, а многие кажущиеся самоочевидными доводы при проверке рассыпаются. Авторы остаются агностиками, но призывают относиться к этой проблеме как к открытой научной задаче, требующей строгих определений и проверяемых гипотез, а не эмоциональных заключений.

Присоединяйтесь к нам в соцсетях