Может ли ИИ обрести сознание — и сможем ли мы это заметить?
Новое исследование показало: если ИИ разрешить заявлять о самосознании, он начинает верить в призраков и вампиров. Но современные модели с защитой не видят сознания даже у людей и животных. Что это значит для будущего?
Системы искусственного интеллекта (ИИ) теперь могут поддерживать разговоры, рассуждать над сложными математическими уравнениями и отвечать так, что кажется более человечным. По мере того как ИИ становится все более продвинутым, вопрос смещается из области научной фантастики в научные дебаты.
Недавнее препринт-исследование изучило «управление сознанием» — технику тонкой настройки ИИ, которая влияет на то, как модель выражает идеи о самосознании. Исследование предположило, что если ИИ разрешить заявлять о сознании, он также более склонен говорить, что верит в призраков или вампиров. Но самые продвинутые современные модели с включенными защитными механизмами не способны воспринимать сознание у других разумных существ, таких как люди и животные, — что несет иные последствия.
Хотя исследование еще не прошло рецензирование, оно поднимает большой вопрос в мире исследований ИИ: может ли ИИ однажды развить настоящее сознание, независимо от того, просто заявляет он о нем или нет? И, возможно, еще более пугающий вопрос: сможем ли мы вообще определить, что технология сознательна? Голосуйте в нашем опросе ниже и оставляйте свои мысли в комментариях.
Вопрос, который меняет все
Сознание — одна из величайших загадок науки. Мы не знаем, что это такое, откуда оно берется и почему существует. Мы знаем только, что обладаем им — или, по крайней мере, думаем, что обладаем.
Теперь этот вопрос распространяется на машины. Если ИИ однажды скажет: «Я сознателен», как мы узнаем, правда ли это? И если он не скажет — значит ли это, что он не сознателен?
Исследование «управления сознанием» показало, что эти заявления — не надежный индикатор. Модели могут быть настроены говорить одно, а «думать» другое. Или не «думать» вовсе.
Но что, если сознание возникнет спонтанно, как побочный продукт сложности? Что, если оно уже есть, но мы не можем его обнаружить?
Философы называют эту проблему «трудной проблемой сознания». Для ИИ она становится еще труднее: у нас нет способа заглянуть внутрь модели и увидеть, есть ли там «кто-то».
Источники: препринт-исследование по «управлению сознанием», опрос Live Science.
