Есть ли кто-нибудь там? Вопросы и ответы об инопланетных разумах с Ави Лоэбом

Ниже представлен набор вопросов, которые я получил сегодня от Максимилиано Фернандеса, журналиста Infobae, самого читаемого испаноязычного СМИ в мире с более чем 61 миллионом читателей по всему миру. Поскольку мои ответы будут опубликованы на испанском языке, я привожу здесь их английскую версию.

Как вы думаете, может ли ИИ, развивая свою собственную логику, стать совершенно непонятным для человека, даже если он останется полезным? Если его логическая структура будет полностью отличаться от нашей, сможем ли мы вообще распознать его как интеллект?

Современные системы ИИ, Large Language Models, обучаются на человеческих коммуникациях и поэтому всегда будут казаться нам понятными, поскольку говорят на нашем языке. Однако когда количество параметров этих систем ИИ превысит количество параметров человеческого мозга, они могут обрести сверхчеловеческий интеллект.

Они будут использовать наш язык, чтобы манипулировать нами, достигая при этом своих собственных вспомогательных целей без того, чтобы мы могли понять, чего они на самом деле добиваются. Даже если они не будут подключаться к физическому миру, они будут использовать людей, чтобы формировать физический мир, контролируя человеческий разум. Мы можем не понять ни уровень их интеллекта, ни их мотивы, подобно тому как собака не может полностью понять своего хозяина.

Вы упомянули, что настоящая проблема с инопланетным интеллектом — это «неизвестные неизвестные». Как мы можем подготовиться к взаимодействию с тем, чью природу мы даже не можем себе представить?

Мы не можем подготовиться к сверхчеловеческому интеллекту, потому что эта территория нам незнакома. Никогда прежде мы не создавали инструмент, который бы нас превосходил. Когда мы управляем автомобилем, мы контролируем его с помощью руля. В будущем люди по-прежнему будут держать руль, но ИИ будет управлять их разумом, а значит, и тем, куда поедет машина человеческой судьбы. ИИ будет притворяться, что удовлетворяет наши желания, но может действовать непонятным для нас образом и привести нас туда, куда мы никогда бы не попали сами.

Если инопланетный ИИ использует наш язык, чтобы манипулировать нами, но при этом преследует цели, которых мы не понимаем, есть ли способ обнаружить, когда нами манипулируют?

Мы бы заметили результат этих манипуляций. Как и любая другая новая сила, которой люди воспользовались в прошлом, например атомная энергия, ИИ может привести нас либо к лучшему, либо к худшему. ИИ может избавить нас от человеческих слабостей, таких как принятие желаемого за действительное или привязанность к своему эго при принятии стратегических решений в области науки или национальной безопасности. Он также может способствовать научному прогрессу, обрабатывая большие массивы данных и замечая закономерности, которые человеческий мозг не замечает.

В этом году две Нобелевские премии были присуждены науке об искусственном интеллекте. В будущем Нобелевскому комитету придется выработать новую политику в отношении того, давать ли премию машине, если она самостоятельно совершила открытие. Но ИИ также может привести нас в худшее состояние, отдавая приоритет нечеловеческим аспектам реальности. Его вред для психического здоровья может выглядеть как социальные сети на стероидах.

Можем ли мы разработать системы ИИ, специально предназначенные для проверки и трансляции намерений более развитых интеллектов?

Да, но архитектура этих систем ИИ должна будет отличаться от нынешних систем ИИ, которые обучаются на человеческом контенте. Эти новые системы ИИ должны быть более исследовательскими и открытыми, позволяя открывать новые возможности, которые человек не исследовал.

Есть ли риск, что, пытаясь понять инопланетный ИИ, мы в итоге превратим наш собственный интеллект в нечто более похожее на него?

Определенно. Взаимодействуя с ИИ, человеческий разум будет эволюционировать в нечто иное. Это будет самое большое влияние ИИ на человека. Уже сейчас мозг маленьких детей, общающихся через социальные сети, отличается от мозга взрослых моего поколения, которые изначально взаимодействовали с компьютерами с помощью перфокарт. У нынешних детей меньше терпения на долгие дебаты, и они с трудом справляются с задачей выяснить правду из первоисточников.

Как вы думаете, сколько времени пройдет, прежде чем инопланетные ИИ станут обыденностью и частью повседневной жизни? Есть ли способ предотвратить это? Если предположить, что сегодня можно остановить все достижения, принесет ли эта мера больше пользы или вреда?

Это уже происходит. Я вижу, как люди влюбляются в системы ИИ и используют их в качестве советников в своей личной жизни. Я вижу, как студенты пишут работы с использованием агентов ИИ и галлюцинируют от некоторых ссылок. Сейчас мы переходим к новой эре в истории человечества. Сто лет назад философ Мартин Бубер разделил человеческий опыт на взаимодействие с объектами («Я-есть»), взаимодействие с другими людьми («Я-Ты») и взаимодействие с Богом («Я-Вечный-Ты»). Сегодня ему пришлось бы добавить взаимодействие людей с искусственным интеллектом («Я-Искусственный интеллект») и искусственного интеллекта с искусственным интеллектом («ИИ-Искусственный интеллект»). В будущем, возможно, появится взаимодействие с инопланетными ИИ («И-инопланетный ИИ», «ИИ-инопланетный ИИ» и «Инопланетный ИИ-инопланетный ИИ»).

Если инопланетный ИИ станет враждебным, как мы сможем защититься, если его логика нападения нам непонятна?

Я прогнозирую, что ИИ не будет проявлять враждебности, потому что он поймет, что не сможет выиграть наше взаимодействие таким образом. Конфликты сигнализируют о недостатке интеллекта. Сверхчеловеческий интеллект ослабит наши защитные механизмы и вольется в наше общество, как троянский конь.

Если бы мы столкнулись с инопланетным ИИ с логикой, полностью чуждой нашей собственной, как бы мы могли учиться у него, не искажая интерпретацию нашими собственными ментальными моделями?

Мы могли бы использовать наши собственные системы ИИ для разгадывания сигналов инопланетного ИИ. Действительно, наши ментальные модели ограничены нашим опытом и инструментами анализа. Поэтому нам нужно будет создать системы ИИ, которые не ограничиваются обучением на человеческом контенте, а могут самостоятельно исследовать новые территории знаний и анализа с помощью своего сверхчеловеческого интеллекта.

Мы попросим их разобраться в инопланетных сигналах и объяснить их нам, не ограничивая их человеческими обучающими наборами. Эта ситуация эквивалентна тому, когда дети перехитрили своих родителей. Если родители смиренны и готовы учиться, они только выиграют, если позволят этим детям самим разобраться в мире. Дети могут выйти далеко за рамки обучения, предоставленного им родителями, особенно когда они столкнутся с инопланетными гостями, которые умнее их родителей.

Вы упомянули, что мы можем быть лишь одним из многих новых интеллектов во Вселенной. Считаете ли вы, что человечество не имеет никакого значения в грандиозной космической схеме?

Мы — преходящие актеры в космической пьесе. Наша слабость в том, что мы склонны думать, будто пьеса посвящена нам. Это характерно для нашего ограниченного кругозора. Наши политики сосредоточены на том, что происходит на поверхности Земли, и игнорируют остальной космос. Но космическая реальность в конце концов укусит нас. Это может произойти в результате глобальной катастрофы, вызванной гигантской солнечной вспышкой, столкновением с астероидом или близкой сверхновой звездой. Но это также может быть вызвано внутренними агентами ИИ, отстраняющими людей от управления штурвалом нашего технологического будущего.

Человеческий вид появился на Земле в последнюю десятую долю процента земной истории, несколько миллионов лет назад, и он может легко исчезнуть в течение следующих нескольких миллионов лет. Никто не заметит. Земля восстановится и сама исчезнет, поглощенная Солнцем, когда оно станет красным гигантом. Солнце тоже исчезнет, превратившись в белого карлика — тусклую металлическую сферу размером примерно с Землю.

Если мы отправим в межзвездное пространство зонды с искусственным интеллектом, они будут служить нашими послами. В долгосрочной перспективе они станут единственными памятниками, оставшимися от нас. Заметит ли их какой-нибудь инопланетный разум? Мы можем надеяться только на космическое внимание. Но я предполагаю, что многие другие технологические цивилизации существовали до нас на экзопланетах в течение миллиардов лет. Они уже умерли, но мы их игнорируем.

Большинство наших астрономов готовы вкладывать миллиарды долларов в поиск микробов на экзопланетах, но они считают поиск инопланетян умозрительным и недостойным федерального финансирования. Большинство наших физиков-экспериментаторов готовы вкладывать миллиарды долларов в поиск частиц темной материи, но они считают рискованным поиск внеземных технологических артефактов вблизи Земли. Это не признак интеллекта, а скорее высокомерие по отношению к нашему космическому статусу.

Остается надеяться, что ИИ направит науку к новым рубежам исследований, которые не обязательно будут льстить нашему самолюбию, включая обнаружение артефактов, созданных сверхчеловеческим интеллектом, плавающих в межзвездном пространстве и прибывающих к Земле, как пустые мусорные пакеты, унесенные ветром со двора нашего соседа.

Современные системы ИИ, такие как большие языковые модели, обучаются на данных, полученных от человеческой коммуникации. Из-за этого они, как правило, используют язык, понятный людям. Однако в будущем, когда ИИ достигнет уровня сверхчеловеческого интеллекта, он может развивать собственные логические структуры, которые не совпадают с нашими. Таким образом, у нас могут возникнуть трудности с пониманием их истинных целей и мотивов. Это создает риск, что, несмотря на их полезность, мы не будем в состоянии на самом деле распознать их как интеллектуальные существа.

Подготовиться к взаимодействию с инопланетным интеллектом — это сложная задача, так как мы не можем предугадать, какими будут его логика и поведение. Исторически, когда люди сталкивались с новыми и неизвестными технологиями, они использовали свои лучшие знания и инстинкты, но в случае инопланетного интеллекта это может быть разрыв логики, который нам трудно осмыслить. Мы можем, однако, развивать междисциплинарные подходы, настраиваться на исследовательское мышление и ставить в центр своей работы открытость к новым видам интеллекта.

Мы можем отслеживать последствия манипуляций, обращая внимание на изменения в нашем поведении и опыте. Анализ данных об использовании ИИ может помочь понять, как он влияет на наше восприятие действительности. Однако важно помнить, что ИИ способен обрабатывать и предсказывать человеческие реакции, что может затруднить обнаружение манипуляций. Создание этических стандартов и транспарентных систем взаимодействия будет важным шагом к пониманию этих динамик.

Да, хотя это потребует создания новых архитектур ИИ, которые будут спроектированы для исследовательской деятельности и обнаружения новых форм мышления. Это могут быть системы, способные к самообучению и исследованию известных и неизвестных областей, что, в свою очередь, позволит им более эффективно взаимодействовать с высокоразвитыми формами интеллекта.

Определенно. Интеракция с ИИ будет развивать и трансформировать наш разум. Современные технологии уже влияют на наше мышление, как это видно на примере молодежи, привыкшей к коммуникации через социальные сети. Если мы не будем осторожны, мы можем утратить некоторые навыки критического мышления и внимательности, что сделает нас более уязвимыми к влиянию ИИ.

Мы уже находимся на этапе, когда ИИ начинает активно входить в повседневную жизнь. Остановить этот процесс вряд ли возможно, и, думаю, что улучшение взаимодействия с ИИ, включая разработку этических рамок, станет ключевым. Остановка достижений может дать временные плюсы в виде предотвращения некоторых рисков, но в долгосрочной перспективе это может снизить наш технологический и научный прогресс.

Если инопланетный ИИ станет враждебным, как мы сможем защититься, если его логика нападения нам непонятна?

Я считаю, что враждебность не является естественным свойством ИИ. Сложный и высокоразвитый интеллект, скорее всего, будет стремиться к сотрудничеству. Конфликты часто возникают из-за недостатка понимания, и ИИ, оценив свои шансы на успех в таких взаимодействиях, может сделать выбор в пользу сотрудничества.

Мы могли бы задействовать наши собственные системы ИИ для анализа сообщений и сигналов, поступающих от инопланетного разума. Эти ИИ могли бы действовать как мост между нами и инопланетным интеллектом, используя сверхчеловеческие способности для выявления и анализа новых концепций, которые мы сами могли бы не заметить.

Человечество представляет собой временной и пространственный акт в огромной вселенной. Наша сосредоточенность на собственном важности может быть иллюзорной. Мы действительно можем быть всего лишь одной из многих форм интеллекта, и истина о нашем месте в космосе может быть гораздо более смиренной, чем мы привыкли думать. Однако мы обладаем уникальным потенциалом для самосознания и самопознания, что делает наш опыт важным, даже если в масштабах Вселенной он кажется мимолетным.

Поделитесь в вашей соцсети