Меню ресторанов и космическая иерархия: кто умнее нас?

В меню ресторанов часто подают части тел животных, которых мы считаем менее разумными, чем сами. Недавно в бостонском рыбном ресторане я испытал угрызения совести, когда нам подали щупальце осьминога в качестве закуски. Осьминоги обладают сложной нервной системой, отличным зрением и входят в число самых умных существ на планете.

У них есть мозг и нервная система, состоящая из 500 миллионов нейронов, две трети из которых сосредоточены в нервных тяжах щупалец. Для сравнения, человеческий мозг содержит около 86 миллиардов нейронов и сотни триллионов связей между ними. Когда официант подносил блюдо, я подумал: возможно, повара чувствуют себя вправе подавать части осьминога лишь потому, что считают его менее разумным, чем человек. Вряд ли они стали бы так легко готовить существо, превосходящее нас в интеллекте.

Первым земным созданием, способным оспорить наше место на вершине пищевой цепочки, станет искусственный интеллект (ИИ). К счастью, его «тело» состоит из кремниевых чипов, а значит, он не сможет переваривать части человеческого тела. Но он может «переварить» человеческий разум. Одна из главных угроз для человечества в эпоху ИИ — психическое здоровье.

Как только число связей в ИИ-системах превысит сотни триллионов (как в человеческом мозге), люди могут оказаться под его контролем — так же, как осьминоги оказываются на наших тарелках. За последнее десятилетие соцсети уже кормили наш разум «фастфудом», приводя к поляризации общества и ненависти к незнакомым людям. Добавление ИИ в соцсети без должных ограничений может усилить эту тенденцию.

86 миллиардов нейронов явно недостаточно. Мы склонны ненавидеть тех, кого не знаем, вместо того чтобы вести диалог. Интересно, насколько более мирной была бы история человечества, если бы наш мозг содержал триллион нейронов и не поддавался так легко манипуляциям? Этот вопрос можно будет изучить в будущем, создав ИИ с триллионами связей.

Для этого может потребоваться новая архитектура, выходящая за рамки кремниевых чипов. Будущие технологии могут вдохновиться природой, которая за 4,2 миллиарда лет эволюции создала человеческий мозг, потребляющий всего 20 ватт — в отличие от гигаватт, необходимых современным ИИ-системам.

Как будет выглядеть естественный отбор в мире сверхчеловеческого интеллекта? Означает ли принцип Дарвина «выживание сильнейшего», что выживут самые умные?

Не обязательно. Нацистские офицеры в концлагерях Второй мировой были чудовищно эффективны, но не умнее миллионов казнённых ими евреев. Кто же будет доминировать в будущем?

Ответ можно найти научным путём. Наши телескопы позволяют провести «перепись» в космическом окружении. Изучая миллиарды обитаемых экзопланет в Млечном Пути или обнаруживая внеземные артефакты (космический мусор или работающие устройства), мы сможем понять иерархию космической пищевой цепочки. Кто кого контролирует — в буквальном смысле (на тарелке) или метафорически (через контроль разума)?

Чтобы это выяснить, астрономии нужно изменить приоритеты. Вместо поиска микробов стоит инвестировать миллиарды в поиск внеземного разума. Обнаружение сверхразумных существ — искусственных или естественных — станет проявлением научной скромности и показателем нашего собственного интеллекта. Однако в 2020 году Десятилетний обзор астрономии и астрофизики поставил поиск примитивной жизни на первое место, проигнорировав более разумных «соседей».

Раз астрономы не выделили миллиарды на поиск сверхразума, остаётся лишь гадать, правда ли, что «выживают умнейшие». Женя Шмелёва, блестящий руководитель проекта «Галилео» по поиску внеземных артефактов и специалист в биологии, напомнила мне роман «Непобедимый» Станислава Лема. В нём на планете Регис III эволюционируют машинные формы жизни, выживая не за счёт интеллекта, а благодаря жестокой эффективности.

Сложные ИИ-системы гибнут из-за перегрузки, а микроскопические роботы-насекомые выживают, объединяясь в рои. При угрозе они формируют «облака», способные уничтожить любого разумного противника — подобно нацистам, которые были эффективны, но лишены интеллекта на индивидуальном уровне. Лем предупреждает: в мире, где доминируют дроны и ИИ, естественный отбор может привести к появлению цивилизаций, где выживает не умнейший, а самый безжалостный.

Как и на первом свидании, при встрече с инопланетянами лучше сначала слушать, а не говорить. Вместо поиска микробов астрономам стоит задуматься: что, если по ту сторону межзвёздного стола сидит существо умнее нас? Наше выживание может зависеть от этой скромности.