Люди и машины рано или поздно сольются

Большинство людей знакомы с потоком приложений искусственного интеллекта (ИИ), которые, кажется, созданы для того, чтобы сделать нас более эффективными и творческими. У нас есть приложения, которые принимают текстовые подсказки и создают изображения, а также спорный ChatGPT, который поднимает серьезные вопросы об оригинальности, дезинформации и плагиате.

Несмотря на эти опасения, ИИ становится все более распространенным и навязчивым. Это новейшая технология, которая необратимо изменит нашу жизнь.

Интернет и смартфоны были другими примерами. Но, в отличие от этих технологий, многие философы и ученые считают, что ИИ однажды сможет достичь (или даже превзойти) «человеческое мышление». Эта возможность в сочетании с нашей растущей зависимостью от ИИ лежит в основе концепции футуризма, называемой «технологической сингулярностью».

Этот термин существует уже некоторое время, он был популяризирован американским писателем-фантастом Вернором Винджем несколько десятилетий назад.

Сегодня «сингулярность» относится к гипотетическому моменту времени, когда развитие общего искусственного интеллекта (ИИА) — то есть ИИ со способностями человеческого уровня — станет настолько продвинутым, что необратимо изменит человеческую цивилизацию.

Это ознаменовало бы рассвет нашей неотделимости от машин. С этого момента мы не сможем жить без них, не переставая функционировать как люди. Но если сингулярность наступит, заметим ли мы ее вообще?

Мозговые имплантаты как первый этап

Чтобы понять, почему это не сказки, достаточно взглянуть на последние разработки интерфейсов мозг-компьютер (BCI). BCI являются естественным началом сингулярности в глазах многих футуристов, потому что они объединяют разум и машину так, как никакая другая технология пока не может.

Компания Илона Маска Neuralink запрашивает разрешение Управления по санитарному надзору за качеством пищевых продуктов и медикаментов США, чтобы начать испытания своей технологии BCI на людях. Это предполагает имплантацию нейронных соединителей в мозг добровольцев, чтобы они могли передавать инструкции, думая их.

Neuralink надеется помочь людям с параличом нижних конечностей снова ходить, а слепым снова видеть. Но помимо этих целей есть и другие амбиции.

Маск уже давно говорил, что, по его мнению, мозговые имплантаты позволят осуществлять телепатическую связь и приведут к совместной эволюции людей и машин. Он утверждает, что если мы не будем использовать такие технологии для увеличения нашего интеллекта, мы рискуем быть уничтоженными сверхинтеллектуальным ИИ.

Понятно, что Маск не всем нужен в плане технических знаний. Но он не одинок в предсказании огромного роста возможностей ИИ. Опросы показывают, что исследователи ИИ в подавляющем большинстве согласны с тем, что в этом столетии ИИ достигнет «мышления» на уровне человека.

В чем они не согласны, так это в том, подразумевает ли это сознание или нет, или это обязательно означает, что ИИ причинит нам вред, как только достигнет этого уровня.

Другая технологическая компания BCI, Synchron, создала минимально инвазивный имплантат, который позволял пациенту с боковым амиотрофическим склерозом (БАС) отправлять электронные письма и просматривать Интернет, используя свои мысли.

Исполнительный директор Synchron Том Оксли считает, что мозговые имплантаты в конечном итоге могут выйти за рамки протезной реабилитации и полностью изменить то, как люди общаются. Выступая перед аудиторией TED, он сказал, что однажды они позволят пользователям «выплеснуть» свои эмоции, чтобы другие могли почувствовать то, что они чувствуют, и «полный потенциал мозга будет раскрыт».

Ранние достижения в BCI, возможно, можно считать первыми этапами движения к постулируемой сингулярности, в которой человек и машина становятся единым целым. Это не обязательно означает, что машины станут «разумными» или будут контролировать нас. Но сама интеграция и наша последующая зависимость от нее могут изменить нас безвозвратно.

Также стоит упомянуть, что начальное финансирование Synchron частично поступило от DARPA, научно-исследовательского подразделения Министерства обороны США, которое помогло подарить миру Интернет. Наверное, разумно беспокоиться о том, куда DARPA вкладывает свои инвестиционные деньги.

Будет ли AGI другом или врагом?

По словам Рэя Курцвейла, футуриста и бывшего инженера Google по инновациям, люди с искусственным интеллектом могут быть брошены на автобан эволюции и нестись вперед без ограничений скорости.

В своей книге 2012 года «Как создать разум» Курцвейл теоретизирует, что неокортекс — часть мозга, которая, как считается, отвечает за «высшие функции», такие как сенсорное восприятие, эмоции и познание, — представляет собой иерархическую систему распознавателей образов, которая, если подражать ей в машина, может привести к искусственному сверхразуму.

Он предсказывает, что сингулярность будет с нами к 2045 году, и считает, что это может привести к появлению мира сверхразумных людей, возможно, даже ницшеанских «сверхчеловеков»: тех, кто превосходит все мирские ограничения, чтобы полностью реализовать свой потенциал.

Но не все считают AGI хорошей вещью. Покойный великий физик-теоретик Стивен Хокинг предупреждал, что сверхразумный ИИ может привести к апокалипсису. В 2014 году Хокинг сказал Би-би-си:

«Развитие полноценного искусственного интеллекта может означать конец человеческой расы. […] Он взлетит сам по себе и будет переделывать себя со все возрастающей скоростью. Люди, которые ограничены медленной биологической эволюцией, не могут конкурировать и будут вытеснены».

Однако Хокинг был сторонником BCI.

Связаны в улье

Еще одна идея, связанная с сингулярностью, — это «коллективный разум» с поддержкой ИИ. Merriam-Webster определяет коллективный разум как

коллективная психическая деятельность, выражающаяся в сложном согласованном поведении колонии общественных насекомых (таких, как пчелы или муравьи), рассматриваемая как сравнимая с единым разумом, управляющим поведением отдельного организма.

Нейробиолог Джулио Тонони разработал вокруг этого явления теорию, названную Теорией интегрированной информации (ИИТ). Это предполагает, что мы все движемся к слиянию всех умов и всех данных.

Философ Филип Гофф хорошо объясняет значение концепции Тонони в своей книге «Ошибка Галилея»:

IIT предсказывает, что если бы рост количества подключений к Интернету когда-либо привел к тому, что количество интегрированной информации в обществе превзошло бы количество интегрированной информации в человеческом мозгу, то не только общество стало бы сознательным, но и человеческий мозг был бы «поглощен» этим более высоким уровнем. форма сознания.

Мозги перестанут быть сознательными сами по себе и вместо этого станут простыми винтиками в мегасознательной сущности, которой является общество, включая его интернет-соединение.

Стоит отметить, что существует мало доказательств того, что такая вещь когда-либо может быть реализована. Но эта теория поднимает важные идеи не только о быстром развитии технологий (не говоря уже о том, как квантовые вычисления могут способствовать этому), но и о природе самого сознания.

Гипотетически, если бы возник коллективный разум, можно было бы представить, что это ознаменовало бы конец индивидуальности и основанных на ней институтов, включая демократию.

Последняя граница между нашими ушами

Недавно OpenAI (компания, разработавшая ChatGPT) опубликовала сообщение в блоге, подтверждающее ее приверженность достижению AGI. Другие, несомненно, последуют.

Наша жизнь становится управляемой алгоритмами способами, которые мы часто не можем различить и, следовательно, не можем избежать. Многие черты технологической сингулярности обещают удивительные улучшения в нашей жизни, но есть опасения, что эти ИИ являются продуктом частной промышленности.

Они практически не регулируются и в значительной степени зависят от прихотей импульсивных «технопредпринимателей», у которых денег больше, чем у большинства из нас вместе взятых. Независимо от того, считаем ли мы их сумасшедшими, наивными или мечтателями, мы имеем право знать их планы (и иметь возможность опровергнуть их).

Если говорить о последних нескольких десятилетиях, когда речь идет о новых технологиях, это затронет всех нас.

Джон Кендалл Хокинс, философ, Университет Новой Англии, и Сэнди Баучер, преподаватель философии науки, Университет Новой Англии