Эксперты предупреждают, что искусственный интеллект может уничтожить человечество

Искусственный интеллект, когда-то считавшийся вымыслом писателей-фантастов, постепенно становится частью нашей жизни. Современные технологии научились точно ставить медицинские диагнозы, распознавать лица, управлять дронами и автомобилями.

Историк и философ Эмиль Торрес предупреждает, что искусственный интеллект таит в себе большую опасность и может даже уничтожить все человечество. Так что же такое ИИ — наш верный помощник или страшная угроза?

На пути к промышленной революции

Цзоу Циюн, управляющий директор Организации промышленного развития ООН, заявил, что высокие технологии очень важны для человечества. Он сказал, что ИИ повышает эффективность производства, особенно при удаленной работе, и приближает мир к четвертой промышленной революции.

«Технологии искусственного интеллекта могут повысить эффективность и гибкость в производственном секторе, особенно в ситуациях, когда цепочки поставок нарушены и работа ведется удаленно», — сказал он, выступая на Всемирной конференции по искусственному интеллекту в Шанхае.

Циён добавил, что современные технологии окажут значительное влияние на глобальную промышленность, экономику, общество и культуру.

Как машины стали умнее людей

Философ и историк Эмиль Торрес убежден, что компьютеры скоро станут намного умнее людей. Многие системы уже достигли сверхчеловеческих способностей — боты с разгромным счетом побеждают титулованных шахматистов и опытных игроков в покер. По словам историка, искусственный интеллект не собирается останавливаться в своем развитии.

«Новые достижения в области ИТ позволят создавать все более совершенные технологии искусственного интеллекта: алгоритмы, способные решать сложные задачи сразу в нескольких областях. Представьте себе одну программу, которая может не только легко обыграть гроссмейстера в шахматы, но и писать романы, сочинять музыку и вести машину по оживленной улице», — написал обозреватель в The Washington Post.

Историк считает, что к 2075 году искусственный интеллект полностью превзойдет человеческий. И это, конечно, вызывает серьезные опасения. Торрес считает, что ИИ может объявить войну людям и стереть их с лица земли.

«Если искусственный интеллект уничтожит нас, это произойдет случайно. Когнитивные процессы ИИ сильно отличаются от наших. Они, пожалуй, самая непредсказуемая вещь в нашем будущем», — сказал он.

«Технологии опаснее ядерного оружия»

Люди не могут предсказать действия ИИ даже во время игры, что уж говорить о более глобальных задачах? Торрес убежден, что если человечество даст компьютеру слишком много мощности, он погибнет.

«Что, если ИИ, запрограммированный принести мир на землю, взломает правительственные системы и запустит ядерное оружие? Ведь если люди исчезнут с лица земли, то войны не будет. Да, мы можем настроить компьютер так, чтобы он этого не делал. Но у ИИ может быть свой план Б», — сказал Торрес.

Влиятельные ученые и бизнесмены также говорят об угрозе, которую представляет искусственный интеллект. Знаменитый физик Стивен Хокинг неоднократно предупреждал, что продвинутый ИИ сможет постоянно самосовершенствоваться. И скорость его эволюции будет несоизмерима со скоростью развития человечества. Люди рискуют оказаться на низшей ступени развития.

Похожего мнения придерживается и американский миллиардер Илон Маск. Бизнесмен считает, что людям нужно быть предельно осторожными с технологиями, потому что «они потенциально более опасны, чем ядерное оружие».

«Я думаю, что мы должны быть очень осторожны с искусственным интеллектом. Если бы я предположил, что представляет собой наша самая большая экзистенциальная угроза, вероятно, это было бы так. Поэтому нам нужно быть очень осторожными с искусственным интеллектом», — сказал Маск, выступая в Массачусетском технологическом институте.

«Ученые все чаще думают, что должен быть какой-то регулирующий надзор, возможно, на национальном и международном уровне, просто чтобы убедиться, что мы не делаем что-то очень глупое. С помощью искусственного интеллекта мы вызываем демона. Во всех тех историях, где есть парень с пентаграммой и святой водой, он как будто уверен, что может контролировать демона. Не получилось».

«С помощью искусственного интеллекта мы вызываем демона. Во всех рассказах о парне с пентаграммой и святой водой этот парень уверен, что может управлять демоном. Это не сработало», — сказал Маск, выступая в Массачусетском технологическом институте.

«Мы не готовы к эпохе супертехнологий»

Конечно, сейчас теории о появлении машин кажутся чем-то из области фантастики. Однако сценарий, при котором искусственный интеллект окажется в руках опасных мошенников или террористов, вполне реален.

Эксперты бьют тревогу: в неумелых руках современные технологии могут стать страшным оружием. Хакеры уже научились создавать поддельные видеоролики с участием влиятельных политиков и знаменитостей, практически неотличимые от настоящих. А с помощью дрона, оснащенного программным обеспечением для распознавания лиц, злоумышленники выслеживают своих жертв и даже могут их убить.

По словам Торреса, человечество еще не готово к эпохе сверхразумных машин. Понимание технологий только начинает формироваться, а ситуация в мире крайне нестабильна. Это, например, доказывает нападение России на Украину.

Внедрять искусственный интеллект во все сферы жизни сейчас — это все равно, что «зажечь спичку рядом с фабрикой фейерверков», считает автор.