Ученые рассказали, способен ли искусственный интеллект атаковать человечество

Ряд ученых, философов и экспертов в области технологий из международных образовательных учреждений опубликовали статью, в которой они проанализировали опасность, заявив, среди прочего, что, если такая сущность возникнет, ее будет невозможно остановить.

Авторы исследования, представляющие академические институты и технологические организации США, Австралии и Мадрида, опубликовали свои выводы в Journal of Artificial Intelligence Research. В статье представлена ​​сложная картина взаимоотношений человечества и его умных устройств.

Область искусственного интеллекта завораживала и пугала человечество на протяжении десятилетий, фактически с момента изобретения компьютера, но до недавнего времени потенциальные опасности ограничивались научно-фантастическими фильмами и книгами.

Исследователи отметили, что ИИ в последние годы развивался невероятными темпами благодаря новым методам, таким как машинное обучение и обучение с подкреплением, которые успешно применяются в большом количестве областей.

«Знаем мы это или нет, ИИ фундаментально влияет на многие аспекты человеческой жизни, на то, как мы воспринимаем продукты и услуги, от выбора до потребления. Примеры этого включают улучшенную медицинскую диагностику с помощью обработки изображений, персонализированные рекомендации фильмов и книг, фильтрацию электронной почты и многое другое. Умные устройства, которые мы используем ежедневно, активируют множество приложений ИИ», — пишут исследователи.

В качестве примера исследователи заявили, что устройства смартфонов не просто используют ИИ, но запускают самообучающееся программное обеспечение и хранят почти бесконечную информацию о пользователе.

Один из наиболее важных аспектов эволюции ИИ в продвинутое сверхсущество характеризуется прорывами в вычислительной мощности машин, способностью разрабатывать алгоритмы и, конечно же, развитием, которое люди сделали в технологиях, связанных с миром коммуникация.

«Способность машин побеждать противников-людей в различных игровых ситуациях, таких как шахматы, покер, викторины и т. д., символизирует тенденцию, подпитываемую экспоненциальным ростом вычислительной мощности компьютеров, что позволяет им побеждать лучшие человеческие умы. Эти риски варьируются от машин, вызывающих серьезные нарушения на рынке труда, до использования дронов и другого автономного оружия, которое может быть использовано против людей», — говорят исследователи.

Исследователи утверждают, что наибольший риск представляет собой сверхинтеллектуальный ИИ, который умнее самого лучшего человеческого мозга во всех возможных областях.

«Сверхразумный ИИ обладает инструментами для мобилизации различных ресурсов для достижения целей. Сверхразум, учитывая задачу максимизировать счастье в мире, может подумать, что эффективнее уничтожить всю жизнь на Земле и создать более быстрые компьютерные симуляции счастливых мыслей», — поясняют исследователи.

Исследователи утверждают, что способность современных компьютеров адаптироваться с использованием сложных алгоритмов машинного обучения мешает нам понять или подготовиться к возможности появления такого сверхИИ.

Опасение состоит в том, что один сверхразумный ИИ может одновременно хранить в своей памяти все возможные компьютерные программы, и любая программа, написанная для предотвращения причинения вреда людям машинами, может быть стерта или переписана, и у людей не будет возможности наверстать упущенное время или предотвратить его.