Роботы уничтожат человечество?

Десятки тысяч ведущих ученых подписали открытое письмо, призывающее не наделять боевые машины искусственным интеллектом
Число ученых, инженеров и предпринимателей, работающих в наукоемких областях, подписавших письмо, перевалило уже за 30 тысяч. Среди них физик-теоретик Стивен Хокинг, Элон Маск, основатель ракетостроительной корпорации SpaceX и компании по производству электромобилей Tesla, один из основателей компании Apple Стив Возняк, нобелевский лауреат по физике Фрэнк Вильчек. Сбор подписей продолжается – присоединиться к прогрессивному общественному мнению можно на сайте Института будущей жизни.
Открытое письмо под названием Autonomous Weapons: an Open Letter from AI & Robotics Researchers адресовано человечеству и приурочено к международной конференции по искусственному интеллекту, которая открылась в Буэнос-Айресе.
Уже из названия письма можно понять: ученые опасаются того, что искусственный интеллект сделает боевую технику автономной. По сути появятся роботы-убийцы, которые будут выбирать цели самостоятельно. То есть, без руководящего и направляющего вмешательства людей.

По мнению авторов письма, грядет своего рода военная революция – третья по счету. Первая случилась, когда был изобретен порох, вторая – началась с появлением ядерного оружия. И вот очередную революцию нам готовит искусственный интеллект. Точнее ученые, которые готовы оснащать им системы вооружений. Хотя таких, полагают авторы письма, мало – так же мало, как тех, которые разрабатывают химическое и бактериологическое оружие. Но они есть. Чем может воспользоваться “военщина”. И тогда – беда. Ведь прогресс в области искусственного интеллекта развивается стремительно. Время до появления полноценных роботов-убийц исчисляется отнюдь не десятилетиями, а годами.
Дословно: «Если какая-либо держава, обладающая мощными вооруженными силами, попытается вырваться вперед в развитии боевых машин, оснащенных искусственным интеллектом, то глобальная гонка вооружений станет неизбежной. И приведет, в итоге, к тому, что автономные системы вооружения станут “Калашниковыми” завтрашнего дня».
Главное опасение: роботы, способные выйти на поле боя вместо живых солдат, принципиально изменят характер военных действий. У политиков пропадет страх. Наоборот, появится соблазн использовать бесчувственных терминаторов. Например, для уничтожения целых этнических групп. Возможные людские потери со своей стороны вообще перестанут сдерживать. Начинать войны станет легче.
Авторы письма подчеркивают, что ключевой вопрос для человечества сейчас такой: начинать ли гонку вооружений с искусственным интеллектом или нет. Призывают остановиться пока не поздно, а подобные системы требуют запретить. Как к примеру, химическое оружие.

Распространенное ныне письмо отнюдь не стало первым подобного рода. В начале 2015 года свои опасения на счет искусственного интеллекта Стивен Хокинг и Элон Маск уже выражали. Тогда к ним примкнул и Билл Гейтс, которого пока почему-то нет среди подписантов. Эта могучая троица вообще пугала, что искусственный интеллект скоро поработит человечество. Или уничтожит за ненадобностью