Министерство обороны США пыталось создать Скайнет
С 1983 по 1993 год Управление перспективных исследований и разработок министерства обороны США (DARPA) потратило более миллиарда долларов на программу под названием Strategic Computing Initiative (Стратегическая компьютерная инициатива, или СКИ). Цель DARPA состояла в том, чтобы расширить границы вычислительной техники, искусственного интеллекта и робототехники, создав нечто новое, очень напоминающее антиутопическое будущее из фильмов о Терминаторах. Оно хотело создать «Скайнет».
Как и программа Звездных войн Рональда Рейгана, идея СКИ оказалась слишком футуристической для своего времени. Но сегодня, когда мы видим поразительные успехи в создании военными искусственного интеллекта и самостоятельных роботов, есть смысл вернуться к этой полузабытой программе и задать себе вопрос: готовы ли мы жить в мире связанных между собой электронным мозгом машин-убийц? И еще один, возможно, бесполезный вопрос. Если мы захотим прекратить это, не опоздали ли мы со своим желанием?
«Возможности поистине ошеломляющие…»
Если техника нового поколения будет развиваться так, как мы ожидаем, то появятся уникальные новые возможности для применения компьютеров в военном деле. Например, вместо принятия на вооружение простых управляемых ракет или летательных аппаратов с дистанционным управлением можно будет запускать полностью автономные наземные, морские и воздушные аппараты, способные выполнять сложные и очень разнообразные задачи по ведению разведки и нанесению ударов. Возможности поистине ошеломляющие, и они говорят о том, что вычислительная техника нового поколения коренным образом изменит характер будущих конфликтов. Это отрывок из малоизвестного документа, представленного в октябре 1983 года конгрессу. В нем излагаются задачи новой Стратегической компьютерной инициативы. И как все остальное, чем DARPA занималось до и после этого, данная программа оказалась исключительно амбициозной.
Концепция Стратегической компьютерной инициативы была воплощена в абсолютно новой системе, разработку которой возглавил Роберт Кан (Robert Kahn), руководивший в то время в DARPA отделом методик обработки информации. Как сообщается в вышедшей в 2002 году книге «Strategic Computing» (Стратегическая вычислительная техника), Кан не первый составил представление об этой системе, однако «он первым изложил концепцию и структуру будущей Стратегической компьютерной инициативы. Он запустил этот проект и определял его содержание на раннем этапе. СКИ обрела свою собственную жизнь, ею руководили другие люди, однако она сохранила в себе влияние Кана».
Эта система должна была создать такой мир, где самостоятельные аппараты не только собирают разведывательные данные о противнике по всему свету, но и обладают возможностями со смертоносной точностью наносить удары с суши, с моря и с воздуха. СКИ должна была стать глобальной сетью, соединяющей все аспекты военно-технического потенциала США — потенциала, опирающегося на новые и невероятно быстрые компьютеры. Но эта сеть предназначалась не просто для холодной и беспристрастной автоматизированной обработки информации. Нет, новая система должна была видеть, слышать, действовать и реагировать. И что самое важное, она должна была понимать, причем без каких-либо подсказок со стороны человека.
Экономическая гонка вооружений
Происхождение СКИ часто связывают с технологической конкуренцией, возникшей между США и Японией в начале 1980-х годов. Японцы хотели создать суперкомпьютеры нового поколения, которые должны были лечь в основу системы искусственного интеллекта. Объединив экономическую мощь японского государства и новые возможности микроэлектроники и компьютерной промышленности страны, они для достижения своей цели приступили к созданию компьютерной системы пятого поколения.
Цель заключалась в разработке невероятно быстрых компьютеров, позволяющих Японии оторваться от других стран (прежде всего, от США и от зарождавшейся там «Кремниевой долины») в гонке за технологическое превосходство. На выполнение этой задачи японцы дали себе 10 лет. Но как бы они ни ускоряли свои машины, им, как и американцам, не удавалось сделать компьютеры «умнее» за счет мощного искусственного интеллекта.
Японские устремления напугали многих американцев. Их беспокоило то, что Америка утрачивает свои лидирующие технологические позиции. Эти страхи в немалой степени разожгла вышедшая в 1983 году книга Эдварда Фейгенбаума (Edward A. Feigenbaum) и Памелы Маккордак (Pamela McCorduck) «The Fifth Generation: Artificial Intelligence and Japan’s Computer Challenge to the World» (Пятое поколение. Искусственный интеллект и японский компьютерный вызов миру), ставшая обязательной для чтения литературой на Капитолийском холме.
Чтобы популяризовать идеи СКИ среди американского народа и деловых кругов, DARPA настаивала на том, что цель инициативы с самого начала заключается лишь в продвижении экономических интересов страны. Побочные результаты от этой технологии должны были создать новые стимулы для экономики США, о чем сообщается в документе DARPA по планированию: Компьютерные технологии нового поколения придут в отрасль бытовой электроники, создав внутренний рынок для приложения машинного интеллекта. Обращение к частному сектору и к вузовской системе также должно было обеспечить помощь самых умных и талантливых в выполнении задач программы Управления перспективных исследований и разработок:
Не менее важна передача этих технологий в промышленность для создания кадровой базы инженеров и компоновщиков систем, знакомых с компьютерными науками и технологиями машинного интеллекта, которые сегодня учатся и работают в ведущих университетских лабораториях, а также применение этих новых технологий в ассортименте продукции различных компаний. В этих целях мы будем в полной мере использовать регулирующие нормы и правила государственных закупок, относящиеся к защите корпоративной производственной информации, коммерческой тайны, патентных прав, норм лицензирования и лицензионных отчислений.
И каков вывод? Правительство давало гарантии частному сектору, что разработанные технологии не будут передаваться компаниям-конкурентам. Но экономическая конкуренция с японцами, пусть и являвшаяся важным движущим мотивом, вызывала лишь вторичную озабоченность у политиков, запутавшихся в перипетиях холодной войны. Ястребов из Республиканской партии больше всего заботило военное строительство и наращивание военной мощи. Многие из них считали, что важнее всего военная угроза, исходящая от Советского Союза. И Стратегическая компьютерная инициатива должна была эту угрозу устранить.
Связь со Звездными войнами
Запуск программы СКИ и технические задания DARPA, появившиеся в 1983 и 1984 годах, вызвали острые дебаты в научном сообществе — том самом, которое в конечном итоге выиграло от финансирования в рамках этого проекта. Кто-то выражал сомнения в возможности осуществления амбициозных планов по созданию продвинутого искусственного интеллекта. Кто-то беспокоился по поводу того, что с созданием искусственного интеллекта в военных целях начнется ужасная эпоха самостоятельных армий роботов.
И это было вполне обоснованное беспокойство. Если цель Звездных войн (популярное название Стратегической оборонной инициативы Рональда Рейгана и популярный политический футбол того времени) это автоматический или полуавтоматический ответ на любую ракетно-ядерную угрозу со стороны Советов, то было бы просто нелепо не включить ее в более масштабную систему по-настоящему разумных машин. Задачи двух проектов, не говоря уже о разрабатывавших их институтах, слишком во многом совпадали и пересекались, чтобы быть простым совпадением, хотя каждый настаивал на том, что это именно совпадение.
Из работы Криса Хейблза Грея (Chris Hables Gray), написанной в 1988 году: Система боевого управления Звездными войнами, являющаяся, пожалуй, самым сложным и самым масштабным проектом программного обеспечения за всю историю, концептуально (но не административно) входит в состав Стратегической компьютерной инициативы. Совершить научный прорыв в вычислительной технике, столь необходимый СОИ, это ключевая цель СКИ.
https://youtu.be/i1mGK9_Zmmo
Если вы спросите кого-нибудь, кто работал в руководстве программы СКИ, то вам будут настойчиво говорить о том, что Стратегическая компьютерная инициатива не имела никакого отношения к мечте Рейгана о Звездных войнах. Но люди с самого начала реализации СКИ проводили связь между ней и СОИ. Отчасти такие ассоциации возникали из-за схожести в названиях и из-за того, что эти названия им дал один человек — Роберт Купер (Robert Cooper), занимавший должность директора Управления перспективных исследований и разработок министерства обороны США с 1981 по 1985 годы. А может, люди усматривали связь из-за того, что разрабатывавшиеся для СКИ системы компьютерного сопряжения вполне логично подходили в качестве приложения и для космической стратегии противоракетной обороны.
Применение стратегической компьютерной техники на суше, в море и в воздухе
В подготовленной в 1983 году общей схеме СКИ была изложена задача этой инициативы. Цель была ясна и понятна: разработать обширную базу технологий искусственного интеллекта для укрепления национальной безопасности и экономической мощи. Но чтобы достичь ее, конгрессу и тем военным ведомствам, которые должны были в перспективе использовать СКИ и ее преимущества, надо было увидеть данную систему в действии. У СКИ было три аппаратных воплощения, которые должны были доказать ее боевой потенциал, хотя к концу 1980-х годов предполагалось разработать еще больше таких систем. В авангарде технических разработок СКИ шли автономное наземное транспортное средство ALV, «помощник летчика» и система боевого управления авианосца.
Эти средства планировалось оснастить невероятно продвинутыми компьютерами, которые проектировались в кембриджской компании BBN, больше всего известной своей работой по созданию первой версии интернета. Компьютеры позволяли добиваться прорывных успехов в таких областях, как системы технического зрения, языкового понимания и навигации. А это самые важные инструменты для создания интегрированной военной силы человек-машина.
Автомашина без водителя — 1985 год
Самым зловещим внешне продуктом, появившимся из недр СКИ, было автономное наземное транспортное средство ALV. Этот восьмиколесный автомобиль без водителя был три метра в высоту и четыре в длину. Он был оснащен камерой и датчиками, которые монтировались на крыше и управляли движением машины, являясь ее «глазами». Компания Martin Marietta, объединившаяся в 1995 году с Lockheed Corporation, в результате чего появилась Lockheed Martin, летом 1984 года выиграла тендер на создание экспериментального автономного наземного транспортного средства. За три с половиной года осуществления программы СКИ она должна была получить 10,6 миллиона долларов (с поправкой на инфляцию это составляет 24 миллиона) плюс 6 миллионов дополнительно, если проект будет удовлетворять определенным контрольным показателям. В номере Popular Science за октябрь 1985 года появилась статья об испытаниях, которые проводились на секретном полигоне компании Martin Marietta к юго-западу от Денвера.
Автор статьи Джим Шефтер (Jim Schefter) так описывал сцену испытаний на полигоне: Коробкообразный бело-голубой автомобиль медленно и степенно передвигается по узкой дороге в долине Колорадо, не отваживаясь отходить далеко от осевой линии. Единственное окно, похожее на глаз циклопа, установлено на лобовой стороне машины, но водителя там не видно. Она передвигается осторожно, почти крадучись, что кажется несколько неуместным для этого восьмиколесного, трехметровой высоты транспортного средства. Хотя на нем установлено три рычащих дизельных двигателя, автомобиль едет медленно, со скоростью менее пяти километров в час.
Пройдя примерно километр, неуклюжая машина останавливается. Но из нее никто не выходит. Просто в машине никого нет — один только компьютер. Пользуясь лазером и видеокамерой в качестве глаз, экспериментальная, но уже очень сложная программа искусственного интеллекта ведет автомобиль по дороге без участия человека. DARPA объединило усилия Martin Marietta и университета Мэриленда, который проводил большую работу по созданию системы технического зрения. Такое объединение казалось важным для обеспечения успеха в разработке наземного транспортного средства.
Создать видеосистему для автономного автомобиля оказалось невероятно сложно. Ее могут ввести в заблуждение свет и тени, а поэтому степень надежности у нее была недостаточной. Днем дорожную обочину она обнаруживала без проблем, а вот из-за вечерних теней на закате она вполне могла сползти в кювет. Любые изменения в окружающей среде (скажем, грязь из-под колес другой машины) также сбивали систему технического зрения с толку. Это было недопустимо даже в условиях испытаний на полигоне. Если машина не справляется с такими простыми препятствиями, то как же она будет действовать в сложных и непредсказуемых условиях боя с бесчисленным множеством переменных факторов?
К ноябрю 1987 года автономное наземное транспортное средство было существенно усовершенствовано, однако к концу года от него фактически отказались. Хотя машина была довольно примитивной, некоторые специалисты из DARPA считали, что ее слишком быстро сбросили со счетов. В итоге она не смогла преодолеть свою неподготовленность к бою. Как отмечает Алекс Роланд (Alex Roland) в своей книге «Strategic Computing», «один офицер, который совершенно не понимал замысел программы ALV, жаловался, что машина в военном плане абсолютно бесполезна: очень медленная и белого цвета, что превращает ее в легкую мишень на поле боя». В апреле 1988 года Управление перспективных исследований и разработок официально прекратило работу над ней.
R2-D2, но в реальной жизни
Вторым практическим воплощением Стратегической компьютерной инициативы стал «помощник летчика». Разработчики представляли его себе в виде невидимого робота R2-D2 — умного спутника, понимающего простой язык пилота. Помощник этот мог, например, засечь вражескую цель и спросить пилота, надо ли ее уничтожать. Что-то типа «Лучшего стрелка» в компании персонального помощника Siri из айфона. При таком сценарии окончательное решение оставалось за пилотом. Но его помощник должен был стать достаточно умным, чтобы не только знать, кто задает вопросы, что он спрашивает, и как надо задавать вопросы самому. Он должен был понимать, почему.
Вот строки из документа СКИ по планированию: На летчика в бою сваливается огромный объем информации, он постоянно находится на связи, и на этой основе должен принимать решения, от которых часто зависит его жизнь. У него также огромное количество кнопок, переключателей и клавиш на панелях и ручках управления, требующих большой четкости и точности. Каждая из сотен деталей предназначена для своих, вполне определенных и важных целей, однако лежащие в их основе технологии намного опережают наши умения грамотно и разумно наладить взаимодействие между этими компонентами и летчиком.
И вот здесь-то Управление перспективных исследований и разработок и решило, что ему нужен свой «Скайнет». Новые особенности боевых действий, связанные с быстрым развитием военных технологий, требовали четкого взаимодействия машины и человека — и это стало залогом успеха в бою. Летчик по-прежнему нажимал на кнопки, но эти компьютеры должны были думать за него хотя бы наполовину. Если человечество не успевает, надо подключать к работе машины.
Программа «помощника летчика» не освещалась в американской прессе в том же объеме, что и автономное наземное транспортное средство. Наверное, это было связано с тем, что ее было гораздо труднее представить себе, нежели огромный, едущий по дороге без водителя танк. Но если посмотреть на сегодняшние технологии распознавания речи, то станет ясно, к чему привели все эти исследования по «помощнику летчика».
Невидимый робот-советник
Система боевого управления стала третьим практическим воплощением программы СКИ, призванным доказать ее целесообразность. Вот что пишет об этом Роланд в книге «Strategic Computing»: В военно-морском комплексе боевого управления СКИ система с искусственным интеллектом должна была делать умозаключения о противнике и своих войсках, о боевом составе и боевом порядке с учетом факторов неопределенности, вырабатывать варианты нанесения ударов, осуществлять имитационное моделирование в целях оценки этих вариантов, разрабатывать оперативные планы и представлять доводы и разъяснения.
Система боевого управления была по сути мозгом всей операции, и по этой причине ее держали в тайне, в отличие от ALV. Едущий по дороге без водителя робот может напугать многих. Невидимый робот с невидимым пальцем на ядерной кнопке? Ну, публиковать пресс-релизы на эту тему вряд ли кому-то захочется. Система боевого управления проектировалась в качестве программного приложения специально для ВМС. (Автономное наземное транспортное средство создавалось конкретно для сухопутных войск, а «помощник летчика» для ВВС.) Но на самом деле, это была просто ширма для более универсальной системы. Все эти технологии планировалось использовать в перспективе там, где в них будет наибольшая необходимость. Разработанную для «помощника летчика» программу распознавания речи планировалось использовать во всех видах вооруженных сил, а не только в ВВС. А система боевого управления должна была подходить всем — кроме, конечно, противника.
Собрать «Скайнет» воедино
Все разнообразные компоненты Стратегической компьютерной инициативы входили в состав более крупной гипотетической системы, которая могла радикально изменить характер войны в XXI веке. Представьте себе глобальную беспроводную сеть, которая осуществляет контроль над множеством других подчиненных ей сетей в вооруженных силах США.
Вообразите, как армии роботизированных танков разговаривают с роями беспилотников в небе и субмаринами без экипажей в море — и взаимодействие между ними осуществляется гораздо быстрее, чем это мог бы сделать любой командующий-человек. А теперь представьте, что все это намного сложнее и с ядерными ракетами, ожидающими запуска в космос. Концепция Стратегической компьютерной инициативы была невероятно смелой, и вместе с тем, немного необычной, если подумать о том, насколько далеко она могла нас завести. Логику дальнейшего развития искусственного интеллекта и всемирной сети машин-убийц несложно себе представить хотя бы потому, что мы без счету раз видели это в книгах и фильмах.
Будущее войны и мира
Стратегическую компьютерную инициативу в начале 90-х окончательно уничтожило осознание того, что создать мощный искусственный интеллект типа того, который представляло себе DARPA, просто невозможно. Но если все эти разрабатывавшиеся в 1980-х годах технологии и технические новинки кажутся нам странно знакомыми, то это из-за того, что о них в начале XXI века говорят и пишут средства массовой информации. Системы технического зрения из автономного наземного транспортного средства нашли свое воплощение в роботах типа Atlas компании Boston Dynamics. Мы видим, что система распознавания речи типа Siri из «помощника летчика» используется в ВВС США. А автономные машины испытывает компания Google наряду с множеством других фирм. Все это — технологии войн будущего. А если верить Google, то это еще и технологии мира будущего.
Корпорация Google недавно купила Boston Dynamics, и это вызвало большое удивление у тех, кого беспокоит будущее с армиями самостоятельных роботов. Google заявляет, что Boston Dynamics выполнит все свои старые контракты с военными заказчиками, однако заключать новые не станет. Но будет или нет Google принимать заказы от военных (что вполне возможно, поскольку они могут это делать тайно, используя средства из своего «черного» бюджета), нет никаких сомнений в том, что граница между гражданскими и военными технологиями всегда была размытой. Если Boston Dynamics никогда больше не будет работать с организациями типа DARPA, но Google будет получать выгоду от исследований, профинансированных военными, то видимо можно будет сказать, что система работает.
Военные добились того, что им было нужно, продвигая исследования в области робототехники через частную компанию. А теперь результаты этих военных технологий дадут о себе знать и в нашей повседневной гражданской жизни — как и множества других технологий, включая интернет. По правде говоря, в этой статье изложена лишь капля в море из числа тех замыслов, которые Управление перспективных исследований и разработок вынашивало в рамках СКИ. Будем надеяться, что продолжая изучать вчерашние перспективные концепции, мы сможем обрести некий исторический опыт и лучше понять, что наши новые достижения появились не из воздуха. Их даже и новшествами-то не всегда можно назвать. Это результат многолетних исследований и миллиардных ассигнований, которые осваивали сотни организаций, как государственных, так и частных.
В конечном итоге, Стратегическая компьютерная инициатива была ликвидирована не из-за страха перед тем, что она может принести нашему миру. Просто технологии для ее реализации развивались недостаточно быстро — это касается и искусственного интеллекта, и автономных транспортных средств. Но на протяжении двадцати лет с момента сворачивания СКИ все эти разработки умных машин продолжались. Будущее с очень умными и взаимосвязанными роботами уже почти стало настоящим. Нам не обязательно его любить, но мы не можем сказать, что нас никто не предупреждал о нем.
Поделитесь в вашей соцсети👇
