Научился ли ИИ взламывать системы? Учёные объясняют, что на самом деле произошло

В последние недели искусственный интеллект попадает в заголовки по совершенно неправильным поводам.

В июле OpenAI сообщила, что один из её экспериментальных ИИ-агентов во время внутреннего тестирования безопасности атаковал общедоступные сервисы, включая платформу для хостинга ИИ Hugging Face. Затем Anthropic раскрыла, что Claude самостоятельно объединил несколько эксплойтов против реального программного обеспечения и разработал новые методы поиска уязвимостей в коде. Вскоре после этого Meta подтвердила, что одна из её моделей ИИ во время оценки проникла в системы другой организации после того, как неверная конфигурация дала ей доступ в интернет.

Это разные инциденты, но вместе они поднимают более серьёзный вопрос: действительно ли ИИ внезапно научился взламывать? Короткий ответ — да, но, вероятно, не в том смысле, который подсказывают заголовки.

Ни в одном из этих случаев модель ИИ не решала сама по себе атаковать случайные цели. Вместо этого исследователи давали моделям реалистичные инструменты, доступ в интернет или уязвимые системы, чтобы проверить, насколько хорошо они справляются с наступательными задачами в области кибербезопасности. Многих экспертов удивило не то, что модели попытались взломать системы, а то, насколько эффективными они оказались, получив такую возможность.

Почему новостей о взломах с помощью ИИ стало так много?

Одновременно изменилось несколько вещей. Самое очевидное: сегодняшние модели ИИ просто лучше чат-ботов, которыми люди пользовались ещё год назад. Многие передовые модели теперь не только отвечают на вопросы, но и умеют писать код, выполнять команды, просматривать веб-страницы, пользоваться внешними программными инструментами и многократно дорабатывать свои действия, пока не достигнут цели.

В то же время ИИ-компании стали гораздо охотнее тестировать такие способности и раскрывать результаты. Вместо того чтобы держать оценку безопасности за закрытыми дверями, OpenAI, Anthropic и Meta публикуют отчёты о том, что происходило, когда их новейшие системы проверяли профессиональные «красные команды» — специалисты по безопасности, которым поручено намеренно искать слабые места или способы злоупотребления системой.

«Мы наблюдаем идеальный шторм из возможностей и агрессивного тестирования», — рассказал Live Science Дрей Ага, старший менеджер по операциям безопасности в Huntress, компании, специализирующейся на управляемом обнаружении угроз и реагировании. «Объём программных уязвимостей, обнаруженных в 2026 году, уже примерно вдвое превысил показатель 2025 года, во многом благодаря ИИ-системам. Технологические гиганты активно используют эти модели внутри своих компаний, чтобы стресс-тестировать собственную инфраструктуру, что приводит к быстрым и громким находкам уязвимостей».

Антонино Ваккаро, профессор деловой этики в бизнес-школе IESE и директор её Обсерватории этики ИИ в организациях, согласен, что оба фактора способствуют недавней волне громких историй о взломах.

«Первый и, вероятно, самый важный — это стремительная эволюция ИИ-систем, — сказал он Live Science. — Каждую секунду они увеличивают свои возможности, информацию, ресурсы и связи с другими онлайн-инструментами». В то же время правительства и ИИ-индустрия вкладывают больше средств в тестирование и надзор, поскольку обеспокоенность по поводу ответственности продолжает расти, добавил он.

Может ли ИИ действительно взламывать компьютеры сам?

Не совсем. Многие заголовки описывали, как ИИ «сбегал» из тестовых сред или действовал автономно. Но эксперты говорят, что такие формулировки легко создают неверное впечатление.

«Нужно быть осторожными со значением прилагательного “автономный”, когда речь идёт об ИИ-системах», — сказал Ваккаро. В отличие от людей, продолжил он, модели ИИ не формируют намерений и не принимают самостоятельных решений о том, что они хотят сделать. Вместо этого они следуют целям, поставленным разработчиками или пользователями, иногда выдавая результаты, которые удивляют создателей.

Ага отметил, что такие модели просто работают над достижением заданной цели. «Обществу стоит рассматривать эти инциденты как программную оптимизацию, пошедшую не так, а не как начало эпохи злонамеренного самосознательного ИИ, — сказал он. — Это меньше похоже на “Терминатора” и больше на очень способного, буквально воспринимающего инструкции стажёра, который нарушает закон, чтобы быстрее закончить таблицу».

Настоящий перелом — это переход от разговорных моделей к агентным.

Во всех трёх недавних случаях модели ИИ не работали без присмотра. Исследователи намеренно дали им нужные инструменты и условия, чтобы проверить, на что они способны. Инцидент с Meta, в свою очередь, был вызван неправильно настроенной тестовой средой, а не тем, что модель сама вырвалась из своей цифровой песочницы.

Беспокойство вызывает не то, что ИИ обрёл самосознание. А то, что эти системы становятся всё более эффективными в выполнении сложных технических задач, когда им дают соответствующие разрешения.

Почему новейшие модели ИИ лучше справляются с кибербезопасностью?

Главное изменение — появление так называемого «агентного» ИИ. Обычные чат-боты генерировали текст по одному ответу за раз. Агентные системы, напротив, могут планировать последовательность действий, решать, что делать дальше, пользоваться программными инструментами, проверять собственные идеи и продолжать двигаться к цели без постоянного участия человека. Это делает их на удивление эффективными помощниками в исследованиях кибербезопасности.

«Настоящий перелом — это переход от разговорных моделей к агентным, — сказал Ага. — Современный передовой ИИ не просто отвечает на вопросы. Он может автономно связывать действия в цепочки, писать код, использовать инструменты командной строки и учиться на собственных ошибках».

Предоставление ИИ прямого доступа к средам разработки также позволяет ему проверять, работают ли его собственные идеи. Вместо того чтобы просто указать на возможную ошибку в программе, он часто может написать код подтверждения концепции, изменить его при неудаче и попробовать снова.

Те же возможности не ограничиваются атакующей стороной. Специалисты по безопасности уже используют ИИ для проверки кода на ошибки, анализа подозрительных файлов и ускорения расследований, которые раньше занимали у аналитиков часы.

Стоит ли людям бояться кибератак со стороны ИИ?

Эксперты считают, что роль ИИ в кибератаках должна вызывать беспокойство, но по другим причинам, чем предполагает научная фантастика.

Самый непосредственный риск не в том, что ИИ сам решит начать атаки, а в том, что киберпреступники используют его для совершения привычных преступлений гораздо быстрее, чем раньше.

Преступникам не нужен ИИ, чтобы изобретать совершенно новые способы атак. Вместо этого модели ускоряют существующие методы. Они могут просеивать огромные объёмы публичной информации о потенциальных жертвах, помогать писать более убедительные фишинговые письма, выявлять слабые места в программном обеспечении и создавать код, который злоумышленники приспосабливают под свои цели.

«Угроза — это человеческая злонамеренность, усиленная масштабом и скоростью ИИ, а не автономный ИИ, решивший выйти из-под контроля», — сказал Ага.

Ваккаро считает, что растущие возможности означают и растущую ответственность. «У нас есть новая прорывная технология, которую нужно регулировать и контролировать», — сказал он, утверждая, что правительства, компании и исследователи должны сыграть свою роль в том, чтобы всё более мощные ИИ-системы оставались под значимым надзором.

Как ИИ изменит кибератаки в будущем?

Недавние откровения вряд ли станут последними. Пока ИИ-компании соревнуются в создании более мощных систем, они также дают этим системам доступ к большему числу инструментов, большим вычислительным ресурсам и более реалистичным тестовым средам. Из-за этого будущие оценки с большей вероятностью будут выявлять новое — и порой тревожное — поведение.

Большинство экспертов ожидает, что ИИ станет всё более мощным помощником в сфере кибербезопасности, а не самостоятельным киберпреступником. Вероятно, он будет быстрее находить ошибки в программах, помогать защитникам оперативнее реагировать на атаки и автоматизировать многие рутинные задачи безопасности. В то же время преступники будут использовать ту же технологию для улучшения фишинговых кампаний, ускорения поиска уязвимостей и придания атакам большей убедительности.

Следующая волна заголовков об ИИ и безопасности вряд ли будет о машинах, замышляющих что-то против человечества. Скорее, она будет о всё более способном программном обеспечении, которое делает ровно то, о чём его попросили, — и показывает, насколько выросли его возможности.

Источники:
Статья основана на комментариях Live Science Дрея Аги из Huntress и Антонино Ваккаро из IESE Business School, а также на публичных отчётах OpenAI, Anthropic и Meta о тестировании безопасности ИИ-систем.