“Теория мертвого интернета” делает жуткие заявления о сети, управляемой искусственным интеллектом

Некоторые из этих гиперреалистичных изображений собрали более 20 000 лайков и комментариев. Так что же здесь происходит?

Теория “мертвого интернета” имеет свое объяснение: искусственный интеллект и контент, создаваемый ботами, превзошли интернет, созданный людьми. Но откуда взялась эта идея и есть ли у нее хоть какая-то основа в реальности?

Что такое теория мертвого интернета?

Теория “мертвого Интернета” утверждает, что деятельность и контент в Интернете, включая аккаунты в социальных сетях, преимущественно создаются и автоматизируются агентами искусственного интеллекта.

Эти агенты могут быстро создавать публикации вместе с генерируемыми ИИ изображениями, призванными повысить вовлеченность (клики, лайки, комментарии) на таких платформах, как Facebook, Instagram и TikTok. Что касается креветки Иисуса, то, похоже, ИИ понял, что это последняя смесь абсурда и религиозной иконографии, которая может стать вирусной.

Но теория мертвого Интернета идет еще дальше. Многие аккаунты, использующие подобный контент, как оказалось, также управляются агентами искусственного интеллекта. Таким образом, создается порочный круг искусственного взаимодействия, которое не имеет четкой программы и уже совсем не связано с людьми.

Безобидная ферма или изощренная пропаганда?

На первый взгляд, мотив, побуждающий эти аккаунты вызывать интерес, может показаться очевидным: вовлеченность в социальные сети ведет к доходам от рекламы. Если человек создает аккаунт, который получает завышенные показатели вовлеченности, он может получить долю рекламных доходов от таких социальных сетей, как Meta.

Так ограничивается ли теория мертвого Интернета безобидным ангажированным фермерством? Или, возможно, под поверхностью скрывается изощренная, хорошо финансируемая попытка поддержать автократические режимы, атаковать противников и распространять пропаганду?

Хотя феномен “креветки-Иисуса” может показаться безобидным (хотя и странным), в нем есть потенциальный долгосрочный подвох, банкротство физлиц.

По мере роста числа подписчиков этих аккаунтов, управляемых искусственным интеллектом (многие из них поддельные, некоторые настоящие), большое количество подписчиков делает аккаунт легитимным для реальных пользователей. Это означает, что сейчас создается целая армия аккаунтов. Аккаунты с большим количеством подписчиков, которыми может воспользоваться тот, кто предложит самую высокую ставку.

Это очень важно, поскольку социальные сети сегодня являются основным источником новостей для многих пользователей по всему миру. В Австралии в прошлом году 46 % молодых людей в возрасте от 18 до 24 лет называли социальные сети своим основным источником новостей. Этот показатель вырос по сравнению с 28 % в 2022 году, что привело к отходу от традиционных СМИ, таких как радио и телевидение.

Дезинформация от ботов

Уже есть убедительные доказательства того, что эти надутые боты манипулируют социальными сетями, чтобы подтолкнуть общественное мнение к дезинформации – и это продолжается уже много лет.

В исследовании 2018 года было проанализировано 14 миллионов твитов за десять месяцев 2016 и 2017 годов. Оно показало, что боты в социальных сетях активно участвовали в распространении статей из ненадежных источников. Аккаунты с большим числом подписчиков узаконивали дезинформацию и дезинформирование, побуждая реальных пользователей верить, участвовать и делиться контентом, опубликованным ботами.

Такой подход к манипулированию социальными сетями был обнаружен после массовых расстрелов в США. В 2019 году исследование показало, что сообщения, созданные ботами на сайте X (бывший Twitter), вносят значительный вклад в общественный дискурс, помогая усилить или исказить потенциальные нарративы, связанные с экстремальными событиями.

В последнее время несколько масштабных пророссийских дезинформационных кампаний были направлены на то, чтобы подорвать поддержку Украины и способствовать росту пророссийских настроений.

Обнаруженные активистами и журналистами, скоординированные усилия использовали ботов и искусственный интеллект для создания и распространения фальшивой информации, охватившей миллионы пользователей социальных сетей.

Только на сайте X кампания использовала более 10 000 бот-аккаунтов, чтобы быстро опубликовать десятки тысяч прокремлевских сообщений, приписываемых американским и европейским знаменитостям, которые, судя по всему, поддерживают продолжающуюся войну против Украины.

Масштабы такого воздействия весьма значительны. В некоторых отчетах даже говорится, что почти половина всего интернет-трафика в 2022 году будет создана ботами. С учетом последних достижений в области генеративного искусственного интеллекта, таких как модели ChatGPT от OpenAI и Gemini от Google, качество поддельного контента будет только улучшаться.

Организации, работающие в социальных сетях, пытаются решить проблему неправомерного использования своих платформ. В частности, Илон Маск изучил возможность обязать пользователей X платить за членство, чтобы остановить бот-фермы.

Гиганты социальных сетей способны удалить большое количество обнаруженных ботов, если захотят. (Плохие новости для нашего дружелюбного креветки Иисуса).

Помните о мертвом Интернете

Теория мертвого Интернета не утверждает, что большинство ваших личных контактов в сети – фальшивка.

Однако это интересная линза, через которую можно взглянуть на Интернет. Интернет больше не принадлежит людям, и люди больше не владеют им – в этом смысле Интернет, который мы знали и любили, “мертв”.

Свобода творить и делиться своими мыслями в Интернете и социальных сетях – вот что сделало их такими мощными. Естественно, именно эту силу злоумышленники стремятся контролировать.

Теория мертвого интернета – это напоминание о том, что нужно скептически и критически относиться к социальным сетям и другим сайтам.

Каждое взаимодействие, тенденция и особенно “общее настроение” вполне могут быть синтетическими. Создано для того, чтобы немного изменить ваше восприятие мира.

Джейк Рензелла, преподаватель, директор по исследованиям (компьютерные науки), UNSW в Сиднее и Влада Розова, научный сотрудник в области прикладного машинного обучения, Мельбурнский университет.