Цифровой апокалипсис или новая реальность: как «мусорный ИИ» убивает интернет и что мы можем сделать

Подъём искусственного интеллекта (ИИ) проник в нашу жизнь способами, выходящими далеко за рамки виртуальных помощников вроде Siri от Apple и Alexa от Amazon. Генеративный ИИ не только меняет способы создания цифрового контента, но и начинает влиять на то, как интернет нам служит.

Более широкий доступ к большим языковым моделям (LLM) и инструментам ИИ подлил масла в огонь теории заговора о «мёртвом интернете». Эта идея, выдвинутая в начале 2020-х, предполагает, что интернетом фактически правят ИИ, которые общаются и создают контент для других ИИ, а информация, созданная и распространяемая людьми, стала редкостью. Когда Live Science исследовал эту теорию, мы пришли к выводу, что в реальном мире такое явление ещё не проявилось. Но теперь люди всё чаще смешиваются с ботами — и никогда нельзя быть уверенным, что онлайн-взаимодействие происходит с другим человеком.

Помимо этого, низкокачественный контент — от статей и изображений до видео и постов в соцсетях, созданных такими инструментами, как Sora, ChatGPT и другими — ведёт к росту «мусорного ИИ» («AI slop»). Это может варьироваться от рилсов в Instagram, показывающих видео с играющими на инструментах или использующими оружие кошками, до поддельной или вымышленной информации, выдаваемой за новости или факты. Отчасти это подпитывается стремлением к большему количеству онлайн-контента для привлечения кликов, внимания к веб-сайтам и повышения их видимости в поисковых системах.

«Проблема в том, что сочетание стремления к поисковой оптимизации (SEO) и игры под алгоритмы социальных сетей привело к увеличению количества контента и снижению его качества. Контент, размещаемый для использования нашей экономики внимания (показ рекламы и т.д.), стал основным способом подачи информации», — сказал Live Science Адам Немеров, помощник проректора по инновациям в обучении, преподавании и технологиях в Университете Куиннипиак в Коннектикуте. «Это пространство сейчас часто заполняют «мусорный ИИ» и другой контент, созданный ИИ».

Недоверие к информации в интернете — не новое явление: многие ложные утверждения делаются людьми с определёнными целями или просто из желания вызвать срыв или возмущение. Но инструменты ИИ ускорили распространение информации, изображений или данных, созданных машинами.

SEO-компания Graphite обнаружила в ноябре 2024 года, что количество публикуемых статей, созданных ИИ, превысило количество статей, написанных людьми. Хотя 86% статей, ранжируемых в поиске Google, по-прежнему были написаны людьми, против 14% ИИ (с аналогичным распределением в информации, предоставляемой чат-ботом), это всё же указывает на рост контента, созданного ИИ. Ссылаясь на отчёт, согласно которому каждый десятый из самых быстрорастущих каналов YouTube показывает только контент, созданный ИИ, Немеров добавил, что «мусорный ИИ» начинает негативно на нас влиять.

«»Мусорный ИИ» активно вытесняет создателей, которые зарабатывают на жизнь онлайн-контентом, — объяснил он. — Такие издания, как журнал Clarkesworld, были вынуждены полностью прекратить приём заявок из-за потока текстов, созданных ИИ, и даже Wikipedia сталкивается с контентом, созданным ИИ, который нагружает её систему модерации сообщества, подвергая риску ключевой информационный ресурс».

Хотя увеличение контента ИИ даёт людям больше возможностей для потребления, оно также подрывает доверие к информации, особенно по мере того, как генеративный ИИ становится лучше в создании изображений и видео, которые выглядят реальными, или информации, которая кажется созданной человеком. Таким образом, может возникнуть ситуация, когда более глубокое недоверие к информации, особенно к медиа-брендам и новостям, приведёт к тому, что контент, созданный людьми, будут считать фальшивкой, а созданный ИИ — нет.

«Я всегда рекомендую предполагать, что контент создан ИИ, и искать доказательства обратного. Сейчас также отличный момент, чтобы платить за медиа, которые мы ожидаем, и поддерживать создателей и издания, у которых есть чёткие редакционные и творческие принципы», — сказал Немеров.

Доверие против экономики внимания

В отношении контента, созданного ИИ, с точки зрения доверия есть две стороны.

Первая — это распространение ИИ убедительной информации, которая требует определённой доли проницательности для проверки и не должна восприниматься за чистую монету. Но открытая природа сети означает, что распространять неверную информацию, случайно или намеренно, всегда было легко, и всегда была необходимость иметь здоровый скептицизм или желание перепроверить информацию, прежде чем делать поспешные выводы.

«Информационная грамотность всегда была основой опыта использования сети, и теперь она стала ещё важнее и тоньше с появлением контента ИИ и другой дезинформации», — сказал Немеров.

Другая сторона контента, созданного ИИ, — когда он намеренно используется для привлечения внимания, даже если зрители легко могут понять, что он сфабрикован. Один из примеров, отмеченных Немеровым, — это изображения перемещённого ребёнка со щенком после урагана «Хелен», которые использовались для распространения политической дезинформации.

Хотя изображения быстро были помечены как созданные ИИ, они всё же спровоцировали реакции, тем самым подпитывая их воздействие. Даже очевидно созданный ИИ контент может быть либо использован в качестве оружия для политических мотиваций, либо использован для захвата драгоценного внимания людей в открытой сети или внутри платформ социальных сетей.

«Контент ИИ, который ярче, громче и увлекательнее реальности и который засасывает человеческое внимание, как воронка… создаёт эффект «Сирен», когда компаньоны ИИ или развлекательные ленты соблазнительнее, чем грязные, наполненные трением и иногда разочаровывающие человеческие взаимодействия», — сказала Live Science Нелл Уотсон, член IEEE и инженер по этике ИИ в Университете Сингулярности.

Есть опасения, что ИИ будущего будут питаться синтетическим контентом, созданным другими ИИ, что приведёт к полному отрыву от реальности. (Фото: Weiquan Lin/Getty Images)
Хотя некоторый контент ИИ может выглядеть гладким и привлекательным, он может представлять собой чистый негатив для того, как мы используем интернет, заставляя нас сомневаться в реальности просматриваемого и иметь дело с потоком дешёвого синтетического контента.

«»Мусорный ИИ» — это цифровой эквивалент пластикового загрязнения в океане. Он засоряет экосистему, затрудняя навигацию и ухудшая опыт для всех. Непосредственный эффект — усталость от аутентичности, — объяснила Уотсон. — Доверие быстро становится самой дорогой валютой в сети».

У этого есть и обратная сторона. Рост неаутентичного контента может быть уравновешен тем, что людей будет тянуть к контенту, явно созданному людьми; мы можем увидеть лучше проверенную информацию и «ремесленный» контент, созданный реальными людьми. Будет ли это реализовано с помощью какой-либо формы цифрового водяного знака, закрыто за платными стенами или в закрытых сообществах на Discord или других форумах, пока неизвестно. От того, как люди отреагируют на «мусорный ИИ» и как будет расти их осведомлённость о таком контенте, будет зависеть форма контента в будущем и то, как он в конечном итоге повлияет на людей, сказал Немеров.

«Если люди находят «мусор» и сообщают, что он неприемлем, потребительское поведение людей также изменится вместе с этим, — сказал он. — Это, в сочетании с нашим более широким медиа-рационом, мы надеемся, приведёт людей к изменениям в «питательной ценности» того, что они потребляют, и как они к этому подходят».

Меньше сёрфинга, больше просеивания сети

Контент, созданный ИИ, — лишь одна часть того, как ИИ меняет способ использования интернета. Агенты на основе LLM уже встроены в последние смартфоны, например. Также трудно было бы найти человека, который бы косвенно не сталкивался с генеративным ИИ, будь то предложение информационных подсказок, возможность переработать письмо, сгенерировать эмодзи или автоматически отредактировать фото.

Хотя у издателя Live Science строгие правила использования ИИ (его определённо нельзя использовать для написания или редактирования статей), некоторые инструменты ИИ могут помочь в рутинных задачах редактирования изображений, например, помещении изображений на новый фон.

Использование ИИ, другими словами, неизбежно в 2025 году. В зависимости от того, как мы его используем, он может влиять на то, как мы общаемся и социализируемся в сети, — но что более важно, он влияет на то, как мы ищем и усваиваем информацию.

Например, в Google Search теперь есть ИИ-обзор, предоставляющий агрегированную и распространённую информацию перед внешними результатами поиска — на это накладывается недавно представленный ИИ-режим.

«До этого момента мы в основном использовали интернет через веб-адреса и поиск. ИИ — это первая инновация, которая нарушает эту часть цикла, — добавляет Немеров. — Чат-инструменты ИИ всё чаще берут на себя интернет-запросы, которые ранее направляли людей на веб-сайты. Поисковые системы, которые раньше обрабатывали вопросы и ответы, теперь делят это пространство с чат-ботами с функцией поиска и, совсем недавно, с браузерами-агентами ИИ, такими как Comet, Atlas, Dia и другие».

На поверхностном уровне это меняет способ поиска и потребления информации. Даже если кто-то вводит запрос в традиционную поисковую строку, всё чаще появляется сводка, созданная ИИ, а не список веб-сайтов из проверенных источников.

(Фото: Pop Paul-Catalin/Shutterstock)
«Мы переходим от интернета, предназначенного для человеческого восприятия, к интернету, предназначенному для агентов ИИ, — сказала Уотсон. — Происходит сдвиг в сторону «агентских рабочих процессов». Вскоре вы, как правило, не будете сами сёрфить в сети, чтобы забронировать рейс или исследовать продукт; ваш личный ИИ-агент будет вести переговоры с туристическими сайтами или суммировать для вас отзывы. Сеть становится базой данных для машин, а не библиотекой для людей».

Вероятно, это окажет два эффекта. Первый — меньше человеческого трафика на такие веб-сайты, как Live Science, поскольку ИИ-агенты собирают информацию, которую, по их мнению, хочет пользователь, — разрушая рекламную модель финансирования многих веб-сайтов.

«Если ИИ читает веб-сайт за вас, вы не видите рекламы, что вынуждает издателей устанавливать платные стены или полностью блокировать сборщиков данных ИИ, ещё больше дробя информационную экосистему», — сказала Уотсон. Это дробление может даже привести к закрытию веб-сайтов, учитывая и без того нестабильное состояние онлайн-медиа, что ещё больше сократит количество надёжных источников информации.

Второй — ситуация, когда ИИ-агенты в конечном итоге ищут, поглощают и обучаются на контенте, созданном ИИ.

«По мере того как сеть наполняется синтетическим контентом — «мусорным ИИ» — будущие модели обучаются на этих синтетических данных, что приводит к деградации качества и отрыву от реальности», — сказала Уотсон. «Мусор» или достоверная информация, всё это играет на руку теории «мёртвого интернета» о взаимодействии машин с другими машинами, а не с людьми.

«В социальном плане это грозит изоляцией, — добавила Уотсон. — Если ИИ-компаньон всегда доступен, всегда с вами согласен и у него никогда не бывает плохого дня, настоящие человеческие отношения по сравнению с ним кажутся утомительными. Поиск информации сместится от «гугления» — которое полагается на способность пользователя отфильтровывать правду от вымысла — к доверию проверенным ИИ-кураторам. Однако это централизует власть; мы передаём наше критическое мышление алгоритмам, которые суммируют мир для нас».

Это конец интернета, каким мы его знали… и ИИ чувствует себя прекрасно

Безусловно, способы использования интернета людьми и Всемирная паутина, которую он поддерживает, изменились под влиянием ИИ. ИИ затронул каждый аспект использования интернета в 2025 году: от того, как мы ищем информацию, до того, как создаётся контент и как нам предоставляется запрошенная информация. Даже если вы решите искать в сети без каких-либо инструментов ИИ, информация, которую вы видите, могла быть создана или обработана какой-либо формой ИИ.

Поскольку мы сейчас находимся в середине этих изменений, трудно чётко представить, как именно будет выглядеть интернет по мере продолжения тренда. На вопрос о том, может ли ИИ превратить интернет в «город-призрак», Уотсон возразила: «Это будет не столько город-призрак, сколько зомби-апокалипсис».

Трудно не беспокоиться из-за этого уничижительного вердикта, будь вы создатель контента, на которого напрямую влияет ИИ, или просто конечный пользователь, который устаёт сомневаться в информации.

Однако Немеров отметил, что мы можем извлечь уроки из роста социальных сетей и их влияния на интернет в конце 2000-х. Это служит примером разрушения и проблем, с которыми столкнулись такие платформы, когда речь идёт об использовании и распространении информации.

«Позаимствовав кое-что из того, что мы узнали о социальных сетях, эти технологии не были лишены вреда, и мы также не предвидели ряда проблем, возникших в начале, — сказал он. — Ответственное регулирование играет в этом свою роль, что требует от законодателей заинтересованности в регулировании этих инструментов и знания того, как регулировать на постоянной основе».

Когда речь идёт о любой новой технологии — беспилотные автомобили являются одним из примеров, — регулирование и законотворчество часто отстают от прорывов и внедрения на несколько шагов.

Также стоит иметь в виду, что хотя ИИ представляет собой проблему, предлагаемые им агентские инструменты также могут лучше выявлять информацию, которая в противном случае осталась бы погребённой глубоко в результатах поиска или онлайн-архивах, — тем самым помогая обнаруживать информацию из источников, которые, возможно, не процветали в эпоху SEO.

То, как люди реагируют на контент ИИ в интернете, скорее всего, будет определять его эволюцию, потенциально лопая ИИ-пузырь путём отступления в анклавы только для людей в сети или требуя более высокого уровня сигналов доверия как от контента, созданного людьми, так и от созданного ИИ.

«Мы оказываемся в действительно сложный момент с этим, — заключил Немеров. — Знакомство с этой средой и понимание её присутствия — ключевой момент как для изменения стимулов вокруг этого, так и для передачи нами наших ценностей платформам, которые её распространяют. Я думаю, мы начнём видеть больше примеров демонстрации происхождения высококачественного контента и того, как люди в него инвестируют».