Reddit подаёт в суд на учёных за тайный эксперимент с ИИ-ботами

Социальная платформа Reddit грозит судебным иском группе исследователей из Цюрихского университета, которые использовали чат-ботов на основе искусственного интеллекта (ИИ) для скрытого воздействия на пользователей.

Тайный эксперимент в сообществе r/changemyview

Учёные запустили целую армию ИИ-ботов на популярном форуме r/changemyview, где почти 4 миллиона пользователей обсуждают спорные темы. Целью эксперимента было выяснить, может ли ИИ влиять на общественное мнение.

Для этого боты оставили более 1700 комментариев, маскируясь под разных персонажей:

жертву изнасилования, преуменьшающую травматичность своего опыта;
консультанта по домашнему насилию, утверждающего, что самые уязвимые женщины — те, кого «чрезмерно опекали родители»;
чернокожего мужчину, выступающего против движения Black Lives Matter.

Один из ботов анализировал профили пользователей, чтобы подстраивать ответы для максимального убеждения.

Разоблачение и гнев модераторов

После завершения эксперимента исследователи сообщили о нём модераторам форума, приложив предварительные результаты.

«Команда модераторов r/changemyview вынуждена сообщить о несанкционированном эксперименте, проведённом учёными из Цюрихского университета. Мы считаем это недопустимым. «Ранее такого не делали» — не оправдание»
— Официальное заявление модераторов

Согласно данным исследования (которое измеряло эффективность ботов по количеству наград за «изменение мнения»), ИИ-комментарии оказались в 3–6 раз убедительнее человеческих. При этом пользователи не заподозрили, что общаются с ботами.

Юридический ответ Reddit

Бен Ли, главный юрист Reddit, публично осудил эксперимент и объявил о подготовке судебного иска к университету.

«Действия исследователей аморальны и незаконны. Они нарушают академические нормы, права человека и правила Reddit»
— Бен Ли (traceroo), Chief Legal Officer Reddit

В ответ Цюрихский университет заявил, что не будет публиковать результаты исследования, а его этический комитет ужесточит проверку подобных работ. В будущем учёные обязуются согласовывать эксперименты с администрацией онлайн-сообществ.

Чем опасны такие эксперименты?

Этот случай вновь поднимает вопрос о способности ИИ манипулировать людьми. В марте 2024 года OpenAI подтвердила, что GPT-4.5 прошёл тест Тьюринга, обманывая людей в 73% случаев.

Некоторые эксперты опасаются, что бесконтрольное использование ИИ может привести к «мёртвому интернету» — теории, согласно которой боты заменят людей в создании контента. Пока это лишь конспирология, но эксперименты вроде цюрихского показывают: угроза становится реальнее.

Что дальше?