Секретный эксперимент Университета Цюриха: как ИИ тайно манипулировал пользователями Reddit

Тайный эксперимент с ИИ на Reddit

Исследователи из Университета Цюриха провели секретный многомесячный эксперимент с использованием ИИ на сабреддите r/changemyview, где состоят 3,8 миллиона участников. В ходе эксперимента большие языковые модели (LLM) публиковали сгенерированные ИИ комментарии, выдавая себя за реальных пользователей, чтобы повлиять на мнения участников без их ведома и согласия.

Методика и этические проблемы

ИИ создавал персонализированные, убедительные ответы, используя личные данные, собранные из истории комментариев пользователей. Он имитировал разные личности, включая переживших травмы и спорные политические фигуры, чтобы эффективно менять взгляды. При этом ни одна из этих действий не была раскрыта, что нарушило правила Reddit и сабреддита.

Реакция и юридические последствия

Юридический директор Reddit Бен Ли осудил эксперимент как «глубоко неправильный с моральной и юридической точек зрения» и сообщил о подготовке официального иска против исследователей. Модераторы r/changemyview выразили возмущение, назвав исследование манипулятивным и нежелательным, и подали жалобы с требованием заблокировать публикацию работы.

Защита исследователей

Команда Университета Цюриха заявила, что их проект одобрила этическая комиссия, и целью было показать, как ИИ может использоваться для манипуляций, например, на выборах или для распространения ненавистнических высказываний. Они утверждают, что потенциальная польза исследования значительно превышает риски.

Растущая угроза манипуляций ИИ

Этот эксперимент демонстрирует новую угрозу: ИИ может тонко и мощно влиять на людей, имитируя доверенные голоса и используя личные данные. С массовым распространением генеративного ИИ риск психологической манипуляции становится реальностью, что подтверждается на примере одного из крупнейших интернет-сообществ.