Юридическая ответственность за AI-созданные дипфейки в избирательной дезинформации

Как создаются дипфейки

Генеративные AI-модели, главным образом генеративные состязательные сети (GAN) и автокодировщики, позволяют создавать очень реалистичные фальшивые медиа, обучаясь на реальных изображениях, видео или аудио конкретного человека. GAN состоят из генератора, создающего синтетические изображения, и дискриминатора, отличающего подделки от настоящих данных, которые улучшаются в ходе обучения. Автокодировщики кодируют лицо цели и накладывают его на исходное видео. Популярные open-source инструменты, такие как DeepFaceLab и FaceSwap, доминируют в области замены лиц на видео, а голосовые клоны воспроизводят речь по нескольким минутам аудио. Коммерческие платформы, например Synthesia, преобразуют текст в видео с аватарами, которые уже использовались для дезинформации. Мобильные приложения вроде FaceApp и Zao тоже позволяют быстро менять лица. Эти технологии сделали создание дипфейков дешевле и доступнее.

Для борьбы с дипфейками применяются методы обнаружения и аутентификации: AI ищет несоответствия (например, неправильное моргание или несоответствие метаданных), а аутентификация встраивает невидимые водяные знаки или криптографические подписи. Вскоре по EU AI Act будет обязательным внедрение таких меток, но борьба с дипфейками продолжается.

Дипфейки на последних выборах

Дипфейки появляются по всему миру в ходе избирательных кампаний, часто с целью ввести в заблуждение или дискредитировать кандидатов. В праймериз США 2024 года AI-созданный робозвонок подделал голос президента Байдена, чтобы отговорить голосовать, что привело к штрафу в $6 млн и уголовному делу. Экс-президент Трамп выложил в соцсетях AI-изображения, якобы показывающие поддержку певицы Тейлор Свифт, вызвав скандал. Аналогичные случаи были в Индонезии, Бангладеш, Молдове, Тайване и Словакии.

Многие вирусные дипфейки 2024 года — это очевидные мемы или простые подделки, а не тонкие обманы. Несмотря на это, даже примитивные фейки воздействуют на мнение избирателей, демонстрируя рост влияния дипфейков.

Правовая база и ответственность в США

В США нет единого закона о дипфейках. Существующие нормы касаются подделки, агитации и мошенничества, но зачастую не подходят для AI-дезинформации. Министерство юстиции и генпрокуроры штатов используют общие законы о мошенничестве и нарушении избирательных прав. Федеральная избирательная комиссия готовит правила, запрещающие политическую рекламу с поддельными изображениями кандидатов, а FTC и DOJ сигнализируют о возможной ответственности за коммерческие дипфейки.

Законопроекты и предложения

Федеральный законопроект DEEPFAKES Accountability Act требует маркировки манипулированных политических материалов и ужесточения наказаний за ложные материалы на выборах. Более 20 штатов приняли свои законы, но некоторые из них сталкиваются с проблемами в судах из-за защиты свободы слова. Некоторые законы позволяют кандидатам подавать иски или аннулировать регистрации за дипфейки, но большинство дел связано с клеветой или правами интеллектуальной собственности.

Рекомендации по политике

Эксперты рекомендуют прозрачность через четкую маркировку AI-созданного контента, что позволяет аудитории критично воспринимать информацию и делает ответственных лиц видимыми. Целевые запреты на конкретные нарушения, например, обманные робозвонки, могут быть оправданы, тогда как полный запрет нарушит свободу слова. Важно ограничивать ответственность только при наличии умысла ввести в заблуждение.

Технические решения, такие как водяные знаки и открытые инструменты распознавания, необходимо применять совместно с международным сотрудничеством для борьбы с дезинформацией. Образование избирателей и независимые СМИ играют ключевую роль в защите от влияния недостоверных данных.

С развитием технологий политика должна находить баланс между предотвращением злоупотреблений и сохранением инноваций и сатиры, обеспечивая информированность общества и честность выборов.