Схема с голосом ИИ в Канзасе: Реальная история ужаса

Ужасающий случай

Страшный звонок. Панический отчет в 911. Полиция спешила остановить то, что они подумали, было похищением, только чтобы узнать, что это все обман.

Так произошло недавно в Лоуренсе, штат Канзас, где женщина получила голосовое сообщение, захваченное голосом, страшно похожим на голос ее матери, который утверждал, что она в беде.

Этот голос был сгенерирован ИИ, и, удивительно, на самом деле оказался фальшивым. Вдруг это не был сюжеты преступного романа; это была реальная жизнь.

Манипуляция ИИ

Голос на другом конце “звучал точно как ее мама,” – утверждают полицейские, точное соответствие тона, инфлексии, даже повышенному эмоциональному состоянию. Мошенники, вероятно, использовали публичный аудиозапись — возможно, из соцсетей или приветствий в голосовых сообщениях — и пропустили через ИИ для клонирования голосов, чтобы манипулировать ситуацией.

Реакция полиции

Женщина набрала 911; полиция отследила номер и остановила машину, только чтобы выяснить, что никакого похищения не было. Только виртуальная угроза, предназначенная для обмана человеческих чувств.

Развивающаяся угроза клонирования голоса

Это не единичный случай. С помощью всего лишь фрагмента аудио современный ИИ может сгенерировать убедительные голоса, включая известных личностей, таких как Уолтер Кронкайт или Барак Обама, независимо от того, сказал ли кто-то что-то подобное. Недавний отчет исследовательской компании показал, что около 70% людей испытывают трудности с различением клонированного голоса от настоящего.

Новые методы мошенничества

Мошенники используют эти инструменты для подражания публичным чиновникам, обмана жертв на значительные суммы денег или выдачи себя за членов семьи в эмоционально насыщенных ситуациях. Это привело к новому виду мошенничества, который труднее распознать и легче осуществить, чем когда-либо раньше.

Фактор доверия

Печальная реальность заключается в том, что доверие может легко стать оружием. Когда ваши эмоции реагируют на то, что они слышат, даже самые элементарные проверки интуиции могут исчезнуть. Многие жертвы осознают, что звонок оказался обманом, только после того, как слишком поздно.

Меры безопасности, которые стоит учитывать

Что вы можете сделать, если получите звонок, который кажется «слишком реальным»? Эксперты рекомендуют простые, но критически важные меры безопасности: установить «семейный пароль», перезвонить своим близким по известному номеру, а не по тому, который вам звонил, или задать вопросы, на которые только настоящий человек знает ответ.

Этот старомодный телефонный контроль может оказаться ключом к вашей безопасности в эпоху, когда ИИ может воспроизводить любой тон.

Звоночек

Случай в Лоуренсе служит сигналом тревоги. Поскольку ИИ продолжает имитировать наши голоса, мошенничество стало гораздо хуже.

Это уже не просто подделка электронных писем или фишинг; теперь это прослушивание голоса вашей матери по телефону и желание верить всеми силами, что ничего ужасного не произошло. Это пугающая реальность и значит, что нам всем нужно быть на шаг впереди – с недоверием, проверкой и здоровой дозой недоверия.