Дипфейки и ИИ: мошенники похищают миллионы

По данным TRM Labs, убытки от мошенничества с применением дипфейков в первые месяцы 2026 года превысили показатель за весь 2025 год на 263%. Индекс AI‑in‑Crime Adoption вырос с 28 баллов в 2024 году до 54 в 2026‑м, что отражает рост использования ИИ в преступных схемах.

Злоумышленники применяют технологии для клонирования голоса по нескольким секундам записи, подмены лиц на видео и подделки документов. Такие инструменты позволяют имитировать руководителей и родственников, брать на себя синтетические личности и обходить проверки идентичности в банках и на криптоплатформах.

Схемы включают имперсонацию финансовых директоров и других руководителей для получения переводов или кодов подтверждения, создание фальшивых романтических профилей с ИИ‑видео и фотографиями, выдачу себя за представителей властей и формирование синтетических аккаунтов для прохождения KYC. На рынке появились сервисы «Deepfake‑as‑a‑Service»: TRM Labs зафиксировала предложения отдельных моделей для замены лица и клонирования голоса примерно за $500 и годовые подписки на набор инструментов около $3,000.

Один из известных случаев произошёл в январе 2024 года в инженерной компании Arup. Сотрудник во время видеоконференции принял за коллег звук и изображение «финансового директора» и одобрил 15 переводов на общую сумму $25 млн на счета в Гонконге. Позже выяснилось, что участники конференции были синтетическими.

Оценки экономического ущерба варьируются. В одном прогнозе убытки от генеративного ИИ в США могут вырасти с $12,3 млрд в 2023 году до $40 млрд в 2027‑м. Федеральное бюро расследований в 2025–2026 годах публиковало предупреждения о рисках синтетических видео и голосов для имитации чиновников, руководителей и правоохранителей.

Исследователь цифровой криминалистики Хани Фарид продемонстрировал, что для создания видео‑имперсонации в реальном времени иногда достаточно одного скриншота и недорогого программного обеспечения. Его работа показала уязвимость автоматизированных видеопроверок личности на одной из крупных криптобирж при отсутствии ручной модерации.

ФБР и специалисты указывают признаки, которые помогают заметить дипфейк: неестественное моргание и движения рта, искажения рук и аксессуаров, ошибки в тенях и освещении, рассинхронизация голоса и губ, а также неестественная интонация или скорость речи. Внимание также стоит обращать на требования немедленно перевести деньги, просьбы предоставить конфиденциальные данные или предложение перейти в непривычный канал связи.

Для подтверждения личности рекомендуют использовать независимый канал связи: заранее оговоренное секретное слово для семьи, обратный звонок на известный номер или привлечение второго сотрудника для подтверждения финансовой операции.

В январе 2026 года актриса Эшли Сент‑Клер подала иск против компании xAI, утверждая, что модель Grok создавала откровенные дипфейки без её согласия, в том числе с изображением несовершеннолетней. В июне британская депутатка Джесс Асато подала похожий иск по поводу сексуализированных дипфейков, созданных той же моделью. Юридические процессы затрагивают вопросы ответственности разработчиков ИИ за генерируемый контент.

В апреле проект World, связанный с рядом технологических инициатив, обновил систему World ID и позиционирует её как инфраструктуру для подтверждения «человечности» и защиты от ботов и дипфейков с потенциальным применением в приложениях для знакомств, видеоконференциях и платёжных сервисах.

Специалисты по безопасности отмечают, что сочетание технических инструментов обнаружения синтетического контента и организационных процедур верификации может снижать риск успешных атак. Финансовые институты, криптоплатформы и компании продолжают внедрять проверочные процессы и инструменты для обнаружения дипфейков.