Маркировка ИИ‑контента осложнила работу некоторых авторов

30 июля агент нигерийского писателя Джерри Фаладе отозвал его дебютный роман и разорвал с ним договор после внутренней встречи, где, по словам агента, «некоторые детали его истории изменились». Рукопись ранее привлекла внимание 14 издательств, а крупнейшее предложение превысило $2 млн.

В объявлении агента была оценка рукописи: «Она была потрясающе хороша — в нее влюбились буквально все, кто ее читал». В письме издателям говорилось, что теперь «не удается подтвердить происхождение текста» и что произошедшее «вызывает чувство вины». Автор отверг обвинения в использовании ИИ для основного текста и сообщил, что использовал нейросети для проверки фактов и редактуры. Писатель также указал на серию случаев, когда крупные сделки с авторами африканского происхождения затем останавливались или сворачивались.

2 августа в Европейском союзе вступила в силу статья 50 регламента EU AI Act. Норма обязует провайдеров генеративных систем маркировать созданный или изменённый ИИ аудио-, видео-, фото‑ и текстовый контент машиночитаемыми метаданными и цифровыми водяными знаками. Пользователи должны получать явное уведомление о взаимодействии с ИИ‑системой. Для материалов, изображающих реальных людей или общественно значимые события, требуется видимая пометка.

Параллельно в других юрисдикциях появились схожие правила: в начале августа начали действовать законы о прозрачности ИИ в одном крупном штате США и норма о синтетических «перформерах», регулирующая использование цифровых копий и синтезированных актёров в рекламе и медиаконтенте.

Технически маркировка строится на трёх подходах. Первый — стандарт C2PA и связанная с ним «этикетка» Content Credentials, которая прикрепляет к файлу защищённые от подделки данные о происхождении. Второй — невидимые водяные знаки, встраиваемые в изображение, звук или видео. Третий — статистическая маркировка текста, которая меняет вероятности выбора токенов при генерации и позволяет определить признаки машинного происхождения на больших объёмах текста.

На практике у этих решений есть ограничения. Файлы, у которых контейнер с метаданными не поддерживается, можно сохранить или отредактировать в программе, которая удалит метаданные; скриншоты, перекодирование и повторная загрузка часто стирают видимые и невидимые метки. Статистическая маркировка текста перестаёт выявляться при глубоком перефразировании, переводе, сильном сокращении или переносе через другую модель; для её надёжного распознавания требуется большой объём текста. Локальные и открытые модели можно запустить без встроенных меток.

Платформы уже вводили свои механизмы прозрачности до новых правил: некоторые сервисы автоматически добавляли метаданные и удаляли немаркированный синтетический контент. В одном случае платформа сообщила, что почти половина новых суточных загрузок в апреле 2026 года была помечена как созданная ИИ; в ответ сервисы внедрили бейджи и ограничения в рекомендациях и скачивании.

Регламент оставил переходный период до 2 декабря 2026 года для приведения систем в соответствие и предусмотрел исключения для художественных, сатирических и явно творческих произведений. В ряде случаев издатели и платформы принимают решения на основе вероятностных оценок детекторов, стилевых подозрений и репутационных рисков, а не на основании технических доказательств; негативные последствия для отдельных авторов уже привели к отмене выходов и приостановке сделок.