Еврокомиссия ужесточила контроль над ChatGPT

Европейская комиссия ввела более строгий надзор за сервисом ChatGPT и направила компании документ с перечнем новых требований. Регуляторы мотивируют действие необходимостью защиты прав граждан и недопущением распространения дезинформации и нарушений авторских прав.

В документе перечислены основные обязанности поставщика: предоставить подробную информацию о принципах обучения модели и источниках данных, проводить независимые оценки безопасности и корректности ответов, а также обеспечить доступ исследователей к инструментам проверки. Еврокомиссия также требует усилить механизмы модерации и ввести уведомления для пользователей о том, что контент сгенерирован системой искусственного интеллекта.

Решение принято в рамках действующего и разрабатываемого законодательства ЕС об искусственном интеллекте и цифровых услугах. Регуляторы указывают на широкое распространение чат-бота в европейских странах и рост числа жалоб, связанных с ошибочной информацией, нарушением авторских прав и рисками для конфиденциальности. В письме компании поручено в короткий срок представить план действий с конкретными сроками исполнения мер.

Дополнительные требования касаются управления рисками: OpenAI просят описать процессы тестирования модели на предвзятость, меры по обеспечению безопасности для уязвимых групп и планы быстрого устранения инцидентов. Регуляторы запрашивают отчеты о случаях генерации вредоносного, вводящего в заблуждение или незаконного контента и о принятых мерах по исправлению таких ситуаций. В документе указано, что невыполнение требований может привести к административным мерам, включая финансовые санкции и ограничения на предоставление услуг в ЕС.

В ответ OpenAI сообщила о готовности сотрудничать и привлекать внешних экспертов для аудитов. Компания подтвердила работу над повышением прозрачности и расширением возможностей контроля со стороны пользователей и исследователей, при этом отметила необходимость учитывать коммерческие тайны и вопросы безопасности моделей.

Контакты между Еврокомиссией и разработчиками ChatGPT начались после серии проверок и обсуждений на уровне европейских регуляторов. На фоне разработки комплексного регулирования ИИ в ЕС — включая классификацию систем по уровню риска и введение обязательств для поставщиков крупных моделей — решение по ChatGPT станет одним из первых практических применений этих норм к крупной коммерческой модели.