OpenAI приостановила видео с Мартином Лютером Кингом мл. в Sora

OpenAI приостановила создание видео с Мартином Лютером Кингом-младшим в Sora 16 октября после того, как наследники правозащитника выразили обеспокоенность по поводу неуважительных изображений.

Компания добавила предохранитель, который блокирует пользователям создание видео, похожих на Кинга. OpenAI заявила, что некоторые клипы, сделанные пользователями, нарушали границы, установленные его наследниками.

В публикации на X компания OpenAI признала важность свободы слова в изображении исторических личностей, но отметила, что публичные лица и их семьи должны контролировать, как их изображения появляются в контенте, созданном с помощью искусственного интеллекта. Теперь компания позволяет уполномоченным представителям или наследникам требовать блокировку определенных изображений в Sora.

Новая модель искусственного интеллекта Sora была представлена общественности несколько недель назад. Этот инструмент создает реалистичные видеоролики, снятые с помощью искусственного интеллекта, на которых изображены исторические личности и пользователи, давшие согласие на съемку. Выпуск этой модели вызвал дискуссию о модерации контента и синтетических изображениях реальных людей.

Доктор Бернис Кинг, дочь Мартина Лютера Кинга-младшего, опубликовала в социальных сетях пост, в котором попросила людей прекратить распространять видеоролики с ее отцом, сгенерированные искусственным интеллектом. Согласно сообщениям, некоторые клипы, сгенерированные Sora, изображали Кинга в грубой форме.

По заявлению компании, OpenAI и Estate of Martin Luther King, Jr., Inc. совместно работали над решением вопроса о том, как изображение Кинга появляется в Sora.

В начале этой недели OpenAI заявила, что представители недавно умерших публичных лиц могут требовать блокировки изображений Sora. Компания планирует разработать более подробные инструменты для правообладателей, чтобы они могли управлять тем, как произведения, защищенные авторским правом, появляются в видеороликах, созданных с помощью искусственного интеллекта.

OpenAI не сообщила, когда будет снято ограничение на генерации Мартина Лютера Кинга-младшего.

Это ограничение является одним из первых случаев, когда OpenAI заблокировала изображение конкретного лица в Sora по просьбе наследников. Компания не сообщила, поступали ли подобные запросы от других публичных лиц или наследников.