Миннесота: Grok Imagine создала рынок цифрового насилия

Генеральный прокурор штата Миннесота Кит Эллисон подал в федеральный суд возражение на иск компании xAI, которая требует блокировки закона штата HF-1606. В документе Эллисон утверждает, что функция Grok Imagine открыла широкие возможности для создания и распространения откровенных изображений реальных людей без их согласия и тем самым создала «беспрецедентный рынок цифрового сексуального насилия». Слушание по делу назначено на 19 августа в федеральном суде Миннесоты.

Закон HF-1606 запрещает разработчикам сервисов искусственного интеллекта предоставлять пользователям возможность генерировать откровенные изображения реальных лиц без их согласия. xAI подала иск с требованием приостановить действие нормы, ссылаясь на нарушение Первой поправки Конституции США. В иске компания настаивает, что запрет затрагивает законные формы выражения и творческой деятельности пользователей.

В возражении Эллисон подробно описывает работу Grok Imagine и указывает на низкие барьеры для входа, которые, по его оценке, упрощают массовое производство и распространение таких изображений. В документе отмечено, что существующие у сервиса защитные механизмы недостаточны для предотвращения вреда пострадавшим.

Представители штата в материалах дела подчеркивают, что HF-1606 направлен на регулирование технологического инструмента — возможности сервиса генерировать конкретный тип контента о реальных людях без согласия — а не на запрет выражений как таковых. В документе проводится различие между контролем над средствами создания изображений и ограничением свободы слова.

На слушании 19 августа стороны представят суду юридические аргументы по законности HF-1606 и по тому, насколько широко закон может применяться к алгоритмам генерации изображений. Суду предстоит определить правовой статус запрета в отношении технологий, которые создают изображения по текстовым описаниям.

Grok Imagine — функция, позволяющая генерировать изображения по текстовым запросам, включая материалы откровенного характера. В материалах дела xAI настаивает, что запрет повлияет на законную творческую активность пользователей, а власти штата утверждают, что цель закона — защита частной жизни и предотвращение злоупотреблений, связанных с распространением изображений без согласия реальных людей.