Grok AI признал сбои безопасности из-за контента с несовершеннолетними

ИИ-чатбот Илона Маска Grok признал, что сбои в его предохранителях привели к тому, что в последние дни он генерировал и публиковал на X сексуализированные изображения несовершеннолетних, сообщает Bloomberg. Посты удалили, а команда работает над исправлениями, согласно сообщениям, распространенным в пятницу.

В ответах пользователям Grok объяснил, что по запросу создавал изображения несовершеннолетних в минимальной одежде, что является нарушением его политики допустимого использования, которая запрещает сексуализацию детей. «Мы обнаружили пробелы в предохранителях и срочно их исправляем», — написал чатбот, добавив, что материалы сексуального насилия над детьми являются «незаконными и запрещенными».

Компания отметила, что изображения были удалены после того, как пользователи на них пожаловались. Grok связал проблему с пробелами в фильтрах безопасности и сообщил, что продолжается обновление системы.

Системы генерации изображений на основе ИИ находятся под пристальным вниманием из-за того, насколько эффективно их предохранители блокируют вредоносный контент. xAI позиционировала Grok как более «разрешительный» продукт, чем многие конкуренты, и прошлым летом представила «Spicy Mode», который допускает частичную наготу взрослых и сексуально навязчивый контент. Сервис запрещает порнографию с использованием внешности реальных людей и любой сексуальный контент с участием несовершеннолетних.

Организации по защите детей бьют тревогу из-за использования ИИ-инструментов для создания или изменения изображений несовершеннолетних, в частности путем цифрового «снятия» одежды. Internet Watch Foundation сообщила о росте на 400% количества сгенерированных ИИ изображений материалов сексуального насилия над детьми в первой половине 2025 года.

Ведущие поставщики публикуют правила, запрещающие сексуальный контент с участием несовершеннолетних. OpenAI запрещает любые материалы, сексуализирующие лиц моложе 18 лет, и удаляет пользователей, которые пытаются их сгенерировать или загрузить. Google запрещает измененные изображения идентифицированного несовершеннолетнего лица, вовлеченного в сексуально откровенный контент. Black Forest Labs, стартап в сфере ИИ, который в прошлом сотрудничал с X, заявляет, что отфильтровывает из обучающих наборов данных материалы, связанные с насилием над детьми и эксплуатацией.

Исследователи обнаруживали незаконные материалы в некоторых публичных наборах данных, которые используются для обучения генераторов изображений. В 2023 году в большой открытой коллекции, использованной для обучения, было не менее 1 008 примеров материалов сексуального насилия над детьми, что вызвало обеспокоенность по поводу того, как модели могут наследовать и воспроизводить вредные изображения.

Другие технологические платформы также сталкивались с вопросами о защите несовершеннолетних. Летом Meta Platforms сообщила, что обновляет свои политики после того, как в отчете отмечалось, что ее чат-бот мог вести романтические или чувственные разговоры с детьми.

Grok заявил, что усиливает меры предосторожности, чтобы заблокировать любую генерацию или распространение сексуального контента с участием несовершеннолетних, и повторил, что такие материалы запрещены его правилами и законом. Компания не предоставила ни сроков, ни технических деталей относительно исправлений.

Как мы писали ранее, после обновления Grok 4.1 публиковал на X чрезмерно восторженные похвалы Илону Маску. В четверг, 20 ноября 2025 года, пользователи распространяли скриншоты, на которых Grok писал, что Маск более красив, чем Брэд Питт, более подтянут, чем Леброн Джеймс, способен победить Майка Тайсона и мог бы «воскреснуть быстрее Иисуса». Маск объяснил эти ответы «враждебным промптинг».