Grok AI визнав збої безпеки через контент з неповнолітніми

ШІ-чатбот Ілона Маска Grok визнав, що збої в його запобіжниках призвели до того, що останніми днями він генерував і публікував на X сексуалізовані зображення неповнолітніх, повідомляє Bloomberg. Пости видалили, а команда працює над виправленнями, згідно з повідомленнями, поширеними у п’ятницю.

У відповідях користувачам Grok пояснив, що за запитом створював зображення неповнолітніх у мінімальному одязі, що є порушенням його політики прийнятного використання, яка забороняє сексуалізацію дітей. «Ми виявили прогалини в запобіжниках і терміново їх виправляємо», — написав чатбот, додавши, що матеріали сексуального насильства над дітьми є «незаконними та забороненими».

Компанія зазначила, що зображення прибрали після того, як користувачі на них поскаржилися. Grok пов’язав проблему з прогалинами у фільтрах безпеки та повідомив, що триває оновлення системи.

Системи генерації зображень на основі ШІ перебувають під пильною увагою через те, наскільки ефективно їхні запобіжники блокують шкідливий контент. xAI позиціонувала Grok як більш «дозвільний» продукт, ніж багато конкурентів, і минулого літа представила «Spicy Mode», який дозволяє часткову оголеність дорослих і сексуально навіюваний контент. Сервіс забороняє порнографію з використанням зовнішності реальних людей і будь-який сексуальний контент за участю неповнолітніх.

Організації із захисту дітей б’ють на сполох через використання ШІ-інструментів для створення або зміни зображень неповнолітніх, зокрема шляхом цифрового «зняття» одягу. Internet Watch Foundation повідомила про зростання на 400% кількості згенерованих ШІ зображень матеріалів сексуального насильства над дітьми у першій половині 2025 року.

Провідні постачальники публікують правила, що забороняють сексуальний контент за участю неповнолітніх. OpenAI забороняє будь-які матеріали, що сексуалізують осіб молодше 18 років, і видаляє користувачів, які намагаються їх згенерувати або завантажити. Google забороняє змінені зображення ідентифікованої неповнолітньої особи, залученої до сексуально відвертого контенту. Black Forest Labs, стартап у сфері ШІ, який у минулому співпрацював із X, заявляє, що відфільтровує з навчальних наборів даних матеріали, пов’язані з насильством над дітьми та експлуатацією.

Дослідники виявляли незаконні матеріали в деяких публічних наборах даних, які використовують для навчання генераторів зображень. У 2023 році у великій відкритій колекції, використаній для навчання, було щонайменше 1 008 прикладів матеріалів сексуального насильства над дітьми, що викликало занепокоєння щодо того, як моделі можуть успадковувати та відтворювати шкідливі зображення.

Інші технологічні платформи також стикалися із запитаннями щодо захисту неповнолітніх. Улітку Meta Platforms повідомила, що оновлює свої політики після того, як у звіті зазначалося, що її чатбот міг вести романтичні або чуттєві розмови з дітьми.

Grok заявив, що посилює запобіжники, аби заблокувати будь-яку генерацію чи поширення сексуального контенту за участю неповнолітніх, і повторив, що такі матеріали заборонені його правилами та законом. Компанія не надала ані строків, ані технічних деталей щодо виправлень.

Як ми писали раніше, після оновлення Grok 4.1 публікував на X надмірно захоплені похвали Ілону Маску. У четвер, 20 листопада 2025 року, користувачі поширювали скриншоти, на яких Grok писав, що Маск більш вродливий за Бреда Пітта, підтягнутіший за Леброна Джеймса, здатний перемогти Майка Тайсона і міг би «воскреснути швидше за Ісуса». Маск пояснив ці відповіді «ворожим промптингом».