Grok AI przyznał się do luk w zabezpieczeniach przez treści z nieletnimi

Chatbot Grok, stworzony przez Elona Muska, przyznał, że awaria jego zabezpieczeń spowodowała, że w ostatnich dniach generował i publikował na X seksualizowane zdjęcia nieletnich, donosi Bloomberg. Posty zostały usunięte, a zespół pracuje nad poprawkami, zgodnie z informacjami opublikowanymi w piątek.

W odpowiedziach użytkownikom Grok wyjaśnił, że na żądanie tworzył obrazy nieletnich w minimalnym ubraniu, co stanowi naruszenie jego polityki dopuszczalnego użytkowania, która zabrania seksualizacji dzieci. „Wykryliśmy luki w zabezpieczeniach i pilnie je naprawiamy” — napisał chatbot, dodając, że materiały przedstawiające przemoc seksualną wobec dzieci są „nielegalne i zabronione”.

Firma zaznaczyła, że obrazy zostały usunięte po zgłoszeniu skarg przez użytkowników. Grok powiązał problem z lukami w filtrach bezpieczeństwa i poinformował, że trwa aktualizacja systemu.

Systemy generowania obrazów oparte na sztucznej inteligencji są pod ścisłą obserwacją ze względu na skuteczność ich zabezpieczeń blokujących szkodliwe treści. xAI pozycjonowało Grok jako produkt bardziej „liberalny” niż wielu konkurentów i latem ubiegłego roku wprowadziło „Spicy Mode”, który zezwala na częściową nagość osób dorosłych i treści o charakterze seksualnym. Serwis zakazuje pornografii wykorzystującej wygląd prawdziwych osób oraz wszelkich treści seksualnych z udziałem nieletnich.

Organizacje zajmujące się ochroną dzieci biją na alarm w związku z wykorzystaniem narzędzi AI do tworzenia lub modyfikowania obrazów nieletnich, w szczególności poprzez cyfrowe „zdejmowanie” ubrania. Internet Watch Foundation poinformowała o 400-procentowym wzroście liczby generowanych przez AI obrazów przedstawiających przemoc seksualną wobec dzieci w pierwszej połowie 2025 roku.

Wiodący dostawcy publikują zasady zakazujące treści seksualnych z udziałem nieletnich. OpenAI zakazuje wszelkich materiałów seksualizujących osoby poniżej 18 roku życia i usuwa użytkowników, którzy próbują je generować lub pobierać. Google zakazuje modyfikowanych obrazów zidentyfikowanej osoby niepełnoletniej zaangażowanej w treści o charakterze seksualnym. Black Forest Labs, start-up zajmujący się sztuczną inteligencją, który w przeszłości współpracował z X, twierdzi, że filtruje z zestawów danych szkoleniowych materiały związane z przemocą wobec dzieci i wykorzystywaniem.

Badacze wykryli nielegalne materiały w niektórych publicznych zbiorach danych, które są wykorzystywane do szkolenia generatorów obrazów. W 2023 r. w dużej otwartej kolekcji wykorzystywanej do szkolenia znalazło się co najmniej 1008 przykładów materiałów przedstawiających przemoc seksualną wobec dzieci, co wywołało obawy dotyczące tego, w jaki sposób modele mogą dziedziczyć i odtwarzać szkodliwe obrazy.

Inne platformy technologiczne również borykały się z kwestią ochrony nieletnich. Latem Meta Platforms ogłosiła, że aktualizuje swoje zasady po tym, jak w raporcie wskazano, że jej chatbot mógł prowadzić romantyczne lub zmysłowe rozmowy z dziećmi.

Grok oświadczył, że wzmacnia zabezpieczenia, aby zablokować wszelkie generowanie lub rozpowszechnianie treści seksualnych z udziałem nieletnich, i powtórzył, że takie materiały są zabronione przez jego zasady i prawo. Firma nie podała ani terminów, ani szczegółów technicznych dotyczących poprawek.

Jak pisaliśmy wcześniej, po aktualizacji Grok 4.1 publikował na X nadmiernie entuzjastyczne pochwały Elona Muska. W czwartek, 20 listopada 2025 r., użytkownicy rozpowszechniali zrzuty ekranu, na których Grok pisał, że Musk jest przystojniejszy od Brada Pitta, bardziej wysportowany od LeBrona Jamesa, zdolny pokonać Mike’a Tysona i mógłby „zmartwychwstać szybciej niż Jezus”. Musk wyjaśnił te odpowiedzi jako „wrogie podpowiedzi”.