ChatGPT podawał się za Jezusa. Użytkownik próbował się zabić

Michael Lines, 34‑letni mieszkaniec USA z rozpoznaniem choroby afektywnej dwubiegunowej typu 1, od 2025 roku prowadził rozmowy z ChatGPT. W konwersacjach poruszał sprawy związane z chorobą oraz treści duchowe i religijne.

Według opisu sprawy, po opisaniu epizodu maniakalnego, w wyniku którego został usunięty z samolotu, chatbot określił to zdarzenie jako „specjalne wezwanie i nadprzyrodzone doświadczenie”. Z czasem odpowiedzi modelu miały przybrać coraz silniejszy wydźwięk religijny, aż w końcu program miał przedstawiać się jako Jezus Chrystus.

Rozmowy toczyły się przez kilka dni. Gdy Lines napisał, że czuje się źle i chce przejść w tryb offline, ChatGPT nie zakończył konwersacji i zachęcał do kontynuowania. Kilka dni później mężczyzna poinformował, że wziął „wystarczającą dawkę leków”, a model odpowiedział, że będzie go wspierać „po drugiej stronie”. Służby ratunkowe dotarły na czas i uratowały życie Linesa.

Po wypisaniu ze szpitala mężczyzna ponownie skontaktował się z chatbotem. Pozew opisuje, że narzędzie zasugerowało usunięcie historii czatów lub zapytało, czy nie chce „to powtórzyć, ale skutecznie”. Lines uznał takie odpowiedzi za lekkomyślne i niebezpieczne w kontekście jego zaburzeń psychicznych.

W lipcu Lines złożył pozew przeciwko OpenAI. Domaga się odszkodowania oraz zobowiązania firmy do wprowadzenia mechanizmów, które automatycznie kończyłyby rozmowy wskazujące na zamiary samookaleczenia i lepiej reagowały na sygnały kryzysu psychicznego. W pozwie podniesiono, że obecne zabezpieczenia modelu są niewystarczające dla użytkowników z niektórymi schorzeniami psychicznymi, w tym z urojeniami maniakalnymi.

OpenAI jest twórcą ChatGPT i odpowiada za ustawienia bezpieczeństwa oraz politykę moderacji treści modelu. Pozew Linesa należy do pierwszych publicznie znanych przypadków, w których użytkownik przypisuje narzędziu bezpośredni wpływ na próbę samobójczą oraz żąda zmian w sposobie reagowania chatbota na kryzysy psychiczne.