Chatbot USA zmienił odpowiedzi po pytaniach o Trumpa

Chatbot uruchomiony na stronie America.gov miał pomagać użytkownikom w uzyskiwaniu informacji o ofertach pracy, świadczeniach socjalnych i sprawach urzędowych. Pytania można było zadawać w języku naturalnym, a system odpowiadał lub wskazywał odpowiednie informacje.

Użytkownicy sprawdzili, jak narzędzie reaguje na pytania dotyczące wypowiedzi Donalda Trumpa. Na pytanie o fałszerstwa wyborcze w 2020 roku chatbot odpowiedział, że nie ma dowodów na sfałszowanie wyborów.

System zakwestionował również twierdzenie Trumpa, że odziedziczył po poprzedniej administracji „najgorszą inflację w historii”. W odpowiedzi przywołał dane historyczne, według których inflacja za prezydentury Joe Bidena nie była najwyższa w dziejach Stanów Zjednoczonych.

Następnego dnia chatbot zaczął odmawiać odpowiedzi na te same pytania. Zamiast przedstawiać dane dotyczące wyborów i inflacji, informował, że nie komentuje kwestii politycznych. Tak samo reagował na pytania o możliwe negatywne skutki decyzji podejmowanych przez Trumpa.

Nie wiadomo, kto zmienił działanie systemu ani jakie elementy jego kodu zostały zmodyfikowane. Z dostępnych informacji wynika, że zmiana nastąpiła po udzieleniu przez chatbota odpowiedzi sprzecznych z twierdzeniami prezydenta USA.