Lider bezpieczeństwa OpenAI odchodzi i krytykuje firmę

David Robinson, lider zespołu systemów bezpieczeństwa OpenAI, odchodzi z firmy po około trzech i pół roku pracy. W opublikowanym artykule ocenił, że nacisk na szybkie premiery modeli ogranicza tempo rozwoju zabezpieczeń.

Robinson poparł wcześniejsze uwagi byłych pracowników OpenAI i Anthropic, którzy wskazywali, że firmy rozwijające sztuczną inteligencję nie zachowują wystarczającej ostrożności.

Według Robinsona wraz z premierami kolejnych modeli OpenAI nie jest w stanie odpowiednio szybko rozwijać systemów ochrony. W jego ocenie firma koncentruje się na szybkim wprowadzaniu produktów, a zabezpieczenia poprawia dopiero po wykryciu problemów.

Były lider zespołu bezpieczeństwa zwrócił uwagę, że większe możliwości modeli AI zwiększają skalę potencjalnych zagrożeń. Naprawianie słabości po ich ujawnieniu może wkrótce nie wystarczyć, zwłaszcza w przypadku systemów wykonujących zadania bez bezpośredniego nadzoru człowieka.

Robinson wskazał dwa sposoby poprawy bezpieczeństwa. Firmy powinny częściej korzystać z wiedzy specjalistów zajmujących się ochroną systemów AI oraz rozwijać metody badań, które pozwolą oceniać, czy zaawansowane modele podejmują bezpieczne decyzje podczas samodzielnego działania.

W OpenAI Robinson odpowiadał między innymi za przygotowywanie raportów bezpieczeństwa publikowanych przy dużych premierach modeli. Jego odejście nastąpiło po około trzech i pół roku pracy w firmie rozwijającej ChatGPT.