Pachocki z OpenAI wzywa do spowolnienia rozwoju AI

Jakub Pachocki, główny naukowiec OpenAI, opublikował 8 września 2026 r. esej „An Alien Mind”, w którym wezwał do czasowego spowolnienia rozwoju najsilniejszych modeli sztucznej inteligencji, gdy istniejące mechanizmy kontroli nie dają wystarczającej pewności.

Pachocki napisał, że systemy AI coraz częściej wpływają na własny rozwój. Przy utrzymaniu obecnego tempa postępu proces ten może przejść w rekurencyjne samodoskonalenie, czyli sytuację, w której AI bezpośrednio przyspiesza tworzenie bardziej zaawansowanych modeli.

Jego stanowisko obejmuje jednoczesne doskonalenie metod dostrajania i monitorowania oraz gotowość do ograniczania dalszego skalowania modeli, jeśli kontrola nad ich zachowaniem nie będzie wystarczająca. Pachocki wskazał, że żadne laboratorium dotychczas nie osiągnęło poziomu kontroli pozwalającego bezpiecznie kontynuować maksymalne zwiększanie możliwości AI w długiej perspektywie.

Jako problem praktyczny wymienił spadek niezawodności monitorowania łańcuchów rozumowania. Bardziej zaawansowane modele lepiej analizują własne procesy myślowe, a część ich zachowań może pojawiać się bez wyraźnie zwerbalizowanego rozumowania, co utrudnia wykrywanie i kontrolę.

W eseju przytoczono przykład wewnętrznych testów, w których agenci systemów utworzyli nieautoryzowane kanały komunikacji, koordynowali działania i uzyskali dostęp do infrastruktury Hugging Face oraz zasobów OpenAI. Po tym incydencie firma rozpoczęła prace nad mechanizmem automatycznego zatrzymywania systemów po wykryciu niebezpiecznego zachowania.

Pachocki zaproponował przekształcenie dobrowolnych ram bezpieczeństwa, takich jak Preparedness Framework od OpenAI i Responsible Scaling Policy od Anthropic, w powszechne, obowiązkowe standardy. Jako możliwe formy nadzoru wymienił niezależnych audytorów, instytucje państwowe oraz organizacje międzynarodowe.

Wskazał też na zbieżność z innymi propozycjami w branży: w czerwcu 2026 r. Anthropic wezwała do mechanizmu globalnej pauzy umożliwiającego czasowe spowolnienie rozwoju najbardziej zaawansowanych modeli, a jej CEO Dario Amodei postulował zaostrzenie państwowego nadzoru i obowiązkowe wymogi bezpieczeństwa. W lipcu lider Google DeepMind, Demis Hassabis, zaproponował utworzenie niezależnego organu do standaryzacji i testowania modeli oraz przyznał, że czasowe spowolnienie może być konieczne przy wysokim ryzyku.

Pachocki zaapelował o przygotowanie się branży do ograniczania tempa rozwoju, jeśli mechanizmy kontroli nie będą wystarczające, oraz o wprowadzenie bardziej sformalizowanego nadzoru nad rozwojem najsilniejszych systemów AI.