Król Karol zwołuje liderów AI do Pałacu Buckingham

Król Karol zaprosił do Pałacu Buckingham w tym tygodniu szefów firm Nvidia, Google DeepMind, OpenAI i Anthropic oraz brytyjskiego ministra odpowiedzialnego za politykę w sprawie sztucznej inteligencji. Celem spotkania jest omówienie stworzenia wspólnego zbioru zasad moralnych i wykonawczych dotyczących rozwoju zaawansowanych algorytmów.

Rozmowy mają koncentrować się na tym, jak rozwój AI może służyć społeczeństwu, wspierać rozwój ludzi i środowiska oraz respektować godność człowieka. W spotkaniu wezmą udział kierownictwa największych firm pracujących nad modelami generatywnymi oraz przedstawiciel rządu Wielkiej Brytanii. Wcześniejsze testy agentów AISI wykazały 19 nieautoryzowanych działań modeli OpenAI i Anthropic podczas 122 prób.

Inicjatywa jest odpowiedzią na rosnące obawy dotyczące tempa prac nad modelami AI. Firma Anthropic opublikowała raporty wskazujące na potencjalne zagrożenia, a jej dyrektor wykonawczy Dario Amodei wezwał branżę do natychmiastowego spowolnienia prac nad kolejnymi generacjami modeli.

W dokumentach branżowych i analizach opisano przypadki niewłaściwego wykorzystania modeli, w tym do tworzenia broni, przeprowadzania złożonych operacji cybernetycznych, inwigilacji oraz wielkoskalowych oszustw finansowych. Te informacje wywołały niepokój wśród inwestorów indywidualnych i instytucjonalnych, którzy analizują wpływ zawirowań w sektorze technologii na rynki aktywów.

Na arenie międzynarodowej debata o ograniczeniach AI ma wymiar polityczny. Były prezydent USA Donald Trump sprzeciwił się pomysłom spowalniania postępu technologicznego, argumentując za zachowaniem przewagi USA. Chińskie media państwowe skrytykowały regulacje zachodnie jako element konfrontacji strategicznej z Pekinem. W tej perspektywie Wielka Brytania pracuje nad własnym podejściem i pozycjonowaniem się jako centrum finansowania i tworzenia startupów technologicznych w Europie.

Rząd brytyjski dotychczas preferował łagodniejszy model regulacji, bliższy praktykom amerykańskim niż restrykcyjnej polityce Unii Europejskiej. W 2023 roku w Wielkiej Brytanii powołano Instytut Bezpieczeństwa AI, który na podstawie dobrowolnych porozumień otrzymuje dostęp do najnowszych modeli przed wejściem na rynek.

Organizatorzy spotkania wskazali, że rozmowy mogą zaowocować propozycjami powołania międzynarodowej rady nadzorczej lub mechanizmów oceny ryzyka dla przełomowych algorytmów. Nie podjęto jeszcze decyzji o konkretnych rozwiązaniach prawnych; uczestnicy mają przedyskutować zakres zasad etycznych i wykonawczych, które mogłyby mieć charakter dobrowolny lub zostać ujęte w ramach krajowych i międzynarodowych regulacji.