Nadella: firmy tracące kontrolę nad danymi AI znikną

Prezes Microsoftu Satya Nadella ostrzegł, że organizacje, które oddadzą kontrolę nad danymi i wiedzą generowaną przez systemy sztucznej inteligencji, ryzykują utratę swojej tożsamości biznesowej. Wskazał na wpis opublikowany 12 lipca oraz na rozmowy z dziennikarzami jako źródła swoich uwag.

W poście z 12 lipca Nadella opisał tzw. odwrócony paradoks informacji. Wyjaśnił, że dostawcy systemów uczą się na podstawie zapytań klientów, korekt i aktywności agentów. Ten proces przebiega w jednym kierunku i powoduje, że nabywca korzystający z usługi może przekazywać dostawcy własną wiedzę. W efekcie firmy płacą za inteligencję dwa razy: najpierw finansowo, a potem utratą własnej wiedzy.

Nadella rozróżnił sytuację konsumentów i organizacji. Konsumenci często wymieniają dane na darmowe usługi w modelu reklamowym. Firmy, zdaniem Nadelli, powinny podjąć świadome decyzje o zarządzaniu wiedzą powstającą podczas korzystania z AI, aby zachować przewagę konkurencyjną.

Jako praktyczne rozwiązania zaproponował gromadzenie i przechowywanie metadanych z każdej interakcji z modelem. Według niego takie dane mogą służyć w przyszłości do trenowania własnych wag lub modeli. Dodał, że warto technicznie oddzielić trzy elementy: uprząż (mechanizmy dostępu do modeli), kontekst interakcji oraz pamięć od samych modeli, co umożliwi korzystanie z różnych modeli przy zachowaniu kontroli nad danymi.

Nadella przypomniał też o koncepcji „kapitału tokenowego”, obok kapitału ludzkiego. Termin ten odnosi się do zdolności AI oraz modeli, które firma buduje lub posiada. Wyjaśnił wcześniej, że myślenie o tych zasobach wymaga innego podejścia do własności i utrzymania kompetencji AI.

Prezes Microsoftu zaapelował o zmiany w prawie. Wskazał, że dotychczasowe instrumenty prawne, takie jak patenty, prawa autorskie i znaki towarowe, skuteczniej chroniły sprzedawców technologii niż nabywców wiedzy. Zaproponował uregulowania, które zapewnią ochronę nabywcom danych i modeli; w przypadku braku regulacji rekomendował stosowanie rozwiązań technicznych zabezpieczających zasoby wiedzy.

W poście Nadella napisał: „Firma, która nie ma tej kontroli, moim zdaniem, przestanie być firmą, bo właściwie zleciła na zewnątrz własne myślenie.” Podczas rozmowy z dziennikarzem zwrócono uwagę, że takie stanowisko może odpowiadać interesom firm oferujących infrastrukturę do korzystania z różnych modeli. Nadella odparł, że problem dotyczy wszystkich organizacji, które nie zachowają kontroli nad własną wiedzą i danymi.

Wypowiedzi Nadelli wpisują się w dyskusję w środowisku biznesowym na temat utrzymania przewagi konkurencyjnej i własności intelektualnej w warunkach szybkiego rozwoju modeli generatywnych.