Microsoft obniża koszty AI, zastępuje modele OpenAI i Anthropic

Microsoft poinformował, że w wybranych produktach i usługach zastąpi modele sztucznej inteligencji dostarczane przez OpenAI i Anthropic tańszymi alternatywami. Zmiana ma obniżyć koszty obsługi funkcji AI w oprogramowaniu firmy.

Decyzja obejmuje integracje modeli w aplikacjach korporacyjnych oraz w elementach platformy Azure, gdzie zapytania trafiały do zewnętrznych dostawców. Firma podała, że wprowadzanie nowych modeli odbędzie się stopniowo w kolejnych aktualizacjach oprogramowania.

Część zadań o niższych wymaganiach jakościowych ma zostać przekierowana na lżejsze, mniej kosztowne modele. Najbardziej złożone zapytania będą obsługiwane przez rozwiązania o wyższej precyzji. Microsoft wskazał też na planowane optymalizacje infrastruktury, takie jak lepsze zarządzanie pamięcią i kompensacja kosztów przy dużej skali użytkowania.

Prace obejmują testy wydajności nowych modeli, integrację z istniejącymi usługami oraz dostosowanie warunków umów handlowych dotyczących korzystania z rozwiązań AI. Zmiany dotyczą zarówno oprogramowania biurowego używanego przez klientów korporacyjnych, jak i usług chmurowych Azure.

Ograniczenie liczby zapytań kierowanych przez produkty Microsoftu do OpenAI i Anthropic może wpłynąć na skalę wykorzystania modeli tych dostawców w kanałach dystrybucji firmy. Microsoft nie ujawnił szczegółowych danych dotyczących przewidywanych oszczędności ani pełnego harmonogramu wycofania integracji z konkretnymi zewnętrznymi dostawcami.

Dalsze informacje mają się pojawić w komunikatach produktowych i aktualizacjach dla klientów. Wcześniej Microsoft rozwijał współpracę z OpenAI i integrował jej modele w swoich produktach; na rynku dostępne są także mniejsze, zoptymalizowane modele oraz rozwiązania oferowane przez innych dostawców chmurowych.