Anthropic і Пентагон розходяться у поглядах щодо ШІ для наведення на цілі та нагляду в США

Переговори між Пентагоном і розробником ШІ Anthropic зайшли в глухий кут через питання, чи послаблювати запобіжники в системах компанії — зміни, які, за словами залучених осіб, можуть відкрити шлях до автономного наведення зброї на цілі та внутрішнього нагляду в США, повідомляє Reuters. Після кількох тижнів переговорів сторони залишаються далекими одна від одної щодо умов контракту, який регулює чутливі сценарії використання.

Особи, поінформовані про переговори, описали суперечку щодо того, чи можуть державні користувачі обходити політики використання Anthropic, коли операція є законною за статутами США. Представники оборонного відомства наполягають на гнучкості, щоб застосовувати комерційний ШІ в різних місіях попри заборони постачальників на наведення на цілі та застосування в наглядових цілях.

Посадовці посилалися на меморандум Міноборони від 9 січня щодо стратегії ШІ, аби обґрунтувати позицію, що департамент може впроваджувати комерційні інструменти, доки діяльність відповідає законодавству США. Anthropic чинив опір формулюванням, які б скасовували або послаблювали її запобіжники, стверджуючи, що ці механізми є невід’ємною частиною того, як її системи створюються та адмініструються, за словами цих людей.

Anthropic — один із кількох постачальників ШІ, яких оцінюють для робіт у сфері нацбезпеки. Тупик сповільнив прогрес щодо потенційної угоди після кількох раундів переговорів цього місяця.

Кілька людей, знайомих із процесом, сказали, що політики компанії підживлювали розбіжності з адміністрацією Трампа, яка просуває швидше впровадження комерційного ШІ в оборонних та розвідувальних програмах. Сторони не дійшли спільного розуміння щодо прийнятних способів використання.

Пентагон не надав коментаря у відповідь на запити. У заяві Anthropic написала, що її ШІ «широко використовується для місій національної безпеки урядом США, і ми ведемо продуктивні обговорення з Міністерством війни щодо шляхів продовження цієї роботи».

У межах дискусій розглядали операційні деталі, зокрема чи можуть федеральні користувачі вимикати функції безпеки в обмежених випадках, як працюватимуть аудит і нагляд, якщо обмеження компанії залишаться чинними, та хто уповноважуватиме термінові завдання з наведення на цілі або нагляду. Обидві сторони опрацьовували технічні та політичні варіанти, але не погодили обов’язкові умови.

Позиція Anthropic, за словами обізнаних, полягає в тому, що послаблення запобіжників для будь-якого клієнта може створити ширші ризики й ускладнити дотримання вимог у всій її базі користувачів. Компанія наполягає, що послідовне застосування її політик необхідне, щоб запобігти зловживанням.

Хоча обговорення тривають, застій відтермінував угоду, і незрозуміло, чи Пентагон переключиться на інших постачальників або повернеться до столу переговорів із переглянутими умовами.

Як ми писали раніше, Anthropic, розробник моделей Claude, обговорює раунд приблизно на $10 млрд, який може підняти її оцінку до близько $350 млрд, із потенційними провідними інвесторами GIC і Coatue. За таких умов оцінка майже подвоїлася б порівняно з вереснем 2025 року.