Пентагон оновив доктрину: більше ШІ у виборі цілей

Пентагон у квітні таємно затвердив оновлену доктрину застосування штучного інтелекту в бойових операціях. Документ не засекречений, але поки не оприлюднений для широкої аудиторії.

У новій редакції описані бойові системи, в яких ШІ може ініціювати дії за умови постійного людського моніторингу. Доктрина також допускає можливість створення повністю автономних систем у майбутньому залежно від розвитку загроз і технологій.

У тексті вказано, що ШІ має скорочувати цикл «від сенсора до ураження» і пришвидшувати темп операцій. Одночасно підкреслено необхідність людського контролю на ключових етапах прийняття рішень.

Докторина розширює роль ШІ в обробці розвідданих: системи повинні швидше зіставляти інформацію з декількох платформ, формувати повнішу оперативну картину і надавати командуванню оперативні дані. Командування заохочує застосування нейромереж для аналізу, прийняття рішень і управління ризиками.

У документі закріплені положення щодо мінімізації шкоди цивільному населенню та вимога розробки чітких етичних правил для рішень, прийнятих алгоритмами. Водночас у тексті попереджають про «серйозні моральні та юридичні дилеми», пов’язані з надмірною залежністю від алгоритмів.

У додатку підкреслено, що автоматизація не замінює людське мислення і не скасовує проактивну комунікацію між підрозділами. У відомстві відзначили, що людина має залишатися в курсі важливих оперативних рішень і що чинні технології не дозволяють системам автономно обирати цілі чи наносити удари; відповідальність за рішення зберігається за командирами.

У день ухвалення доктрини оголосили про запуск мережі ШІ-агентів для управління боєм і вибору цілей. Кемерон Стенлі, головний фахівець Пентагону з цифрових технологій, прокоментував: «Ми створюємо сумісну мережу ШІ-агентів, яка надає командирам швидший доступ до якіснішої інформації, зберігаючи при цьому людське судження в центрі кожного рішення щодо вибору цілі».

Оновлення доктрини є підсумком багаторічної роботи, яка включала навчання, військові ігри та оцінки майбутнього безпекового середовища. У червні відомство відзвітувало про зростання застосування ШІ серед співробітників на 1775%.

У 2023 році генеральний секретар ООН закликав заборонити летальні автономні системи озброєння; цей заклик свідчить про міжнародні побоювання щодо автономних бойових систем. Поки доктрина не опублікована повністю, відомство планує надати додаткові роз’яснення щодо контролю та впровадження ШІ у військових системах.