Пентагон расширил роль ИИ в выборе военных целей

Пентагон в апреле утвердил обновлённую доктрину по использованию искусственного интеллекта в боевых операциях. Документ не засекречен, но принят без широкой огласки. В нём прописано расширение применения ИИ при выборе целей и указано, что при человеческом мониторинге ИИ может инициировать действия.

В документе отмечено, что ускорение темпа современных конфликтов и продвижение потенциальных противников в области ИИ могут потребовать разработки полностью автономных систем. Одной из целей доктрины названа оптимизация цикла «от датчика до поражения цели», то есть сокращение времени между обнаружением цели и нанесением поражения за счёт автоматизации отдельных этапов принятия решений.

Доктрина расширяет функции ИИ в обработке разведданных: системы должны быстрее сопоставлять сведения о целях с разных платформ и формировать более полную оперативную картину. Командирам рекомендовано активнее использовать нейросети для анализа данных, поддержки принятия решений и управления рисками при планировании и выполнении операций.

В приложениях к документу подчёркнуто, что автоматизация не заменяет человеческое мышление и требует проактивной коммуникации между операторами. В тексте содержатся положения о мерах по снижению ущерба гражданскому населению и предупреждение о риске чрезмерной зависимости от алгоритмов.

В документе прямо указаны «серьёзные моральные и юридические дилеммы» и необходимость чётких правил для решений, принимаемых ИИ. Министерство описывает пересмотр доктрины как результат многолетней работы с учётом учений, военных игр и оценки будущей среды безопасности.

Представитель министерства обороны объяснил, что человек остаётся в курсе ключевых оперативных решений и что текущие технологии не позволяют ИИ автономно выбирать цели или наносить по ним удары. Команды, по его словам, сохраняют ответственность за каждое решение и действуют исходя из актуальной оперативной картины.

В тот же день министерство обнародовало пресс-релиз о запуске сети ИИ‑агентов для преобразования систем управления боем и выбора целей. Главный специалист по цифровым технологиям Кэмерон Стэнли отметил, что сеть должна предоставить командирам более быстрый доступ к качественной информации при сохранении человеческого суждения в центре решений.

В 2023 году генеральный секретарь ООН призывал к запрету летальных автономных систем вооружения. В июне Пентагон также сообщил о росте применения ИИ среди сотрудников на 1775% по внутренним данным ведомства.

Ведомство продолжает прорабатывать практические границы применения автономии и механизмы контроля за алгоритмами внутри министерства и в рамках международных дискуссий.