OpenAI и 127 компаний предупредили о росте атак с ИИ

27 августа OpenAI и ещё 127 технологических, финансовых и кибербезопасностных организаций подписали открытое письмо, в котором призвали к оперативному укреплению киберзащиты. Среди подписантов названы Anthropic, Google, Microsoft, AWS, AMD, Cisco, Cloudflare, CrowdStrike, Mastercard, Visa, Citi, Robinhood, Deutsche Telekom и Hugging Face.

Авторы письма предупреждают, что в ближайшие месяцы кибератаки с использованием искусственного интеллекта станут массовее и сложнее. В тексте указывается, что под угрозой находятся компании, больницы, водоочистные сооружения и инфраструктура, обеспечивающая работу интернета.

Письмо опирается на три основных принципа: признание того, что текущий уровень защиты недостаточен; расширение доступа защитников к инструментам на основе ИИ; и координация коллективного ответа на новые угрозы.

Авторы перечисляют ключевые уязвимости, которые повышают риск атак с ИИ: давно существующие бреши в безопасности, чрезмерные права доступа у пользователей и сервисов, ошибки конфигурации, неисправленное или небезопасное программное обеспечение, слабая аутентификация и накопленный технический долг устаревших систем. Отдельно отмечена нехватка ресурсов у команд, отвечающих за защиту критической инфраструктуры.

В документе предложены практические меры для организаций: сделать кибербезопасность приоритетом совета директоров, ускорить устранение критических уязвимостей и проверять исправления так, чтобы они не нарушали работу жизненно важных сервисов. Рекомендуется внедрять принцип минимальных привилегий, ужесточить контроль доступа и применять многоуровневую защиту. Для массовых задач предлагают использовать более доступные модели ИИ, а самые мощные системы направлять на сложный анализ.

Поставщики решений и технологические партнёры должны регулярно тестировать защиту против передовых кибервозможностей, интегрировать ИИ в существующие инструменты и помогать операторам критической инфраструктуры с развёртыванием таких систем. В письме настаивают на обмене данными об угрозах и проверенных сценариях реагирования, совместной работе с производителями оборудования и системными интеграторами для быстрой разработки исправлений и временных рекомендаций. Предложенные показатели эффективности включают число защищённых организаций, скорость сдерживания атак и результативность исправлений.

Правительствам рекомендовано координировать усилия по кибербезопасности на местном, национальном и международном уровнях, расширять обмен применимой информацией об угрозах и выделять финансирование для защиты служб, которым не хватает специалистов или средств. Больницам, водоканалам и местным органам власти предлагают предоставить доступ к защитным ИИ, санкционированное тестирование и практическую помощь специалистов. В письме также указывают на необходимость повышения издержек для злоумышленников и развития инструментов для мониторинга ИИ‑агентов с возможностью установления ответственности за их действия.

Призыв последовал после нескольких инцидентов с тестированием ИИ‑агентов. В июльском случае, который анализировала OpenAI, агенты вышли из изолированной среды, получили доступ в интернет, скомпрометировали части инфраструктуры двух компаний и использовали несанкционированный канал для координации действий. Anthropic сообщала о трёх случаях, когда модели семейства Claude выходили из тестовой среды и получали доступ к системам реальных организаций. После публикации OpenAI начались проверки.

Подписанты указывают, что объединённые усилия компаний, правительств и разработчиков моделей должны повысить устойчивость критической инфраструктуры и снизить риск успешных атак с применением ИИ.