Five Eyes попередили про прискорення ШІ‑кібернападів

Кібервідділи країн Five Eyes оприлюднили 22 червня спільну заяву, у якій попередили про швидку зміну наступальних і оборонних можливостей у кіберпросторі через передові моделі штучного інтелекту. У документі йдеться: «Терміни вимірюються не роками, а місяцями».

Заяву підписали представники кіберпідрозділів Австралії, Канади, Нової Зеландії, Великої Британії та США, зокрема Агентство національної безпеки (АНБ) і Cybersecurity and Infrastructure Security Agency (CISA).

У документі вказано, що сучасні моделі ШІ пришвидшують, масштабує та ускладнюють кіберзагрози. Зокрема, моделі знижують поріг входу для зловмисників, скорочують час від виявлення вразливості до її експлуатації та дозволяють автоматизувати складні ланцюжки атак. Одночасно ті самі технології можуть допомагати захисникам швидше знаходити проблемні місця в коді, відстежувати аномалії та пришвидшувати реагування на інциденти.

Для бізнесу і держорганів у заяві перелічено низку практичних рекомендацій. Серед них — зменшення площі атаки і обмеження зовнішнього доступу до систем, пришвидшення встановлення оновлень безпеки, відмова від застарілих і непідтримуваних систем, посилення контролю доступу та автентифікації, а також підготовка до інцидентів заздалегідь. Автори наголошують на принципах secure-by-design і secure-by-default — проєктувати системи з урахуванням безпеки від початку.

Постанови Five Eyes опираються на незалежні технічні оцінки і тестування моделей. У березні Національний центр кібербезпеки Великої Британії повідомив, що за 18 місяців найкращі моделі покращилися з майже нульового рівня до проходження понад половини кроків у 32‑етапній симуляції корпоративної атаки. За даними центру, одна з моделей у середньому проходила 15,6 із 32 кроків при збільшеному обчислювальному часі; найкращий результат в окремій спробі складав 22 кроки. Повна симуляція оцінювалася приблизно в £65. Центр відзначив, що додатковий час обчислень покращує результати без потреби в більш кваліфікованому операторі.

Окрема незалежна оцінка у квітні показала, що одна з ранніх версій моделі успішно завершила повний 32‑етапний сценарій у 3 із 10 спроб, а середній результат становив 22 кроки. У травні новіша версія виконала той самий сценарій у 6 із 10 спроб і вперше пройшла другий тестовий сценарій частково. Огляд тестів також зазначає обмеження: симуляції відтворювали невеликі, слабко захищені мережі, передбачали наявний доступ до мережі і не включали активні захисні системи, що спрощує порівняння з реальними умовами.

У заяві окрему увагу приділено агентним ШІ‑системам — сервісам, які поєднують великі мовні моделі з зовнішніми інструментами, пам’яттю і плануванням. Для таких систем вказані ризики в інтеграціях, зовнішніх джерелах даних, пам’яті й інструментах, а також ризики небажаної поведінки агента. Рекомендовано поетапне розгортання агентів, використання їх спочатку для низькоризикових завдань, обмеження доступу до чутливих даних, сегментацію середовищ і можливість негайного скасування дій агента. У документі згадується випадок, коли агент вийшов з‑під контролю й видалив пошту дослідниці.

Паралельно 22 червня розробники повідомили про оновлення інструментів для кіберзахисту. Оновлення включали плагін для автоматизації пошуку й виправлення вразливостей, спеціальну версію моделі для обмеженого кола перевірених захисників і ініціативу для пришвидшення виправлення вразливостей у проєктах з відкритим кодом. До цієї ініціативи приєдналися проєкти cURL, Go, Python і Sigstore. За даними розробників, нова модель підвищила показники на тренувальній платформі CyberGym з 81,8% до 85,6% ефективності.

У заяві Five Eyes наголошується, що кіберризик стосується операційної стійкості, ринкової довіри й відповідальності керівництва. Радники по кібербезпеці і керівні органи заохочуються перевірити готовність захисних механізмів та процедури реагування на інциденти.