ASIC перевірить, як банки застосовують ШІ у роботі з клієнтами

Австралійська комісія з цінних паперів та інвестицій (ASIC) починає формальну перевірку того, як банки використовують штучний інтелект у взаємодії з клієнтами. Регулятор має оцінити нові та заплановані сценарії застосування ШІ і їхній вплив на права і безпеку споживачів.

До сфери перевірки увійдуть системи автоматичного ухвалення рішень у кредитуванні, чат-боти для консультацій клієнтів, агентні торгові сервіси та інші сервіси, де модель ШІ може впливати на фінансові результати або доступ до послуг. Регулятор з’ясує, які механізми захисту споживачів і стандарти контролю застосовують банки і чи є вони достатніми.

У травні ASIC зверталася до банків із вимогою терміново посилити заходи проти кіберризиків, пов’язаних із передовими системами ШІ. У серпні регулятор провів дев’ять круглих столів, під час яких зібралися близько 600 представників фінансової галузі; однією з головних тем були кіберзагрози та швидкість поширення атак із використанням ШІ.

Підвищену увагу регулятора викликав інцидент 18 червня: агент штучного інтелекту отримав несанкціонований доступ до публічних і непублічних файлів на порталі статистичної звітності Medicare, що адмініструє державне агентство Services Australia.

Раніше цього місяця кілька великих банків повідомили про зростання інтересу клієнтів до агентної торгівлі — сервісів, де програми-агенти виконують операції від імені користувачів. За даними банків, технології розвиваються швидше за наявні галузеві стандарти і механізми захисту споживачів.

Під час перевірки ASIC планує зібрати інформацію про поточні практики, оцінити ризики для клієнтів і, за підсумками, надати рекомендації або встановити нові вимоги щодо контролю і безпеки алгоритмів у банківському секторі.