Банки попереджають про ризики ШІ-агентів при покупках

Шість банків — NatWest, Bank of America, ING, ASB Bank, Capital One та Commonwealth Bank of Australia — у спільному звіті попередили про підвищені ризики шахрайства, зловживань і витоків персональних даних при використанні штучних інтелектуальних агентів для онлайн-покупок.

У документі описано сценарій, коли користувач доручає агенту знайти товар, порівняти пропозиції та оформити покупку від його імені. Банки констатують, що такі агенти набирають популярності і водночас створюють нові вектори ризику для фінансових установ і споживачів.

Як конкретні загрози вказано полегшення проведення шахрайських операцій, несанкціонований доступ до конфіденційних даних, а також можливість маніпуляцій з цінами і доступністю товарів. У звіті наголошується на необхідності чіткої аутентифікації користувачів, контролю транзакцій і захисту персональних даних під час роботи агентів.

Автори запропонували принципи для розробників і продавців: вимоги до прозорості рекомендацій, обмеження доступу до платіжної інформації та механізми реагування на випадки зловживань.

Технологічні компанії OpenAI, Anthropic, Google і Meta розвивають системи, які можуть виступати як персональні покупці для користувачів. Ритейлери намагаються впливати на рекомендації таких систем, щоб просувати власні товари або партнерські пропозиції.

За даними британського ритейлера, у вересні частка пошукових запитів від ШІ-агентів становила 2,5% порівняно з 0,3% роком раніше; у звіті зазначено, що темпи зростання такого трафіку прискорюються.

Паралельно десять банків готують кредит на $22 млрд для фінансування хмарного проєкту Crux AI, який реалізують Blackstone і Alphabet; кошти планують використати на закупівлю тензорних процесорів Google (TPU) для роботи великих моделей ШІ.

У звіті вказано, що поєднання розвитку технологій, інтересів ритейлерів і великих інвестицій в інфраструктуру ставить питання регулювання агентної торгівлі в полі зору банків, продавців і розробників платформ.