Монетарное управление Сингапура представило правила по рискам ИИ

Согласно документу, опубликованному 13 ноября, все регулируемые финансовые организации, включая банки, страховые компании и биржевых посредников, должны выстраивать надлежащее управление и контроль за использованием искусственного интеллекта.

Рекомендации охватывают весь спектр применения ИИ в финансах – от клиентских сервисов и внутренней аналитики до автономных систем, работающих со сложными процессами. Они распространяются на банки, страховые компании, участников рынков капитала и других лицензиатов, находящихся под надзором MAS.

MAS прописало ожидания по надзору со стороны советов директоров, по рамкам управления рисками и по контролю на всех этапах жизненного цикла систем ИИ, включая генеративные модели и ИИ-агентов. Регулятор отмечает, что стандарты основаны на принципах и соразмерны рискам, поэтому требования будут меняться в зависимости от размера организации и уровня риска каждого сценария использования ИИ.

Среди актуальных рисков MAS предупредило, что неверная оценка рисков ИИ может привести к крупным финансовым потерям, а непредсказуемое поведение систем – нарушить ключевые операции или нанести вред клиентам. Отдельно отмечены риски генеративного ИИ, такие как «галлюцинации» и нестабильное поведение моделей.

К другим проблемам MAS относит риски для безопасности: например, атаки с подменой запросов (prompt injection), утечки и потерю конфиденциальности данных при работе со сторонними сервисами, а также возможные нарушения авторских прав при обучении моделей на защищённых материалах. MAS также предупреждает об опасной зависимости от нескольких крупных поставщиков ИИ и о том, что сотрудники всё чаще слишком сильно полагаются на такие инструменты в повседневной работе.

Чтобы справиться с кадровыми вызовами, три крупнейших банка Сингапура в ближайшие один–два года проведут обучение для около 35 000 местных сотрудников, чтобы те могли адаптироваться к изменениям в своих ролях и процессах из-за внедрения ИИ. 

Заместитель управляющего директора MAS Хо Херн Шин заявила, что предлагаемые рекомендации задают «понятные надзорные ожидания, которые помогают финансовым организациям использовать ИИ», сохраняя при этом защиту от новых рисков. Заинтересованные стороны могут направлять отзывы по документу до 31 января 2026 года.

В октябре Совет по финансовой стабильности (FSB) предупредил, что расширение использования ИИ в финансах повышает риски, прежде всего из-за зависимости от нескольких крупных поставщиков моделей и инфраструктуры. Регулятор также призвал усилить контроль за внешними ИИ-сервисами и наладить обмен данными об инцидентах.