Банк России выпустил первые рекомендации по защите ИИ-систем в финансовом секторе

Банк России разработал и опубликовал методические рекомендации по обеспечению информационной безопасности при использовании технологий ИИ в финансовых организациях, следует из сообщения на официальном сайте ЦБ.

Документ стал первым руководством регулятора, в котором систематизированы риски применения ИИ, описаны возможные сценарии атак на такие системы и представлены рекомендации по их защите.

В частности, ЦБ рекомендует сохранять контроль со стороны человека при использовании ИИ в процессах, связанных с повышенными рисками информационной безопасности. Например, если ИИ применяется при проведении платежных операций, окончательное подтверждение транзакции должен осуществлять сотрудник.

Регулятор также рекомендовал участникам рынка разработать собственные модели угроз и внутреннюю политику информационной безопасности для работы с ИИ.

Отдельный раздел рекомендаций посвящен использованию внешних ИИ-сервисов. Банк России обращает внимание на необходимость оценки надежности поставщиков таких решений. В качестве одного из факторов, повышающих доверие к ИИ-модели, регулятор называет участие поставщика в программах по выявлению и устранению уязвимостей.