ИИ-агенты становятся угрозой для банков

Современные ИИ-агенты стали исключительно эффективными хакерами и уже представляют угрозу для банковской инфраструктуры, пишет The Atlantic.

Когда Anthropic готовила к выпуску новую мощную модель Mythos, компания предоставила ранний доступ избранным организациям для укрепления защиты - JPMorgan Chase была в списке, а позже программа расширилась на другие банки. После релиза министр финансов Скотт Бессент и тогдашний глава ФРС Джером Пауэлл встретились с руководителями Bank of America, Citigroup, Goldman Sachs и других крупных финансовых институтов, чтобы обсудить последствия.

Anthropic тогда заявляла, что новая модель может “превзойти всех, кроме самых опытных людей, в поиске и эксплуатации уязвимостей программного обеспечения”. Главное отличие ИИ-агентов от прежних киберугроз - скорость работы и способность действовать группами. Такие боты могут атаковать “роем”, ища “трещины” в системах компаний. Управление контролера денежного обращения США в летнем докладе Конгрессу отметило, что ИИ повысил “скорость, масштаб и изощренность кибератак на финансовые учреждения”.

Параллельно шесть крупнейших мировых банков, включая Bank of America и Capital One, опубликовали доклад, в котором предупредили о рисках агентной торговли, покупок, полностью автоматизированных ИИ-агентами. По их оценке, такие операции создают “риски в области прозрачности, безопасности, конфиденциальности и данных, выбора и совместимости”, которые растут “по мере предоставления ИИ-агентам большей автономии”.

“Потребители не понимают, будут ли ИИ-агенты действовать в их интересах. Они опасаются, что агенты могут купить не то или потратить слишком много, или, что еще хуже, потерять их деньги из-за мошенничества”, - говорится в докладе.

ИИ-агенты могут отдавать приоритет определенным товарам или способам оплаты из-за стимулов, например, более высоких комиссий или низких затрат на токены, а не потому, что это выгодно клиенту. Агентная торговля также несет “потенциал более высоких уровней мошенничества”, а любая утечка данных поставит под угрозу особо чувствительную информацию потребителей и продавцов.

При этом банки не отвергают агентную торговлю полностью и даже признают, что она может стать “основным способом совершения транзакций”. Но сначала, по мнению банков, необходимо выстроить доверие через отраслевые стандарты, политики и защиту потребителей. Но все это сейчас отстает от технологического развития.

Консорциум уже работает над следующим документом, который опишет, как реализовать пять ключевых принципов - прозрачность, безопасность, конфиденциальность и данные, выбор и совместимость.

Найдите свои способы обуздать ИИ-агентов - используйте их для работы с рынком в контролируемой среде. FinamX - интеллектуальная платформа для продвинутого анализа, автоматизации рутинных сценариев и эффективной работы с портфелем. Управляйте информационным потоком, настраивайте уведомления и тестируйте гипотезы с помощью 10+ ИИ-моделей. Больше не нужно переключаться между сервисами: FinamX объединяет аналитику, автоматизацию рутины и проверку гипотез в одном рабочем пространстве с ИИ-консьержем. Попробуйте бесплатно 14 дней.

^{Сообщение носит информационный характер, не является индивидуальной инвестиционной рекомендацией или предложением приобрести упомянутые ценные бумаги. Приобретение иностранных ценных бумаг связано с дополнительными рисками}