США и Китай обсуждают меры безопасности в сфере ИИ

Делегации США и Китая на саммите в Пекине обсуждают меры безопасности в сфере искусственного интеллекта и намерены выработать протокол с рекомендациями по предотвращению использования самых мощных ИИ-моделей негосударственными субъектами. Об этом сообщает Reuters.

Министр финансов США Скотт Бессент в интервью CNBC заявил, что для Вашингтона крайне важно сохранить лидерство над Китаем в области ИИ. По его словам, именно поэтому Пекин заинтересован в переговорах по вопросам ограничений и защитных механизмов.

Переговоры проходят на фоне появления нового ИИ-инструмента Mythos от Anthropic, который выявил серьезные уязвимости в программном обеспечении. Это вынудило банки и другие компании срочно устранять слабые места и обновлять системы безопасности.

Американские чиновники выразили обеспокоенность тем, что преступные или террористические организации могут использовать Mythos для дестабилизации рынков и мировой финансовой системы.

Минфин США уже сотрудничает с 11 крупнейшими банками страны, помогая им устранять потенциальные уязвимости, и планирует распространить эту работу на региональные и местные банки. Бессент выразил уверенность, что переход к новым возможностям ИИ пройдет гладко.