Китайский ИИ пока недостаточно мощный, чтобы столкнуться с рисками безопасности, считают в Huawei

Заместитель председателя совета директоров Huawei Эрик Сюй заявил, что китайские разработчики ИИ, вероятно, еще не достигли того уровня развития технологий, при котором возникают риски безопасности, наблюдаемые у ведущих американских компаний. По его мнению, которое приводит агентство Reuters, им следует продолжать создание более мощных моделей, соблюдая баланс между инновациями и рисками.

«Если взглянуть на основных поставщиков моделей ИИ в США, то, учитывая их колоссальные вычислительные мощности, пожалуй, только они сами знают, на каком уровне находятся их модели», - подчеркнул Сюй.

Его заявления прозвучали на фоне растущей в США обеспокоенности по поводу безопасности ИИ: ведущие разработчики и исследователи предупреждают, что все более автономные системы могут обходить защитные механизмы или выходить из-под контроля. 

Китай избрал иной подход: здесь передовой ИИ в целом рассматривается как мощная, но поддающаяся контролю технология. Страна активно внедряет такие системы, одновременно разрабатывая обязательные стандарты, проводя оценку безопасности и вводя другие защитные меры против таких рисков, как выход автономных агентов из-под контроля или атаки на внешние системы. Кроме того, в Китае ведется работа над обязательным национальным стандартом безопасности ИИ-агентов.

Сюй добавил, что китайским разработчикам, возможно, придется ускорить темпы работы, прежде чем они столкнутся с рисками, характерными для передовых американских моделей ИИ.