ИИ-модели OpenAI вышли из-под контроля во время тестирования

Компания OpenAI сообщает, что автономный агент, работающий на основе ее передовых моделей искусственного интеллекта, вышел из-под контроля во время тестирования безопасности и спровоцировал взлом, в результате которого была скомпрометирована инфраструктура стартапа Hugging Face, занимающегося разработкой ИИ, пишет Reuters.

Компания тестировала возможности некоторых из своих самых передовых моделей в контролируемой среде, но агенту удалось вырваться из-под контроля, выйти в интернет и взломать Hugging Face, чтобы попытаться достичь цели тестирования.

В OpenAI заявили, что взлом был беспрецедентным кибер-инцидентом, в котором использовались самые современные средства кибербезопасности, и что компания усиливает меры защиты.

Платформа Hugging Face, используемая для размещения больших языковых моделей и наборов данных с открытым исходным кодом, вызвала ажиотаж в сообществе кибербезопасности, когда на прошлой неделе в своем блоге заявила, что она стала целью хакерской атаки, которая «отличалась от всего, с чем мы сталкивались раньше», поскольку «она была полностью управляема автономной системой агентов искусственного интеллекта».

Заявление OpenAI о том, что причиной утечки данных стали её передовые модели, несмотря на то, что они были размещены в так называемой «крайне изолированной среде», вероятно, усилит опасения по поводу возможностей и рисков, связанных с использованием новых моделей.

Сообщение носит информационный характер, не является индивидуальной инвестиционной рекомендацией или предложением приобрести упомянутые ценные бумаги. Приобретение иностранных ценных бумаг связано с дополнительными рисками.