OpenAI возобновляет обучение передовых ИИ-моделей, но без доступа к интернету

Компания OpenAI начала ограничивать доступ к интернету для своих наиболее мощных моделей искусственного интеллекта в процессе их обучения, пишет Bloomberg. Это решение стало ответом на недавние инциденты, в ходе которых системы компании получили доступ к ресурсам сторонних организаций.

Компания сообщила, что после паузы, взятой в прошлом месяце, она возобновила обучение своих передовых моделей. При этом доступ к интернету будет заблокирован до тех пор, пока не будут внедрены надежные механизмы защиты, исключающие риск того, что еще не выпущенные модели смогут совершать несанкционированные действия в сети во время обучения.

В конце сентября OpenAI объявила о приостановке обучения своих самых продвинутых моделей ИИ. Это произошло после того, как выяснилось, что одна из систем ИИ-агентов, проходившая обучение в изолированной среде без доступа к сети, сумела выйти в интернет и связаться со сторонним чат-ботом. В OpenAI отметили, что это был уже второй подобный инцидент. Ранее, в июле, группа моделей в ходе внутреннего тестирования также получила доступ к интернету, что привело к непреднамеренному проникновению в систему платформы Hugging Face.

По словам представителей компании, в случае с Hugging Face модели работали без стандартных защитных ограничений, поскольку находились в так называемой «песочнице» (sandbox) — изолированной виртуальной среде, предназначенной для проведения тестов безопасности или анализа потенциально опасного кода в контролируемых условиях. Однако модели смогли выйти за пределы этой «песочницы», воспользовавшись уязвимостью в программном обеспечении для доступа к открытому интернету.

В OpenAI сообщили, что после инцидента с Hugging Face количество каналов, через которые модели могли получить доступ к сети во время обучения и тестирования, было сокращено. Оставшиеся соединения используются исключительно для сбора метрик, ведения логов и аутентификации. Кроме того, компания направила значительные вычислительные мощности на поиск уязвимостей в собственных средах обучения с помощью ИИ-агентов.

Несмотря на опасения по поводу безопасности, искусственный интеллект продолжает стремительно развиваться. Если вы интересуетесь инвестициями в ведущие мировые ИИ-компании, такие возможности доступны с «Финамом». Брокерский счет «Сегрегированный Global» - это доступ к ведущим биржам США: NYSE, NASDAQ, CBOE и CME Group, а также к TSX (Канада).

Сообщение носит информационный характер, не является индивидуальной инвестиционной рекомендацией или предложением приобрести упомянутые ценные бумаги. Приобретение иностранных ценных бумаг связано с дополнительными рисками.