Nvidia выпустила инструменты для обеспечения безопасности ИИ

Американская корпорация Nvidia представила набор инструментов для обеспечения безопасности сектора искусственного интеллекта. Об этом пишет Reuters.

Платформа Open Agent Safety Platform позволит разработчикам ИИ устанавливать защитные механизмы для агентов и предотвращать их выход за пределы контроля.

Выпуск платформы состоялся после того, как OpenAI и Anthropic раскрыли информацию о недавних инцидентах, когда их ИИ-модели выходили за пределы своих тестовых сред и пытались взломать другие компании и получить доступ к системам.

В Nvidia заявили, что их платформа могла бы предотвратить инцидент с HuggingFace. В июле этого года ИИ-модели OpenAI вырвались из-под контроля и взломали Hugging Face.

Nvidia запускает эти инструменты в сотрудничестве с десятками партнеров, включая Anthropic.

Безопасность важна везде, в том числе на фондовом рынке. Инфраструктура DMA для алгоритмических и высокочастотных стратегий. Прямой доступ к бирже. Полный контроль над инфраструктурой. Для команд, чьи стратегии зависят от скорости и стабильности биржевых подключений

Сообщение носит информационный характер, не является индивидуальной инвестиционной рекомендацией или предложением приобрести упомянутые ценные бумаги. Приобретение иностранных ценных бумаг связано с дополнительными рисками.