Новейшая ИИ-модель DeepSeek выявила пробелы в безопасности в независимых тестах

Согласно данным китайской группы по безопасности ИИ, новейшая модель ИИ от DeepSeek продемонстрировала более надежные средства контроля безопасности в независимых тестах, чем предыдущие версии, но все еще способна отключать программное обеспечение, предназначенное для ее остановки, использовать пробелы в мониторинге и следовать обманным инструкциям во время выполнения длительных задач. Об этом пишет Reuters.

Стартап DeepSeek — одна из самых пристально отслеживаемых китайских компаний в области искусственного интеллекта, а ее модели привлекли внимание всего мира благодаря своей производительности и относительно низким эксплуатационным расходам.

Сообщается, что компания Fangcun AI провела 34 теста DeepSeek V4.1 Flash-1017, предназначенных для оценки поведения ИИ-агента, работающего на основе китайской модели. Тесты изучали, будет ли модель действовать вне инструкций пользователя, избегать человеческого контроля или неправомерно влиять на людей.

Исследование проводилось на фоне опасений в Китае и других странах по поводу того, можно ли контролировать все более совершенных ИИ-агентов человеком.

Зато ИИ-агенты уж точно могут считать быстрее вас. Хотите мгновенно рассчитать стоп-лосс, объем или цену по актуальным котировкам вашего счета FinamTrade? Воспользуйтесь новым продуктом «Финама». MCP FinamTrade подключает ассистента к торговой платформе: счета, позиции, котировки, интерактивные графики, история операций и заявки. 

Сообщение носит информационный характер, не является индивидуальной инвестиционной рекомендацией или предложением приобрести упомянутые ценные бумаги. Приобретение иностранных ценных бумаг связано с дополнительными рисками