Anthropic выпускает в открытый доступ ИИ-модель, подобную Mythos с урезанными функциями

Компания Anthropic PBC широко распространяет версию своей ИИ-модели Mythos, в которой заблокированы некоторые возможности в сфере кибербезопасности, пишет Bloomberg.

Несколько месяцев назад компания предупредила, что мощная модель искусственного интеллекта Mythos может обнаруживать и использовать уязвимости в критически важном программном обеспечении.

Новая модель, получившая название Fable 5, должна быть запущена во вторник с защитными механизмами, которые не позволят ей отвечать на определенные типы запросов, включая запросы, связанные с кибербезопасностью и биологией. В этих случаях, как заявила Anthropic, ее чат-бот Claude будет направлять ответы через другую модель, называемую Opus 4.8.

Anthropic также выпускает ту же модель, но без некоторых защитных механизмов, в качестве новой версии Mythos под названием Mythos 5. Она будет доступна группам, которые могут использовать модель с возможностями кибербезопасности в рамках инициативы под названием Project Glasswing. На прошлой неделе Anthropic добавила еще 150 организаций в список компаний, имеющих доступ к Mythos, увеличив общее число до примерно 200.

Mythos стала одним из ключевых направлений деятельности компании из Сан-Франциско в то время, когда она готовится к первичному публичному размещению акций. Компания приняла необычное решение ограничить доступ к модели, сославшись на опасения, что Mythos может выявлять и использовать уязвимости «в каждой основной операционной системе и каждом основном веб-браузере по указанию пользователя». Однако, как и ее конкуренты, Anthropic также работает над разработкой моделей, которые лучше справляются с рядом других задач.

«Мы хотели убедиться, что для не связанных с кибербезопасностью сценариев использования мы действительно уделили первостепенное внимание безопасному и скорейшему выпуску Fable, — сказала Дианна Пенн, руководитель отдела управления проектами в исследовательских лабораториях Anthropic. - Именно поэтому мы сначала запускаем эту часть Fable, продолжая работать над общими сценариями использования в сфере кибербезопасности».

Компания Anthropic заявила, что Fable 5 разработана для более эффективного применения в сфере программирования и решения других профессиональных задач. В ходе тестирования нового программного обеспечения платежный процессор Stripe смог выполнить длительную задачу по разработке программного обеспечения за один день, тогда как вручную команде потребовалось бы два месяца, сообщила Anthropic. Компания также заявила, что гипотеза, выдвинутая Mythos относительно нового механизма действия белка E. coli, была подтверждена в исследовательской работе лаборатории, изучавшей ту же проблему.

Чтобы проверить, насколько надежны механизмы защиты Fable 5, Anthropic запустила внешнюю программу поиска уязвимостей, чтобы найти способы взлома модели или обхода ее защитных механизмов. За более чем 1000 часов тестирования специалисты по тестированию на проникновение не обнаружили ни одного универсального способа взлома.

Пенн заявил, что Anthropic продолжит расширять число групп, имеющих доступ к полнофункциональной версии Mythos в рамках проекта Glasswing, и будет использовать «другие подходы, чтобы обеспечить доступ доверенных партнеров для обеспечения кибербезопасности».

Искусственный интеллект продолжает стремительно развиваться. Если вас интересуют инвестиции в ведущие компании в сфере ИИ, с «Финамом» доступны такие вложения на американском и на китайском рынках. Счет «Сегрегированный Global» в «Финаме» дает квалифицированным инвесторам возможность торговать американскими акциями, фьючерсами и опционами на биржах NYSE, NASDAQ, CBOE, CME Group. Кроме того, он предоставляет квалифицированным инвесторам доступ к бумагам, торгуемым на Гонконгской, Шанхайской, Шэньчжэньской и Токийской фондовых биржах.

Сообщение носит информационный характер, не является индивидуальной инвестиционной рекомендацией или предложением приобрести упомянутые ценные бумаги. Приобретение иностранных ценных бумаг связано с дополнительными рисками.