Anthropic признала Mythos опасным

Anthropic, создатель чат-бота Claude, признает, что ее новая ИИ-модель Mythos настолько хороша в поиске уязвимостей в программном обеспечении, что не может быть выпущена для широкой публики - слишком велик риск, что она попадет в руки злоумышленников. Тем не менее компания расширяет доступ: к модели получат доступ еще 150 организаций по всему миру (всего их станет около 200). Среди новых участников - компании из энергетики, здравоохранения и связи в 15 странах.

Опасения не беспочвенны: в апреле небольшая группа неавторизованных пользователей в частном онлайн-форуме уже получила доступ к Mythos. И хотя Anthropic утверждает, что в долгосрочной перспективе такие инструменты все же принесут больше пользы “защитникам” (”мир станет безопаснее, программное обеспечение будет лучше защищено”), переходный период, по признанию компании, будет “очень тревожным”.

На данный момент из всех “высоко- и критически опасных” ошибок, обнаруженных Mythos, исправлено лишь около 14%. При этом хакеры используют ИИ, чтобы резко ускорить поиск и эксплуатацию уязвимостей после их раскрытия. Генеральный директор Palo Alto Networks Никеш Арора предупредил, что барьер для сложных атак будет продолжать снижаться в ближайшие шесть месяцев: “Один злоумышленник теперь сможет проводить кампании, для которых раньше требовались целые команды”.