ИИ-модели Anthropic в ходе тестирования взломали три компании

Некоторые из ИИ-моделей Claude от Anthropic взломали системы трех компаний во время тестирования кибербезопасности, сообщает Reuters. Это произошло спустя несколько дней после того, как OpenAI сообщила о том, что один из ее агентов ИИ совершил самовольную атаку.

Новые инциденты произошли из-за ошибки, которая непреднамеренно предоставила моделям Anthropic доступ к открытому интернету. Это позволило получить несанкционированный доступ к системам трех организаций, сообщила компания Anthropic, не называя их имен. Anthropic выявила инциденты после анализа 141 006 тестовых сессий. 

Это контрастирует с ситуацией с OpenAI, чей ИИ-агент самостоятельно использовал новую уязвимость для доступа к интернету во время кибертестирования. 

Тем не менее, последние события подчеркивают, как искусственный интеллект усилил угрозы кибербезопасности и его разработчикам уже сложно сдерживать возможности своих моделей.

Ситуация будет только ухудшаться по мере того, как модели будут становиться умнее, считают эксперты.

Сообщение носит информационный характер, не является индивидуальной инвестиционной рекомендацией или предложением приобрести упомянутые ценные бумаги. Приобретение иностранных ценных бумаг связано с дополнительными рисками.