Anthropic предупреждает, что ИИ-модели вскоре могут начать самовоспроизводиться

Новое предупреждение об искусственном интеллекте от Anthropic вызвало ажиотаж в кругах специалистов по кибербезопасности, пишет Reuters.

Компания предупредила, что модели ИИ могут появиться в интернете через несколько месяцев после начала самовоспроизводства. В сообщении, опубликованном поздно вечером в понедельник, Anthropic допустила возможность того, что вредоносный ИИ может создать ботнет, быстро распространиться, противостоять попыткам удаления и даже проникнуть в центры обработки данных, чтобы ускорить свой рост.

В компании отмечают, что это дополнительное предупреждение к предыдущим заявлениям генерального директора Anthropic Дарио Амодеи, который выдвинул идею о том, что в течение следующего года или даже раньше ИИ может захватить «весь интернет» с помощью «постоянного ботнета».

В новой публикации была предпринята попытка сформулировать, как можно преодолеть эти проблемы. Компания заявила, что ее эксперименты показали, что модели ИИ среднего размера с 30 млрд параметров или меньше уже могут выполнять многие отдельные задачи, необходимые для самовоспроизведения, даже если им трудно надежно завершить весь процесс.

Сообщение носит информационный характер, не является индивидуальной инвестиционной рекомендацией или предложением приобрести упомянутые ценные бумаги. Приобретение иностранных ценных бумаг связано с дополнительными рисками