OpenAI и Anthropic объединили усилия для оценки безопасности ИИ-моделей

OpenAI и Anthropic, два крупнейших конкурента в области искусственного интеллекта, недавно провели оценку моделей друг друга, чтобы лучше понять проблемы, которые могли упустить их собственные тесты, пишет Bloomberg.

В сообщениях в блогах обеих компаний OpenAI и Anthropic сообщили, что летом они провели оценку безопасности общедоступных моделей ИИ друг друга. Они также проверили их на склонность к искажению фактов и несоответствие (misalignment - термин, обычно используемый для обозначения модели ИИ, не выполняющей то, что от неё хотят разработчики).

Компании являются известными конкурентами (Anthropic была основана бывшими сотрудниками OpenAI), что делает их сотрудничество примечательным. OpenAI назвала совместные усилия по безопасности «первым крупным межлабораторным мероприятием по тестированию безопасности и соответствия». Компания надеется, что это обеспечит «ценный способ оценки безопасности на отраслевом уровне».

Компании провели взаимную оценку до того, как OpenAI выпустила свою новую флагманскую модель ИИ GPT-5, а Anthropic выпустила последнее обновление своей модели Claude Opus, Opus 4.1.

Искусственный интеллект продолжает стремительно развиваться, и с «Финамом» есть уникальная возможность инвестировать в некоторые из ведущих ИИ-компаний на этапе pre-IPO. Заработайте до 217% на pre-IPO ключевого бенефициара роста рынка GenAI. Scale — лидер на рынке обработки данных, а также создания и внедрения корпоративных приложений на базе генеративного ИИ. Сегодня Scale является неотъемлемым инструментом для таких технологических гигантов, как Microsoft, Google и OpenAI.

*Сообщение носит информационный характер, не является индивидуальной инвестиционной рекомендацией или предложением приобрести упомянутые ценные бумаги. Приобретение иностранных ценных бумаг связано с дополнительными рисками.