OpenAI отменила выпуск ИИ-модели GPT-6.1 Astra из-за проблем с безопасностью

OpenAI объявила, что не будет выпускать свою новейшую ИИ-модель после того, как в ходе внутреннего тестирования были выявлены риски безопасности. Это стало очередным шагом отрасли к замедлению выпуска спорной фронтирной технологии, отмечает Al Jazeera.

Объявление в понедельник, 28 сентября, прозвучало на фоне продолжающихся дебатов о потенциальном катастрофическом вреде ИИ после серии инцидентов с выходом ИИ-агентов из-под контроля.

Саачи Джайн, руководитель отдела систем безопасности OpenAI, заявила, что GPT-6.1 Astra не соответствовала стандартам компании по действиям в соответствии с пожеланиями человека во время внутреннего тестирования.

По ее словам, хотя GPT-6.1 Astra улучшилась по сравнению с предшественницей в некоторых областях, модель не соответствовала планке по “объему и авторизации, а также по тому, как она сообщает пользователю о проделанной работе”.

“Когда мы выпускаем модель пользователям, у нас чрезвычайно высокая планка по безопасности и согласованию”, - подчеркнула она.

Решение, объявленное накануне ежегодной конференции разработчиков OpenAI в Сан-Франциско, было впервые освещено The Wall Street Journal.

Страхи выхода ИИ из-под контроля человека вызвали отраслевые призывы к замедлению развития. В влиятельном эссе ранее в этом месяце глава Anthropic Дарио Амодеи призвал разработчиков ИИ “задать темп фронтиру”, чтобы смягчить риск катастрофического вреда. Его призыв поддержали глава OpenAI Сэм Альтман и глава xAI Илон Маск.