OpenAI позволит сторонним организациям оценивать ее ИИ-модели на ранних этапах разработки

Компания OpenAI планирует разрешить сторонним организациям проверять ее модели искусственного интеллекта на предмет рисков безопасности на более ранних стадиях разработки, пишет Bloomberg.

По данным агентства, компания-разработчик ChatGPT намерена допустить внешние организации к проведению технической оценки безопасности ее моделей на этапах обучения, тестирования и внедрения новых систем ИИ. OpenAI также обозначила приоритеты для эффективной организации таких проверок, включая обеспечение «надежных механизмов независимости, научной обоснованности, строгих стандартов безопасности и четкого разграничения ответственности».

Ранее OpenAI обычно привлекала подобные группы для оценки безопасности и возможностей моделей непосредственно перед их выпуском, отметила Лама Ахмад, курирующая в компании работу со сторонними экспертами по вопросам безопасности.

В последние недели сотрудники ведущих компаний в сфере ИИ выражали обеспокоенность по поводу потенциальной способности искусственного интеллекта нанести катастрофический ущерб. Эти опасения во многом были подогреты рядом инцидентов, произошедших за последние месяцы, когда передовые модели ИИ от OpenAI и других разработчиков в ходе тестирования непреднамеренно взламывали системы других компаний.

Независимо от опасений по поводу искусственного интеллекта, он продолжает стремительно развиваться, в том числе совершенствует возможности в сфере инвестиций. Так, интеллектуальная платформа для продвинутого анализа FinamX объединяет в единой ИИ-среде аналитику, автоматизацию рутины, проверку гипотез и другие задачи. Управляйте информационным потоком, настраивайте уведомления и тестируйте гипотезы с помощью 10+ ИИ-моделей. Попробуйте бесплатно 14 дней.

Сообщение носит информационный характер, не является индивидуальной инвестиционной рекомендацией или предложением приобрести упомянутые ценные бумаги. Приобретение иностранных ценных бумаг связано с дополнительными рисками.