Глава OpenAI призвал принять "плохие вещи" ради преимуществ ИИ
Глава OpenAI Сэм Альтман заявил, что между его компанией и конкурентом Anthropic сохраняется фундаментальное различие в мировоззрении относительно регулирования ИИ. В эксклюзивном интервью POLITICO он заявил, что преимущества технологии оправдывают принятие некоторых рисков и что ИИ должен оставаться широко доступным для публики.
“Я думаю, здесь много расхождений. Мы верим, что мир должен принять некоторые плохие вещи ради преимуществ этой технологии и сохранения у людей свободы действий”, - сказал Альтман, отвечая на вопрос, в чем именно он расходится с Anthropic и ее CEO Дарио Амодеи.
Anthropic давно считается самым активным сторонником регулирования ИИ в отрасли - позиция, которая до недавнего времени расходилась с более мягким подходом OpenAI. Однако в последние месяцы разногласия между двумя ведущими ИИ-компаниями сузились: OpenAI поддержала более жесткие правила, столкнувшись с громкими взломами и “бунтом” своих моделей.
Альтман согласился с призывом Амодеи замедлить разработку самых продвинутых ИИ-моделей. Его компания вслед за Anthropic одобрила новые законы штатов, вводящие более строгие требования безопасности, чем те, которые создатель ChatGPT поддерживал ранее. Лоббисты OpenAI недавно поддержали двухпартийное предложение Палаты представителей, обязывающее ведущие ИИ-компании привлекать внешних аудиторов безопасности.
Несмотря на сближение, Альтман попытался отмежевать регуляторную позицию своей фирмы от позиции Anthropic, сославшись на критику “регуляторного захвата”, которую технические советники, близкие к президенту США Дональду Трампу, применяют к Anthropic.
“Я не согласен, но понимаю точку зрения тех, кто говорит: “Эта технология станет настолько мощной и опасной, что одна лаборатория в Сан-Франциско должна владеть ею, следить, чтобы ничего плохого не случилось, и решать, как распределять выгоды””, - сказал Альтман. Он назвал это “совершенно неприемлемым компромиссом”, противоречащим “более мягкому регуляторному подходу” OpenAI.
Пока одни хотят замедлить прогресс, другие задаются вопросом, а можно ли вообще останавливаться. Технологии уже не просто развиваются - они ускоряются. И в этой гонке побеждает не тот, кто осторожнее, а тот, кто быстрее. Скорость стала новой валютой. На финансовых рынках это не метафора: задержка в миллисекунды - это убытки. Алгоритмические трейдеры уже используют эти миллисекунды, чтобы зарабатывать. Доступ к MOEX, NYSE, NASDAQ через единый API со скоростью от 7 мс - это не просто инфраструктура, это конкурентное преимущество. Готовые SDK на GitHub, песочница и быстрый старт без боли, чтобы не тратить недели на интеграцию, а торговать уже сегодня.
“Я бы не пошел на сделку, которая гарантирует отсутствие крупных взломов, злоупотреблений, мошенничества и всего остального плохого. Потому что, я думаю, люди сделают на порядки больше хорошего, чем плохого”, - сказал Альтман.
Позже глава OpenAI добавил, что не принимает “действительно катастрофические риски”, включая потенциальную “серьезную потерю контроля над ИИ”.
Представитель Anthropic в ответ заявил, что их “регуляторные предложения касаются только фронтирных моделей”. Компания также сослалась на августовский обмен мнениями Амодеи с инвестиционным менеджером, где тот отвечал на критику о регуляторном захвате и влиянии на малые компании.
“Anthropic всегда составляла свои политические предложения очень тщательно. Мы очень стараемся делать предложения, которые ставят в невыгодное положение (замедляют) фронтирные ИИ-компании, но дают преимущество меньшим конкурентам”, - сказал тогда Амодеи.
Интервью Альтмана также затронуло новое ИИ-соглашение Трампа с ведущими технологическими фирмами и его попытку ребрендинга в “суперинтеллект”; серию инцидентов с автономным взломом, совершенных моделями OpenAI, и вопрос о том, должна ли компания нести юридическую ответственность; влияние денег ИИ-индустрии на политику США; влияние так называемых эффективных альтруистов внутри OpenAI; а также его взгляды на ключевых политических игроков, включая президента Франции Эммануэля Макрона и губернатора Калифорнии Гэвина Ньюсома.
Комментарии