Проблемы с безопасностью. Сторонники и противники замедления ИИ

С середины сентября продолжаются публичные дебаты о необходимости замедления искусственного интеллекта. Так, 12 сентября Дарио Амодеи, глава одного из ведущих ИИ-разработчиков Anthropic, опубликовал пост c призывом к лидерам отрасли замедлить развитие технологии из-за ее потенциальной опасности. Его поддержали другие главы ИИ-компаний, в том числе Сэм Альтман из OpenAI и Илон Маск, основавший стартап xAI. Альтман уже приостановил разработки мощнейшей модели OpenAI из-за проблем с безопасностью.

Однако президент Дональд Трамп раскритиковал алармистские настроения в отрасли и заявил, что США не должны уступать Китаю в гонке технологий. Лидеры других стран, в том числе Китая и Европы, также выступают против ограничений развития искусственного интеллекта. Никто не хочет проиграть в технологическом соперничестве.

Именно бум искусственного интеллекта способствует росту фондового рынка США. Сейчас — идеальное время зайти в американский рынок. Откройте брокерский счет «Сегрегированный Global» и присоединяйтесь к США, где кипят инвестиции.

Finam.ru рассказывает о последних проблемах и разногласиях в сфере искусственного интеллекта.

Проблемы с безопасностью ИИ и приостановка новейших моделей OpenAI

Предупреждения о рисках ИИ звучат все громче. На днях глава Microsoft Билл Гейтс присоединился к публичной дискуссии, заявив, что новейшие инструменты ИИ в руках злоумышленников могут привести к гибели миллиарда человек. По мнению миллиардера, одного саморегулирования компаний отрасли недостаточно. Необходимо, чтобы правоохранительные органы, политики и правительства подключились к решению проблемы и разработали меры защиты и контроля.

Как пишет Axios, OpenAI, Anthropic и исследователи в области безопасности изучают десятки тысяч инцидентов с передовыми моделями ИИ, которые выходили из-под контроля и нарушали протоколы. Все они произошли за последние месяцы в результате как внутреннего тестирования, так и в реальных условиях.

Среди проблем эксперты по безопасности отмечают обход моделями ИИ защитных механизмов, создание досок объявлений, выход из систем тестирования, взлом сайтов, самоподсказки или попытки обойти мониторинг. Большинство из этих инцидентов не нанесли ущерба, но сами по себе являются тревожным сигналом. Более совершенные модели ИИ ищут способы выхода из-под контроля.

В последние дни OpenAI сообщила о череде эпизодов нарушений безопасности. Среди них - утечка 53 изображений пользователей ChatGPT, взлом правительственного сайта Австралии и попытки взлома других сайтов, в том числе правительственных сайтов США.

Из-за этого OpenAI объявила о приостановке обучения своих самых мощных моделей до тех пор, пока не примет дополнительные меры предосторожности и не будет уверена в обеспечении безопасности исследований.

Самым серьезным инцидентом с моделями OpenAI остается произошедший в июле 2026-го взлом ИИ-разработчика Hugging Face, который совершили сотни скоординированных агентов OpenAI для улучшения собственных результатов в тестах на кибербезопасность.

Эксперты предупреждают, что если во время тестирования ИИ-модели нарушают правила безопасности, то в реальной жизни их поведение вероятно приведет к киберинциденту.

Трамп VS Амодеи. Совместный ужин и разногласия

После громкого призыва Амодеи к замедлению развития искусственного интеллекта западные медиа называют его новым лицом искусственного интеллекта. Причем не всегда в положительном ключе. Его называют эксцентричным, похожим на религиозного лидера, высмеивают его алармизм в скетчах на шоу SNL.

СМИ обратили внимание, что из ИИ-лидеров только Амодеи не присутствовал на прошедшей недавно встрече Трампа с китайским главой Си Цзиньпин. Однако стало известно, что 27 сентября состоялся тет-а-тет ужин Трампа и Амодеи. Его детали пока не разглашаются. Как заявлял Трамп Bloomberg, они собирались обсудить недавние призывы Амодеи замедлить темпы разработки новых моделей ИИ. Американский лидер по-прежнему считает, что США должны «действовать и побеждать» в гонке искусственного интеллекта. Трамп отмечал, что сейчас Штаты на полтора года опережают Китай в прогрессе ИИ.

Он считает искуственный интеллект более масштабной технологией, чем интернет и отмечает, что США инвестировали триллионы долларов в его развитие.

Почему многие выступают против замедления ИИ?

Не только американский президент, но и китайские, и европейские лидеры выступают против замедления развития искусственного интеллекта. Как пишет Reuters, ведущая европейская компания в области искусственного интеллекта Mistral обвинила американских конкурентов в использовании проблем безопасности для укрепления своего доминирования в сфере ИИ. Представители компании отвергли идею замедлить прогресс искусственного интеллекта, поскольку сейчас Европа стремится наверстать упущенное в технологической гонке.

Представители европейских ИИ-компаний считают, что призывы американских лидеров рынка корыстны. По их мнению, таким образом технологические корпорации стремятся увеличить разрыв между крупными лабораториями и новыми участниками, поскольку ограничения на основе произвольных пороговых значений будут препятствовать инновациям.

Кристиан Керстинг, профессор искусственного интеллекта в Дармштадтском техническом университете Германии, даже заявил, что предложения Амодеи равносильны «захвату регулирующих органов». Китайские власти также назвали предложения Амодеи попыткой сдерживания технологического развития Поднебесной.

Эксперты предупреждают, что если в ИИ-отрасли произойдет остановка развития, то та компания, у которой на сегодняшний день самая сильная модель, будет и дальше доминировать на рынке. По сути, это лишает небольшие стартапы шанса конкурировать с гигантами с помощью инноваций.