Реальные риски или выгода? Почему технологические лидеры хотят замедлить развитие искусственного интеллекта?

В субботу, 12 сентября, Дарио Амодеи, глава Anthropic, одной из крупнейших компаний в сфере искусственного интеллекта, опубликовал пост, в котором призвал американских и мировых ИИ-лидеров замедлить развитие технологии из-за серьезных рисков. Амодеи также предложил трехэтапный план по замедлению прогресса передовых ИИ-моделей. Его уже поддержали главы других корпораций - Сэм Альтман из OpenAI и Илон Маск, владеющий стартапом xAI.

Однако далеко не все участники рынка и политики согласны с предложениями Амодеи по ограничению искусственного интеллекта и подозревают глав технологических корпораций в попытке манипулирования ради собственной выгоды.

Finam.ru рассказывает, почему технологические лидеры хотят замедлить развитие ИИ, и кто выступает против ограничений?

ИИ может уничтожить человечество через 10 лет?

Предупреждения об ИИ-рисках для мировой экономики и даже об угрозе, которую ИИ представляет для существования человечества, звучат уже не первый год. Когда об этом говорят лидеры отрасли, такие как Маск, Альтман и Амодеи, ситуация накаляется. Все трое руководителей уже не раз заявляли о возможных катастрофических последствиях слишком стремительного развития искусственного интеллекта и его выхода из-под контроля людей. Однако на прошлой неделе предупреждения зазвучали еще громче.

Как пишет Bloomberg, Джейкоб Коксон, исследователь в области искусственного интеллекта, уволился с работы и обвинил своих бывших работодателей, компании Anthropic и OpenAI, в том, что они «играют с нашими жизнями», участвуя в гонке по созданию сверхразумного ИИ. В социальных сетях Коксон написал, что разработчики полагают, будто ИИ может уничтожить человечество до конца десятилетия.

В ответ Эван Хубингер, действующий сотрудник Anthropic, заявил, что он и его коллеги действительно обеспокоены таким сценарием. «Лично я оцениваю вероятность этого события более чем в 10% в ближайшее десятилетие», - написал он.

В своем посте Амодеи также написал, что риск утраты контроля над системами искусственного интеллекта, злоупотребление ИИ для кибератак и биотерроризма, а также потенциальные серьезные экономические потрясения стали причинами, по которым он предлагает лидерам отрасли замедлить развитие искусственного интеллекта. Он отметил, что не предлагает полностью остановить разработки, чтобы не лишать человечество и экономику его преимуществ, а также не отдавать первенство в руки авторитарных режимов, которые не захотят останавливаться.

Говоря о преимуществах ИИ. Инвесторы и трейдеры активно используют инновационные технологии для заработка. «Финам» создал ИИ-среду для работы с рынком — данные, анализ и сделки теперь в одном рабочем пространстве с ИИ-консьержем. FinamX — бесплатно первые 14 дней.

Амодеи вспомнил об инциденте OpenAI-Hugging Face (OAI-HF), когда рой ИИ-агентов по сути действовал как фанатично преданный коллектив, совершая кибератаки на непоставленные им цели. И если тогда экономический ущерб был минимальным, то, по мнению главы Anthropic, более мощные модели ИИ могут захватить весь интернет через 6-12 месяцев и тогда ущерб будет оцениваться в сотни миллиардов долларов.

Илон Маск написал в X, что Амодеи прав. Сэм Альтман также поддержал Амодеи. В интервью изданию Fortune он заявил, что этот год - неудачный для выхода на IPO, и первичного размещения OpenAI не будет до 2027-го. «Я считаю неприемлемым допускать даже 10% вероятность гибели всех людей к концу десятилетия», - заявил он.

Многие работники ИИ-отрасли разделяют опасения руководителей компаний. Так, еще в июле более 1000 сотрудников ведущих компаний в сфере ИИ подписали петицию, призывающую правительство США поддержать механизм, который позволил бы «целенаправленно регулировать темпы» разработки ИИ, чтобы предотвратить слишком быстрое развитие технологии.

План Амодеи по замедлению развития искусственного интеллекта

В посте Амодеи предложил трехэтапный план по замедлению и более безопасному развитию искусственного интеллекта.

Первый этап включает в себе приглашение сторонних экспертов во все ведущие ИИ-компании, которые будут следить за обеспечением правил безопасности и информировать о произошедших инцидентах в ходе разработки и тестирования ИИ-моделей. По словам Амодеи, Anthropic уже приняла решение о допуске сторонних экспертов, которые будут иметь те же доступы, что и сотрудники компании. Он призывает другие ИИ-корпорации последовать его примеру, а американское правительство - сделать сторонний контроль обязательным для регулирования отрасли.

Второй этап несколько сложнее и подразумевает сотрудничество компаний из сферы ИИ из демократических стран. По замыслу Амодеи, такие компании должны разработать общие стандарты безопасности, а также ограничения на темпы бесконтрольного развития ИИ.

Самым сложным в реализации Амодеи называет третий этап - международное сотрудничество демократических ИИ-компаний с авторитарными государствами, чтобы координировать действия совместно на мировом уровне.

Инвесторы и политики - за продолжение ИИ-гонки

Далеко не все участники ИИ-рынка согласны замедлить развитие ИИ. Так, государственная газета Китая Global Times назвала призывы главы Anthropic тактикой «холодной войны». Стоит отметить, что в посте Амодеи также призвал США усилить контроль за экспортом чипов в Китай и пресекать предполагаемую дистилляцию ИИ-моделей, проводимую китайскими лабораториями.

Global Times считает, что глава Anthropic и США пытаются сдержать развитие искусственного интеллекта в Китае с помощью технологических барьеров и регуляторных монополий, чтобы сохранить монополистическую гегемонию Вашингтона в сфере передовых технологий и исключить Китай из глобальной системы управления ИИ.

Президент США Дональд Трамп назвал опасения лидеров ИИ-компаний преувеличенными и заявил, что США должны сосредоточиться на развитии искусственного интеллекта, поскольку сейчас страна опережает Китай и является мировым технологическим лидером. По мнению Трампа, победит тот, кто будет лидировать в сфере ИИ.

Инвесторы тоже негативно восприняли слова о необходимости замедления искусственного интеллекта, поскольку многие зарабатывают на буме ИИ и не хотят снижения доходности. Так, известный инвестор Майкл Бьюрри обвинил лидеров ИИ-корпораций в попытке замедлить конкуренцию на рынке. По мнению Бьюрри, делая пустые алармистские заявления об угрозах ИИ, руководители компаний поддерживают ажиотаж вокруг будущих IPO и хотят скрыть реальное замедление их роста.