Как сделать ИИ безопасным? Страны ищут баланс

Мир все еще пытается найти ответ на вопрос: искусственный интеллект - друг или враг человечества? Пока одни руководители компаний говорят о новых возможностях, открывающихся благодаря технологиям, росте производительности труда и экономии на рабочих процессах, другие отмечают увеличение числа кибератак на их бизнес с использованием ИИ-ботов, которые приводят к большим финансовым потерям.

На днях в Сан-Франциско в рамках первого собрания Международной сети институтов безопасности ИИ встретилась группа венчурных инвесторов, бизнес-лидеров и государственных чиновников со всего мира, чтобы обсудить риски, которые искусственный интеллект представляет для общества, и найти баланс между ними и потенциальными преимуществами ИИ.

Finam.ru рассказывает, как изменилась кибербезопасность с появлением ИИ и как мировые лидеры хотят решать проблему.

ИИ-боты атакуют компании по всему миру

Мошенничество с использованием искусственного интеллекта набирает обороты, по всему миру бизнес находится под угрозой. При этом специалисты по кибербезопасности многих компаний еще не научились в полной мере отражать такие атаки, развитие технологий идет быстрее, чем люди успевают к ним адаптироваться.

Согласно исследованию Arkose Labs, проведенному среди специалистов по кибербезопасности, 88% компаний за последние два года столкнулись с ростом числа атак ИИ-ботов. При этом за последние 12 месяцев 40% кибератак были совершены с помощью ИИ-ботов. Они обычно приводят к значительному финансовому ущербу для компаний. Так, 76% специалистов по кибербезопасности оценили убытки от таких атак в $99 млн. Еще 56% экспертов считают, что ИИ повысил частоту и сложность киберугроз.

Около половины респондентов заявили, что у них недостаточно персонала с опытом как в области ИИ, так и в области кибербезопасности. Только 12% руководителей компаний считают, что их бизнес готов к ИИ-киберугрозам.

Инвестирование в безопасность поможет в борьбе с ИИ-рисками

Первое заседание международной сети институтов по безопасности ИИ стало знаковым событием для отрасли. Чуть больше года назад администрация президента США Джо Байдена поручила Национальному институту стандартов и технологий (NIST), который находится в ведении министерства торговли США, провести тщательную оценку возможностей и рисков ИИ. Затем NIST создал Институт безопасности ИИ в США, который заключил добровольные соглашения с OpenAI и Anthropic о тестировании их моделей. Несколько других стран, в том числе Великобритания, создали аналогичные институты безопасности ИИ.

Во время мероприятия генеральный директор Anthropic Дарио Амодей отметил, что для выявления конкретных угроз национальной безопасности, с которыми не очень хорошо знакомы такие компании, как его, необходимы государственные экспертные знания. По его словам, цель извлечь выгоду из ИИ не противоречит цели сделать его более безопасным.

В «Финаме» можно получить доступ к инвестициям в будущих «единорогов» на этапе pre-IPO. Anthropic — второй крупнейший игрок среди разработчиков больших языковых моделей, уступает лишь OpenAI, создателю ChatGPT.

Дарио Амодей считает, что инвестирование в повышение безопасности систем ИИ способствует также и их дальнейшему развитию. При этом глава Anthropic подчеркнул, что риски, связанные с ИИ, реальны, особенно по мере того, как генеративные системы становятся более мощными и получают большую автономию.

Одним из основных рисков собравшиеся эксперты признали проблему, связанную с необходимостью тестирования и оценки систем ИИ, которые даже их создатели не полностью понимают, в области, где состояние техники быстро меняется.

Переизбрание Дональда Трампа на пост президента США подлило масла в огонь и заставило экспертов обеспокоиться дальнейшим развитием американского института безопасности ИИ, который играет большую роль в международной сети таких учреждений. Министр торговли Джина Раймондо, самый высокопоставленный чиновник США, присутствовавший на мероприятии, подчеркнула, что проблемы, связанные с безопасностью ИИ, выходят за рамки политики. По ее словам, никто в мире, ни одна политическая партия, не желает, чтобы ИИ стал опасной технологией.

Потенциальные преимущества ИИ

Однако у ИИ по-прежнему множество энтузиастов по всему миру, которые считают, что преимущества технологии перевешивают риски. Так, согласно исследованию Arkose Labs, некоторые компании уже опережают конкурентов, полностью интегрируя искусственный интеллект в свои стратегии киберзащиты. К ним относятся 26% опрошенных представителей компаний. При этом 50% ИИ-энтузиастов уже получают выгоду от внедрения решений на основе ИИ для защиты от атак ИИ-ботов.

Кроме того, энтузиасты ИИ отмечают огромные перспективы технологии в обучении, работе с большими объемами данных и оптимизации затратных рабочих процессов.

Одним из таких наглядных примеров, которые приводит Axios, стала компания Earth AI, основанная в 2017 году, которая использует ИИ для нахождения месторождений определенных минералов. Недавно она заявила о находке крупного месторождения палладия, платины и никеля на юго-востоке Австралии. Палладий и другие родственные металлы жизненно важны для перехода к более чистым энергетическим технологиям, поэтому спрос на них растет, а количество найденных новых месторождений сокращается. По словам генерального директора и основателя Earth AI Романа Теслюка, найденное месторождение может стать крупнейшим подобным открытием в Австралии на сегодняшний день. Он заявил, что на прогнозирование и нахождение месторождения компания потратили менее $300 тыс, что значительно ниже, чем обычная стоимость такой работы. Это позволяет компании пробовать больше и находить месторождения не с первой попытки, ошибки не так сильно ударят по ее бюджету.

* Сообщение носит информационный характер, не является индивидуальной инвестиционной рекомендацией или предложением приобрести упомянутые ценные бумаги. Приобретение иностранных ценных бумаг связано с дополнительными рисками.