Ученые задумались над доверием между ИИ и человеком

В ближайшее время российские законодатели собираются обсудить с представителями Верховного суда возможность использовать искусственный интеллект для совершенствования судебной системы. Все, что когда-то казалось фантастикой, сегодня звучит почти как рабочая рутина, однако ученые предупреждают человечество о необходимости большего контроля над системами ИИ. Одна из ключевых отраслей — это медицина, где врач должен иметь полный кинороль над рекомендациями ИИ. Недавно американские ученые выявили шесть потенциальных вызов ИИ, на которые предстоит ответить человечеству.

Как рассказал ТАСС заместитель председателя совета по цифровизации, сенатор Артем Шейкин, в ближайшее время сенаторы планируют совместно с Верховным судом России обсудить вопросы правового регулирования использования ИИ в судебной системе. Речь идет о таких аспектах работы суда, как принятие решений, отбор судей и судопроизводстве как таковое.

Подобные дискуссии лежат в тренде, который задают российские власти. С 2024 года российские ведомства должны будут отчитываться об использовании искусственного интеллекта в системе госуправления, напомнил на прошедшем в Москве Глобальном финансовом форуме Ecumene 2023 первый зампред председателя Комитета Госдумы по науке Александр Мажуга.

Как отметил депутат, сегодня есть огромное количество данных, которые человек уже не может анализировать, и на помощь ему приходит ИИ. «Он должен помочь госслужащему принимать правильное управленческое решение», - рассказал Мажуга, по данным которого, подготовка кадров в этой сфере идет достаточно активно. Сегодня в России реализуются более 1000 программ в области ИИ в различных университетах. 

При этом Мажуга отметил, что, работая в сфере искусственного интеллекта, необходимо учитывать набирающий популярность зарубежный тренд на использование междисциплинарных подходов.

Принимать ИИ с осторожностью

В настоящее время большой интерес вызывает использование алгоритмов ИИ в медицине. Однако, как отметил в ходе дискуссии научный руководитель Национального центра физики и математики в Сарове (НЦФМ), в недавнем прошлом глава РАН Александр Сергеев, использовать ИИ в этой области следует с большой осторожностью. «Мы должны пользоваться его выводами, если мы понимаем, как он к этому выводу пришел. Если эти рекомендации врачами не понимаемы, если мы не понимаем, почему рекомендована эта терапия, мы не должны этого делать», - отметил Сергеев. По мнению ученого, только в случае полной уверенности полученные сведения следует «класть на полочку истинного знания».

Подобные настроения разделяют многие в ученом мире. «Никакой ИИ не может овладеть искусством медицины», - так озаглавлена статья, недавно опубликованная американским журналом Time. «Чтобы сохранить наше чувство сострадания и человечности, поставщики медицинских услуг должны уделять приоритетное внимание общению между людьми, когда мы сообщаем деликатные новости, чтобы способствовать заботливым отношениям с нашими пациентами. Это формирует основу гуманности медицины и священных отношений врача и пациента», - пишет издание.

При этом помощь ИИ может быть весьма уместной, для того чтобы избавить врача от ненужной бюрократической рутины или же при подготовке ответов на электронные обращения от пациентов. Системы ИИ также достаточно точно могу определять различные патологии. По данным недавнего исследования, опубликованного американским издание Journal of The National Cancer Institute, с помощью алгоритмов искусственного интеллекта можно гораздо точнее обнаружить рак молочной железы. Система ИИ сделала это с точностью 94,5% по сравнению с 88,4% у врачей-радиологов.

Хотите воспользоваться возможностями, которые открывает искусственный интеллект? Отслеживайте прогнозы по 8000+ российских и американских акций — в бесплатном сервисе «Финам AI-скринер». Алгоритмы обучены и протестированы на финансовой отчетности компаний, исторических ценах, макроэкономических данных за последние 10 лет. Используйте прогнозы «Финам AI-скринер» под ваши инвестиционные цели.

В то же время помощь ИИ для человека должна рассматриваться в контексте вызовов, которые он несет обществу. «Хотя разные группы могут договориться о принципах высокого уровня, которые следует соблюдать при использовании ИИ (например, конфиденциальность, справедливость и автономия), при применении этих принципов на практике возникают проблемы. Например, легко сказать, что системы искусственного интеллекта должны защищать частную жизнь человека, но, по-видимому, существует некоторый объем или тип конфиденциальности, от которого большинство людей были бы готовы отказаться ради разработки жизненно важных методов лечения», -такое мнение приводится, например, в исследовании Oxford Academics «Вызовы для общества и этики», опубликованном в 2022 году. В подготовке исследования приняло участие 26 ученых из разных стран мира.

В марте ученые Университета Центральной Флориды выявили шесть потенциальных вызовов, которые ожидают человечество в связи с ИИ. Исследование продолжалось более 20 месяцев и было опубликовано в международном научном издании International Journal of Human-Computer Interaction.

Вызов 1. Благосостояние человека. ИИ должен быть в состоянии обнаружить возможности его реализации на благо людей. Также следует внимательно относиться к поддержке благополучия пользователя при взаимодействии с ИИ.

Вызов 2. Ответственность. Ответственный ИИ относится к концепции определения приоритетов благосостояния человека и общества на протяжении всего жизненного цикла ИИ. Это гарантирует, что потенциальные преимущества ИИ будут использованы таким образом, чтобы это соответствовало человеческим ценностям и приоритетам, а также снижает риск непредвиденных последствий или этических нарушений.

Вызов 3. Конфиденциальность: сбор, использование и распространение данных в системах искусственного интеллекта должны быть тщательно продуманы, чтобы обеспечить защиту частной жизни отдельных лиц и предотвратить их вредное использование против отдельных лиц или групп.

Вызов 4. Проектирование: принципы проектирования систем искусственного интеллекта, ориентированные на человека, должны использовать структуру, которая может информировать своих пользователей. Эта система будет различать ИИ с чрезвычайно низким риском, ИИ, для которого не требуются специальные меры, ИИ с чрезвычайно высокими рисками и ИИ, который нельзя допускать.

Задача 5. Управление и надзор. Необходима система управления, которая учитывает весь жизненный цикл ИИ — от концепции до разработки и внедрения.

Задача 6. Взаимодействие человека и ИИ. Чтобы способствовать этическим и справедливым отношениям между людьми и системами ИИ, крайне важно, чтобы взаимодействие основывалось на фундаментальном принципе уважения когнитивных способностей человека. В частности, люди должны сохранять полный контроль и ответственность за поведение и результаты систем ИИ.

Последнее положение было вполне созвучным высказанному на конференции Ecumene 2023 ученым-физиком Сергеевым. Он напомнил, что, когда в США были проведены первые испытания ядерной бомбы в 1945 году, «была продемонстрирована технология, которая может уничтожить нашу цивилизацию». «Сейчас, когда продемонстрированы возможностей ИИ, мы находимся на некой грани возможно не физического уничтожения общества, а уничтожения социума». Сергеев считает, что для того, чтобы этого не произошло, должно работать доверие между странами, между искусственным интеллектом и человеком, чтобы не произошло катастрофы.