В саммите приняли участие свыше 1000 экспертов и представителей ИИ-сектора, более 50 партнерских организаций ООН и национальные делегации

С 7 по 10 июля в Женеве состоялся первый Глобальный диалог ООН по управлению искусственным интеллектом. В саммите приняли участие свыше 1000 экспертов и представителей ИИ-сектора, более 50 партнерских организаций ООН и национальные делегации.

В состав официальной российской делегации вошел директор Института информационных технологий, математики и механики, директор Центра искусственного интеллекта ННГУ Николай Золотых.

Диалог открыл Генеральный секретарь ООН Антониу Гутерриш. В своём выступлении он обозначил три ключевых вызова, связанных с развитием ИИ:

• скорость — технологии распространяются быстрее, чем мы успеваем их осмыслить;
• концентрация власти — ресурсы и влияние сосредоточены в руках узкого круга стран и корпораций;
• эрозия доверия к правде — ИИ размывает саму возможность отличать реальность от вымысла.

Сопредседатель независимой международной научной группы по изучению ИИ Йошуа Бенжио отдельно отметил, что сегодня не существует эффективных механизмов управления ИИ ни на национальном, ни на международном уровне, а вопрос справедливого распределения благ от ИИ остаётся открытым.

В рамках форума Россия представила единственную национальную сессию, посвящённую ответственному и доверенному ИИ. В центре обсуждения — границы доверия к технологиям и то, что мы можем и не можем делегировать машинам. Среди ключевых спикеров - директор ИСП РАН Арутюн Аветисян, исполнительный директор Стратегического агентства поддержки и формирования развития ИИ Кирилл Землянухин, советник директора Департамента информационных технологий Правительства Москвы Дмитрий Онтоев и другие. В повестке обсуждения – развитие открытых моделей ИИ как стимула для прогресса, а также доверенный интеллект как аутсорс задач, но не аутсорс ответственности. По итогам можно отметить, что интерес стран ООН к российскому опыту доверенного ИИ становится предметным и фокусируется на верификации моделей, цифровых водяных знаках и открытых репозиториях.

Параллельно Николай Золотых принял участие в 16-ой Академической конференции Международного союза электросвязи «Kaleidoscope - ИИ и передовые технологии во благо». В числе ключевых докладчиков исследователи квантовых технологий Эльхам Кашефи (Сорбоннский университет) и Элени Диаманти (Парижский центр квантовых вычислений), представители бизнеса Андрей Белевцев (Сбер) и Амир Банифатеми (Cognizant) с презентацией опыта внедрения ИИ-агентов.

Врамкахсессий «Making Responsible AI Operational: Governance, Standards and Trust» и «AIfor Health: Scaling Impact Through Standards, Investment and IP» состоялась дискуссия о переходе от этических деклараций к реальным механизмам контроля ИИ, а также о возможностях для преодоления барьеров масштабировании ИИ в профессиональных сферах – например, в здравоохранении.

«Если говорить о доверии к ИИ, то это не результат эмоций или убеждения, а фактически инженерная задача. Качество работы ИИ зависит от чёткости прописанных алгоритмов и задач. Доверие к ИИ строится на трёх связующих — безопасность, объяснимость и прозрачность ИИ, а также человеческий контроль результатов его работы. Для этого необходимы внешние контроллеры: совместимые международные стандарты, независимый аудит и сертификация систем, непрерывный мониторинг моделей в реальном времени, а также постоянно адаптируемое agile-управление, сокращающее разрыв между скоростью развития ИИ и поведением регуляторов. Принципы, на которых строится разрабатываемая нами облачная платформа доверенного ИИ, созвучны многим положениям, прозвучавшим на форуме», - отметил Николай Золотых.

Программно-аппаратная платформа доверенного ИИ для здравоохранения, разрабатываемая в ННГУ, решает ряд важных проблем применения ИИ в медицине и основана на следующих принципах:

• новое системное определение доверенного ИИ на базе принципов подконтрольности человеку, клинической и информационной безопасности, объяснимости и прозрачности;
• реализация клинических рекомендаций в форме модели доверенного ИИ, управляющей их исполнением и контролируемой экспертным сообществом и Минздравом;
• интеграция доверенного ИИ в инфраструктуру здравоохранения и стопроцентное исполнение клинических рекомендаций в практике;
• обеспечение непрерывного самообучения клинических рекомендаций на основе языковых моделей и системы здравоохранения с вовлечением ключевых заинтересованных сторон;
• гармоничные, взаимно развивающие доверенные отношения в тройке «Пациент — Врач — ИИ»;
• доступность медицинских услуг и данных о состоянии здоровья пациентов и населения в целом.

Ранее сообщалось, что учёные ННГУ получили гранты РНФ.