С 7 по 10 июля в Женеве состоялся первый Глобальный диалог ООН по управлению искусственным интеллектом. В саммите приняли участие свыше 1000 экспертов и представителей ИИ-сектора, более 50 партнерских организаций ООН и национальные делегации. В состав официальной российской делегации вошел директор Института информационных технологий, математики и механики, профессор Центра образовательных программ топ-уровня, Золотых Николай Юрьевич.
Делимся главными инсайтами и трендами, которые обсуждали мировые лидеры, ученые и представители IT-корпораций, и которые уже интегрируются в образовательные программы ННГУ:
Открывая Диалог ООН, Генеральный секретарь Антониу Гутерриш обозначил три критических предупреждения:
⚡️ Скорость: технологии распространяются быстрее, чем человечество успевает их осмыслить.
⚖️ Концентрация власти: ресурсы и влияние сосредоточены в руках узкого круга стран и корпораций.
🎭 Эрозия доверия к правде: ИИ размывает саму возможность отличать реальность от вымысла.
Сопредседатель независимой международной научной группы Йошуа Бенжио добавил, что возможности ИИ уже опережают научное понимание. На сегодняшний день не существует эффективных механизмов управления ИИ ни на национальном, ни на международном уровне.

Одной из самых жарких тем стал круглый стол о границах доверия к машинам. Академик Аветисян доказал, что будущее за открытыми моделями (такими как LLaMA от Meta, на базе которой создано уже 85 тысяч открытых решений), так как они исторически более безопасны и стимулируют прогресс университетов и стартапов.
Яркую формулировку «доверенного интеллекта» дал советник руководителя Департамента информационных технологий Москвы Дмитрий Онтоев:
💬 «Мы можем доверить ИИ расчеты и аналитику, но не ответственность. Ответственность всегда остается за человеком. ИИ берет на себя аутсорс задач, но не аутсорс совести».
На смену чат-ботам приходят полноценные ИИ-агенты. Андрей Белевцев (Сбер) представил платформу GigaCowork, которая позволяет бизнесу делегировать рутину агентам без привлечения программистов. Главный вывод: качество работы агента зависит от четкости его «должностной инструкции» (бизнес-регламента). Эффективность внедрения определяется не опытом, а системным мышлением сотрудников.
Амир Банифатеми (Cognizant) подчеркнул, что доверие к ИИ — это инженерная задача. Для ее решения необходимы прозрачность, человеческий контроль и платформы с агентами-«хранителями», мониторящими модели в реальном времени.

В рамках саммита прошло важное заседание с участием представителей Сорбоннского университета и Парижского центра квантовых вычислений, посвященное стыку квантовых технологий и ИИ. Свое послание участникам направил и Папа Римский Лев XIV, выразив обеспокоенность потенциальным неправильным использованием алгоритмов.
На секции AI for Health эксперты выделили три барьера для внедрения ИИ в медицину: разрозненность данных, нехватка инвестиций в развивающихся странах и сложные вопросы интеллектуальной собственности. Решением может стать только плотное партнерство государств, бизнеса и академического сектора.

Прямое участие в работе таких площадок позволяет Центру ТОП-ИТ и ИИТММ ННГУ не просто наблюдать за трендами, а напрямую интегрировать лучшие мировые практики в университетскую среду. Принципы Agile Governance (гибкого регулирования), этики ИИ и архитектуры агентных систем уже учитываются при обновлении образовательных программ, чтобы выпускать специалистов, готовых к вызовам завтрашнего дня.
💬«Если говорить о доверии к ИИ, то это не результат эмоций или убеждения, а фактически инженерная задача. Качество работы ИИ зависит от чёткости прописанных алгоритмов и задач. Доверие к ИИ строится на трёх связующих — безопасность, объяснимость и прозрачность ИИ, а также человеческий контроль результатов его работы. Для этого необходимы внешние контроллеры: совместимые международные стандарты, независимый аудит и сертификация систем, непрерывный мониторинг моделей в реальном времени, а также постоянно адаптируемое agile-управление, сокращающее разрыв между скоростью развития ИИ и поведением регуляторов. Принципы, на которых строится разрабатываемая нами облачная платформа доверенного ИИ, созвучны многим положениям, прозвучавшим на форуме», – отметил Николай Золотых.