Эксперты Санкт-Петербургского Федерального исследовательского центра РАН (СПб ФИЦ РАН), который является участником Консорциума исследований безопасности искусственного интеллекта (ИИ), приняли участие в форсайт-игре и стратегической сессии по формированию образа будущего российского реестра доверенных технологий ИИ.
Сегодня технологии искусственного интеллекта стремительно проникают в различные сферы жизни и экономики всех ведущих стран мира: в промышленность, здравоохранение, финансы, транспорт, образование и многие другие области. Искусственный интеллект позволяет автоматизировать процессы, повышать эффективность работы, анализировать большие объемы данных и принимать более обоснованные решения.
Вместе с тем широкое использование технологий ИИ таит множество угроз, которые требуется учитывать на уровне профильных государственных ведомств. Например, многие алгоритмы ИИ (особенно глубокие нейронные сети) по сути являются «черными ящиками» — это значит, что они могут принимать решения, которые невозможно точно предсказать. Технологии ИИ также зависят от корректности данных для обучения, этического обоснования для применения искусственного интеллекта и прочего. В целом, все эти проблемы упираются в весьма фрагментарное формальное регулирование при использовании технологий ИИ.
Для разработки предложений по созданию российского реестра доверенных технологий искусственного интеллекта в Российском технологическом университете (РТУ МИРЭА, Москва) эксперты Консорциума исследований безопасности технологий ИИ провели стратегическую сессию и форсайт-игру.
Среди участников мероприятия — ведущие эксперты из СПб ФИЦ РАН, компаний «Газинформсервис», «Яндекс», Positive Technologies, «Газпромбанк», «Код безопасности», НКО «Фонд содействия развитию безопасных информационных технологий», «Национальный технологический центр цифровой криптографии», Raft Digital Solutions и Swordfish Security.
Одним из ведущих сессии стал руководитель Международного центра цифровой криминалистики СПб ФИЦ РАН Андрей Чечулин.
«Внедрение технологий ИИ уже нельзя остановить, поскольку от них сегодня зависит эффективность работы целых отраслей экономики. Однако искусственный интеллект может работать не только во благо, но и на руку злоумышленникам. Поэтому мы должны научиться не только контролировать, но и гарантированно уметь отличать опасные технологии ИИ от тех, которым можно доверять. В рамках мероприятия эксперты попытались в первом приближении составить концепцию того, каким требованиям должен удовлетворять искусственный интеллект так, чтобы ему можно было довериться. Конечная цель нашей работы – составление подробного реестра доверенных технологий ИИ», — поясняет Андрей Чечулин.
После обсуждения ключевых аспектов будущего реестра эксперты приступили к работе в формате форсайт-игры. Такой подход позволил смоделировать различные сценарии развития реестра и выработать рекомендации по его эффективному функционированию. Разделившись на команды, эксперты проанализировали взаимодействие всех заинтересованных сторон: разработчиков, поставщиков, пользователей, регуляторов и специалистов по информационной безопасности. Использование специально выбранных ролей обеспечило всесторонний анализ рисков и перспектив.
Итогом работы стало формирование первичных принципов и критериев, которым должны соответствовать технологии ИИ для внесения в реестр. Участники обозначили ключевые требования к данным, моделям и программному обеспечению, а также разработали предварительные механизмы сертификации и оценки доверенности. Полученные результаты станут основой для реестра доверенных технологий ИИ, который в будущем может стать инструментом для повышения прозрачности, надежности и безопасности искусственного интеллекта в России.
Консорциум для исследований безопасности технологий ИИ был создан 21 мая 2024 года по инициативе Национального технологического центра цифровой криптографии, Академии криптографии РФ и Института системного программирования им. В. П. Иванникова РАН при поддержке и активном участии Минцифры России. Задача Консорциума — консолидация усилий ведущих экспертных центров для долгосрочного развития ИИ-технологий и внедрения принципов безопасной разработки для решения задач, поставленных в нацпроектах РФ.