Работа над реестром доверенных технологий ИИ продвинулась до стадии концепции
Swordish PRO DevSecOps Conf. Помощник начальника аналитического центра "Газинформсервис", секретарь Консорциума исследований безопасности технологий ИИ Дмитрий Служеникин (фото ComNews)
Помощник начальника аналитического центра ООО "Газинформсервис", секретарь Консорциума исследований безопасности технологий искусственного интеллекта (ИИ) Дмитрий Служеникин на Swordish PRO DevSecOps Conf, организатором которой выступила ГК Swordish Security, 14 октября сообщил об актуальном статусе работы консорциума над реестром доверенных технологий ИИ. Предложение по концепции этого реестра консорциум направил в Министерство цифрового развития, связи и массовых коммуникаций РФ.
"Это самый свежий статус, идут обсуждения концепции. Но на этом работа не остановилась: мы разрабатываем методики оценки уровня доверия ИИ в государственных информационных системах (ГИС) и ключевой информационной инфраструктуре (КИИ). Также апробируем инструменты по тестированию ИИ и разработке безопасного программного обеспечения (РБПО)", - добавил Дмитрий Служеникин. По его словам, консорциум направил концепцию в ведомство в сентябре 2025 г.
По данным консорциума, около 300 информационных систем в регионах используют различные технологии ИИ без учета актуальных угроз. В рамках этого пилота апробируется модель угроз и наборы инструментов, компонентов и методов, направленных на обеспечение доверия к информационной системе на всех этапах жизненного цикла с учетом требования приказа ФСТЭК от 11 апреля 2025 г. №117 и наработок участников консорциума.
Пилот по оценке уровня доверия к информационным системам, использующим технологии ИИ, стартовал летом 2025 г. Как сообщил Дмитрий Служеникин корреспонденту ComNews, всего в контуре пилота находится 14 регионов на разной стадии проработки.
"Готовность регионов исполнить требования приказа №117 ФСТЭК, а также их цифровая зрелость и готовность осознанно внедрять ИИ очень разная: от просто планов до серьезного и проработанного подхода с использованием лучших практик", - рассказал Дмитрий Служеникин.
Работа консорциума направлена непосредственно на государственный сектор и государственные информационные системы. Однако риски от использования ИИ могут понести не только государственные учреждения, но и частный сектор.
По данным исследования, которое провела Ассоциация ФинТех совместно с Swordfish Security, 25% крупнейших финансовых компаний уже столкнулись с инцидентами с участием ИИ; при этом три из четырех финтех-компаний назвали утечку конфиденциальной информации ключевой угрозой.
Чтобы помочь бизнесу снизить риски угроз от внедрения и использования ИИ, эксперты Swordfish Security разработали методологию - фреймворк AI Security , который включает возможные риски и дорожную карту безопасной разработки в области ИИ.
"Это система рекомендаций, которая опирается на международные карты угроз и стандарты разработки с применением ИИ, но ориентированная на российский рынок. В новом фреймворке мы учли отечественную регуляторику и особенности рынка", - сообщила пресс-служба Swordfish Security.
Старший директор по развитию технологий искусственного интеллекта Swordfish Security Юрий Шабалин рассказал об основных угрозах, которые могут быть реализованы с помощью ИИ: в тройку наиболее часто встречаемых вошли промпт-инъекции, повреждение или "отравление данных" и раскрытие чувствительной информации моделью ИИ.
"По риск-скорингу мы находимся даже не в "красной", а в "бордовой" зоне. AI-технологии сегодня везде, даже если они не нужны, практически в любой бизнес их пытаются вставить, и это несет в себе феноменальные риски. Бизнес даже не понимает, что несет в себе подключение какого-нибудь чат-бота на сайт, который смотрит одним "глазом" интернет, другим - в базу данных компании и предоставляет практически неограниченные возможности для знающего человека, чтобы получить какую-то внутреннюю информацию", - рассказал Юрий Шабалин.
https://www.comnews.ru/content/241741/2025-10-14/2025-w42/1008/ii-pod-v…
