Не все субъекты КИИ готовы к закону об ИИ
ООО "К2 Тех" провело исследование среди объектов КИИ на предмет готовности их инфраструктуры к новому закону об ИИ (законопроект № 243-ФЗ "О поддержке развития технологий искусственного интеллекта в Российской Федерации"). Исследование проводилось методом анализа более 80 проведенных предпроектных обследований и аудитов, а также опроса 150 респондентов из компаний-субъектов КИИ.
По итогам исследования эксперты "К2Тех" сделали вывод, что не более 20% субъектов КИИ обладают достаточной зрелостью data-инфраструктуры, управления и работы с данными для выполнения требований нового закона в сфере ИИ. Более чем половине (55%) нужна доработка существующих систем и подходов, а 25% потребуется их значительная трансформация.
Директор департамента реализации инфраструктурных проектов "Софтлайн Решения" (входит в ГК Softline) Виталий Попов объяснил причину низкой доли компаний, готовых к новым требованиям закона: "Требования закона затрагивают не только сами модели ИИ или вычислительные ресурсы. Компания должна сформулировать весь жизненный цикл ИИ: знать, какие модели и внешние сервисы используются, какие данные им предоставляются, к каким информационным системам они имеют доступ, и кто отвечает за результаты их применения. На практике задача обычно распределена между несколькими бизнес-юнитами: кто-то запускает пилот, кто-то покупает подписку на внешний сервис, кто-то использует ИИ в своем процессе. При этом общей стратегии и централизованного контроля может не быть. Компания даже не всегда знает, что условный аккаунт-менеджер приобрел платную подписку на ChatGPT и выгружает туда какие-то данные".
Законопроект об ИИ ввел понятия суверенных и национальных моделей ИИ и определил требования для больших фундаментальных моделей, которые должны применяться в государственных информационных системах и на значимых объектах КИИ. Для них обязательно соответствие требованиям безопасности и качества, а также обработка и хранение данных в России. Нормы закона обязывают компании четко знать, какие модели и сервисы используются в корпоративном контуре, на каких данных они работают, к каким системам имеют доступ, и кто несет ответственность за результаты их применения.
По словам аналитиков "К2Тех", одним из главных препятствий на пути к соответствию новым требованиям становится качество данных. Только у 20,3% респондентов массивы полностью готовы и размечены, то есть адаптированы для обучения алгоритмов. В 42,6% компаний данные требуют очистки или консолидации, а четверть участников (25%) назвали низкое качество данных основным барьером для реализации ИИ-проектов.
"Успешная работа с данными в корпорации - data governance - это монотонный труд с длинным горизонтом планирования и неочевидной в моменте отдачей, требующий зрелого ИТ, зрелых процессов, высокого качества менеджмента и ответственности исполнителей. ИИ требует по-новому смотреть на управление данными: нужны не только чистые данные, но и новые типы данных - тексты, аудио, видео - и новые способы их разметки и хранения, под которые классический data-management не заточен", - рассказал директор департамента бизнес-решений и цифровой трансформации "Софтлайн Решения" (входит в ГК Softline) Егор Ворогушин.
"Проблема обычно не в нехватке данных, а в том, что они дублируются, хранятся в разных форматах, заполняются вручную и не имеют понятного владельца внутри бизнеса. ИИ лишь масштабирует качество исходной информации. Если данные неполные или противоречивые, модель будет быстрее выдавать такой же противоречивый результат, поэтому сложные ИИ-проекты фактически начинаются не с алгоритма, а с наведения порядка в данных", - отметил управляющий директор ООО "Экспанта" Илья Измайлов.
"Низкое качество данных - следствие того, что данные долгое время собирались и использовались для операционного учета, а не для обучения моделей. Они дублируются, неполны, используют разные справочники и часто не имеют подтвержденного происхождения. Для ИИ это означает, что система может давать убедительный ответ, который невозможно проверить и безопасно применить в критическом процессе. Поэтому главным ограничением становится не выбор отечественной модели, а готовность компании отвечать за весь жизненный цикл данных и решений ИИ", - добавил директор по связям с государственными органами ГК "УльтимаТек" Дмитрий Трунов.
Более четверти организаций до сих пор работают без стратегии управления данными, что затрудняет формирование единого и проверяемого основания для ИИ-инициатив. Эксперты К2Тех отметили, что без корпоративной модели данных возникают три системных барьера. Во-первых, данные, на которых обучена модель, со временем устаревают. Во-вторых, происхождение выдаваемых результатов невозможно подтвердить. В-третьих, семантический разрыв между терминами, использующимися в обиходе, и названиями в источниках данных усложняют понимание ответов ИИ-модели.
Директор департамента сопровождения конкурентных процедур ООО "Гигант компьютерные системы" Дмитрий Битченков предположил, как быстро компании могут подготовить инфраструктуру к новым требованиям закона об ИИ: "Часть компаний успеет закрыть наиболее явные пробелы, если начнет работу сиюминутно. Но подготовка данных, назначение владельцев и выстраивание AI Governance обычно занимают больше времени, чем внедрение самой модели. Поэтому организациям, которым требуется значительная трансформация, будет сложно провести ее в кратчайшие сроки. Ждать выхода всех подзаконных актов в этой ситуации рискованно".
"Успеть провести глубокую модернизацию за короткое время смогут единицы, в основном те, кто уже вложился в Data-инфраструктуру и имеет выделенные команды дата-инженеров. Остальным придется имитировать готовность через формальный слой отчетности, что создаст иллюзию безопасности, но не саму безопасность. Основной риск заключается в том, что компании начнут ограничивать применение ИИ в чувствительных зонах, чтобы не попасть под регуляторный каток, а это замедлит инновационный цикл", - отметил основатель ООО "Интернет-розыск" (входит в ГК "Киберсистема") Игорь Бедеров.
