BIS Summit 2026: риски внедрения ИИ начали осознавать на самом высоком уровне

Подведены итоги XIX ежегодной конференции по информационной безопасности.

29 сентября в кластере "Ломоносов" состоялась XIX ежегодная конференция по информационной безопасности BIS Summit 2026. Организатором выступила Ассоциация по защите деловой информации (BISA) при поддержке ГК InfoWatch.

Главная тема BIS Summit 2026 — "Искусственный интеллект: где граница между прогрессом и угрозой" — затронула различные аспекты безопасности применения искусственного интеллекта, которые встают перед бизнесом и государством в связи с его активным внедрением.

Конференцию открыла пленарная сессия "Диалог с регулятором", посвященная вопросам регулирования безопасности искусственного интеллекта и ответственности за последствия его применения. Модератором секции выступил директор АНО "Центр компетенций по импортозамещению в сфере ИКТ" Илья Массух, со-модератором — президент ГК InfoWatch и председатель правления АРПП "Отечественный софт" Наталья Касперская.

"Мы знаем, как развиваются информационные технологии. Сначала появились большие машины, потом ПК, затем клиент-серверы, потом появились биг-дата, блокчейн. И каждый раз в ИТ-отрасли говорят, что наступило будущее, и эта технология перевернет мир. Но на деле оказывается далеко не так. А вот с ИИ ситуация интереснее: эта технология и правда столь масштабна, что она может оказать долгосрочное и радикальное влияние на жизнь людей. Поэтому вопрос безопасности ИИ стоит так остро", — подчеркнул Илья Массух

Виталий Лютиков, первый заместитель директора ФСТЭК России, напомнил, что согласно нормативной документации ИИ — это по-прежнему обычное ПО, хоть и с особенностями. К ним относятся датацентричность — зависимость от данных для обучения — и непредсказуемость. Он отметил, что все механизмы и ограничения модели реализуются ее окружением — фильтрами, базами данных. И именно с ними надо работать для обеспечения безопасности.

"Задача по обеспечению безопасности ИИ-систем для ФСТЭК России понятна. Мы работаем над новыми требованиями, но в большей степени в привязке к рискам и угрозам от ИИ, а не к регламентированию конкретных моделей. Наши главные задачи — не допустить утечки данных через ИИ-модели и влияния ИИ-агентов на КИИ. Тот, кто внедряет ИИ-решения, должен понимать риски и обеспечивать качество внедрения с учетом всех неопределенностей", — отметил Виталий Лютиков.

Светлана Орлова, аудитор Счетной палаты РФ, рассказала, что для Счетной палаты ИИ — это не модный тренд, а рабочий инструмент. С помощью ИИ проводится аудит, который дает увидеть то, что не соответствует действительности. Счетная палата обрабатывает данные в едином цифровом пространстве во взаимодействии с другими ведомствами.

"Без ИИ не будет технологического развития, но ИИ не заменит человека. И категорически нельзя переходить на новый этап цифровизации, не убедившись в том, что предыдущий этап полностью защищен", — рассказала Светлана Орлова.

Игорь Качалин, генеральный директор АНО "НТЦ ЦК", лидер Консорциума исследований безопасности технологий ИИ, отметил, что ИИ — это не детерминированная система, и когда агенты начнут взаимодействовать между собой, построить границу ответственности станет особенно сложной задачей.

"Хорошая и доверенная ИИ-система, построенная на основе актуальных стандартов безопасной разработки, при интеграции в конкретную информационную систему для решения конкретных задач в какой-то ситуации может оказаться недоверенной", — сказал Игорь Качалин.

"Дискуссия на BIS Summit 2026 показывает, что риски внедрения ИИ начали осознавать на самом высоком уровне. Раньше ИБ-отрасль не слушали вообще, а говорили только про внедрение. Однако поскольку наша страна находится в чрезвычайно уязвимой в плане технологий позиции, нам надо быстрее, чем западному миру, адаптировать систему безопасности к искусственному интеллекту", — резюмировала дискуссию Наталья Касперская.

Программу BIS Summit 2026 продолжила пленарная дискуссия "Диалог с бизнесом" на тему "Риски применения ИИ: безопасность и прогресс" под модерацией Натальи Касперской. Представители "Росатома", "Норникеля", "Яндекса", "Лаборатории Касперского", "Альфа-Банка" и АЛРИИ обсудили не только угрозы от применения ИИ, но и меры, которые предпринимаются для снижения рисков теневого использования ИИ и минимизации последствий этого использования.

Так, спикеры перечислили широкий спектр угроз: от галлюцинаций самих ИИ-моделей, утечек данных и штрафов за нарушение законодательства в части ПДн до сложных гуманитарных и социальных последствий — снижения когнитивных способностей у людей, разрыва поколений, — а также угроз появления геополитического дисбаланса, вызванных неравномерным доступом к передовым ИИ-технологиям.

Вячеслав Береснёв, руководитель АЛРИИ, директор "Нейролаб", отметил, что большие национальные или суверенные языковые модели за пределами Сбера и Яндекса не существуют, но ИИ этим не ограничивается. В России есть компьютерное зрение, предиктивные технологии, а многие компании "приземляют" решения open source на российскую экономику. Говоря о регулировании, Вячеслав Берсенёв выступил за локальные ограничения в критических местах и против избыточных запретов. По его словам, технологии из-за рисков не должны запрещаться — ведь люди тоже ошибаются, а алгоритм может ошибаться в меньшей степени.

"Мы идем к агентной экономике, двигатель — это LLM, большая языковая модель, но продуктом, самой машиной, становятся агент и его обвязка. Двигатель — это еще не вся машина. Поскольку крупным игрокам сложно создавать кастомные и нишевые решения, роль более адаптивных небольших и средних игроков будет расти", — подчеркнул Вячеслав Береснёв.

Анна Кулашова, вице-президент "Лаборатории Касперского" по развитию бизнеса в России и странах СНГ, отметила, что атаки с ИИ начались с более качественного фишинга, а теперь подобные инструменты используются в сложных таргетированных кампаниях. Определить их можно по косвенным признакам — след использования ИИ всегда есть. Компания исследует угрозы для самих ИИ-систем, поскольку у разных моделей они разные.

"Что касается теневого ИИ, то задача здесь не запретить, а возглавить и сделать процесс прозрачным и предсказуемым. Всё создаваемое с помощью ИИ мы считаем недоверенным и пропускаем через проверку по стандартам безопасной разработки ПО от ФСТЭК России, с учетом особенностей использования БЯМ (больших языковых моделей) и агентных систем", — рассказала Анна Кулашова.

Тему использования ИИ подразделениями корпоративной безопасности затронул Алексей Малинский, директор департамента управления инвестиционными проектами безопасности и планирования "Норникеля".

"В качестве основы корпоративной системы безопасности нами создана система ситуационно-аналитических центров. Она охватывает, в первую очередь, такие направлениям, как объектовая, экономическая, кадровая безопасность, проверка контрагентов, антифрод и т.д. Ее цель и задача — сбор, агрегирование, обработка, структурирование и выдача конечной информации для оперативного реагирования и принятия решений. С учетом в прогрессии растущих объемов обрабатываемой информации, искусственный интеллект, конечно, может оптимизировать эти процессы и снизить затраты. Исходя из норм и требований безопасности, наш путь — максимально консервативный: закрытый контур в связке с доверенными отечественными разработчиками", — отметил Алексей Малинский.

"На пленарной дискуссии "Диалог с бизнесом" мы обсудили риски ИИ, поговорили о правилах и методиках защиты, которые еще только создаются. Но стало очевидно главное: мы имеем дело с технологией, которая развивается быстрее, чем мы успеваем договариваться. Целостные подходы к обеспечению безопасности генеративного ИИ до сих пор не выработаны ни у кого в мире. Единственное, что работает — это культура безопасности и готовность перестраиваться практически на ходу, выстраивать защиту периметра в совершенно новых условиях. От того, насколько быстро бизнес и государство научатся слышать друг друга, зависит, окажется ли ИИ инструментом развития или источником новых критических угроз", — резюмировала Наталья Касперская.

В программе BIS Summit 2026 состоялись дискуссионные секции по темам: "Собственный искусственный интеллект: что, если не успеем. Риски безопасности", "Построение защищенной цифровой платформы бизнеса в условиях актуальных угроз", "Киберинциденты в практике судов", "Практическая секция по защите от утечек с использованием ИИ", "Битва трендов ИБ для бизнеса", "Использование ИИ для сетевой защиты", "Образование будущего: от учебников к промптам" и "Внедрение технологий искусственного интеллекта в России: вызовы и решения".

В рамках мероприятия также прошла торжественная церемония награждения премии BISA "За вклад в безопасность цифрового будущего". Премия отмечает лучшие проекты, платформы и лидеров, формирующих безопасное цифровое пространство. Победители были определены в четырех номинациях.

В номинации "Лучший проект — сервисы цифрового будущего" победил Антон Сергеев (директор центра программных разработок и цифровых сервисов МИЭМ НИУ ВШЭ) с проектом CheckAI — автоматизированная проверка киберустойчивости ML-моделей. В финал также вышли Игорь Фетисов (Министр информационных технологий, связи и цифрового развития Челябинской области) с платформой AI-Chat74, Дмитрий Прохоров ("Ингосстрах") и Вячеслав Левин ("Для безопасности") с проектом "Кибер-Инго Смарт", а также Михаил Громов ("Центр развития цифровых технологий") с проектом "Цифровой регион". В номинации "Лучший проект по защите цифровой платформы с применением систем ИИ" победил Андрей Нуйкин (начальник управления ИБ, ЕВРАЗ) с проектом построения системы управления информационной безопасностью. Финалистами стали Алексей Захаров (ГАУ НО "ЦИТ") с региональным центром мониторинга и реагирования на инциденты Нижегородской области и Андрей Хорошев (первый замминистра информационного развития и связи, Пермский край) с проектом внедрения PAM-решения в ЦОД правительства края. В номинации "Лидеры безопасной цифровизации" победил Станислав Логинов (замгубернатора Тюменской области, директор Департамента информатизации Тюменской области) с проектом о центральных проблемах и задачах в сфере информационной безопасности региона. В состав финалистов вошли Александр Синелобов (министр цифрового развития и связи Нижегородской области), Дмитрий Хомутов (директор "Айдеко") и Александр Дьяченко (техэксперт по ИБ, "Т Плюс"). В номинации "Вклад в развитие сообщества BISA" победителями стали эксперты BISA Алексей Плешков и Константин Саматов.

Партнеры BIS Summit 2026 — компании ARinteg, Axoft, Ideco, MFLASH и MONT. Стратегический партнер — ГК InfoWatch.

Генеральный информационный партнер — ТАСС, ведущий информационный партнер — радио "Голос ИТ".

Информационные партнеры — АРПП "Отечественный софт", журнал "Информационная безопасность", BIS Journal, "Национальный банковский журнал", журнал "Рубеж", журнал PLUSworld, "Компьютерра", SecPost, CisoClub, ComNews, CyberMedia, ICT Online, IT-World.ru, Global Digital Space, Наука.рф, BESSEC.