Искусственный интеллект в электронном документообороте

Что можно доверить искусственному интеллекту в электронном документообороте? Константин Архипов, scrum-мастер платформы DocFlow в МТС, рассказал, в каких случаях ИИ уже можно применять в ЭДО и на какие документы не страшно передать право электронной подписи (УКЭП) ИИ.

Самый простой способ применения ИИ в документообороте - это распознавание текста и его саммаризация, то есть краткое изложение. Саммаризация документа есть во многих системах ЭДО. Можно поставить локальную версию подобной системы для работы с конфиденциальными данными или использовать открытые решения в интернете. Пример использования саммаризации - пользователи "Яндекс.Почты" теперь автоматически получают саммаризацию электронного письма, в том числе с переводом на русский язык.

Следующий уровень применения ИИ - это умная маршрутизация документа. На основе распознанного текста можно применить алгоритмы для маршрутизации документов по разным подразделениям. Данный функционал особенно интересен при обработке входящего ДО, который для многих организаций является большой проблемой.

Подписание документов, в том числе самой сильной подписью - УКЭП. Передать это на откуп ИИ - плохая идея, так как юридически вся ответственность ложится не на ИИ (и не на его разработчика), а на владельца подписи, которая применена на момент подписания. Вот это и есть аналог ситуации, когда вы подписываете чистый лист и отдаете его кому-то. Фактически вы теряете контроль над принятием решения, и ошибки в алгоритмах принятия решения тоже возможны.

Но есть одно решение - можно заменить действие над документом на рекомендацию к действию. Рекомендательная подсистема ИИ сможет проанализировать документ, возможно, связать с другими документами, дополнить его, но финальное решение всегда должно оставаться за человеком. Именно ЭП человека ставится на документ!

Отдельно стоит вопрос: как подписывать документы, когда внутренняя система компании генерирует их автоматически в большом количестве? В этой ситуации получается, что мы уверены в правильности документа и риски автоматического подписания существенно ниже. Для такой ситуации необходимо получить в ФНС РФ обезличенную ЭП на систему и подписывать подписью системы.

Может ли ИИ даже при рекомендациях ошибаться? Да, конечно, так как в конечном итоге любую программу пишут люди и датасеты для обучения подбирают люди. В результате ошибочных алгоритмов ИИ может рекомендовать неправильное действие или ссылаться на несуществующие приказы, постановления и т.п. Сейчас системы с рекомендациями от ИИ умеют добавлять ссылки, выдержки на первоисточник документа на официальном сайте. Тем самым при возникновении сомнений человек всегда может найти дополнительную информацию в первоисточнике. Сейчас ссылка на первоисточник является, по сути, must have для подобных систем.