Новости / апрель 2021
Юристы взялись за ИИ и алгоритмы

Комиссия по правовому обеспечению цифровой экономики Московского отделения Ассоциации юристов подготовила заключение по вопросам регулирования ИИ и систем алгоритмического принятия решений (АПР). Предложения организация направила в Минцифры, Совет Федерации, Госдуму и Роскомнадзор.
© ComNews
14.04.2021

По словам зампреда Комиссии по правовому обеспечению цифровой экономики Ассоциации юристов России Бориса Едидина, проблемы непрозрачности используемых алгоритмов, этики разработчиков программного обеспечения, отсутствия правил оспаривания автоматизировано принятых решений - первоочередные для массового внедрения АПР. "Комиссия не ждет прямой реакции на заключение и предложения документа. Практика показывает, что инициативы так или иначе используются в законотворческой деятельности. Так было и с другими подготовленными нами документами - о регулировании цифровых активов, о саморегулировании социальных сетей, об экспериментальных правовых режимах. Полагаем, что и в данном случае часть предложений будут учтены", - говорит Борис Едидин.

Решения, которые принимаются искусственным интеллектом, требуют минимум усилий. Однако их обжалование возможно только в гражданско-правовом порядке, что долго и дорого. Технологии АПР уже широко применяются. Например, специальное ПО использовалось для отслеживания граждан во время режима самоизоляции. Банки также, используя АПР, осуществляют скоринг своих клиентов при выдаче кредитов.

"Автоматизация процессов принятия решений - это безусловный тренд. Искусственный интеллект уже сейчас внедряется для разрешения судебных споров, для оценки заемщиков, для оценки рисков при проведении государственного контроля. Уже сейчас алгоритмы могут решить судьбу коммерческих сделок, судебных споров, рассчитать ущерб. Но в России отсутствует законодательное регулирование использования систем АПР. Существует только ограниченный набор общих норм", - сказал Борис Едидин.

В случаях, когда при принятии решения используется ИИ и возникают ситуации, которые не урегулированы законодательством, Комиссия предлагает поэтапно разработать правила использования систем АПР и внедрить в общее законодательство. Речь идет о случаях, когда нет понятной системы апелляции, когда размыты границы ответственности разработчиков и пользователей информационными системами.

В частности, в документе предлагается, по примеру Канады, ввести механизмы независимой экспертной оценки на этапе закупки и внедрения таких систем в госсекторе. По мнению экспертов Комиссии, механизмы обжалования принятых в автоматизированном порядке решений госорганов должны быть максимально удобными для граждан и организаций.

"В большинстве случаев обычные граждане даже не догадываются, что их заявление рассматривал не живой человек, а заранее запрограммированный алгоритм. За последний год во многих развитых и развивающихся странах приняты специальные документы, посвященные регулированию вопросов применения систем автоматизированного принятия решений. В большинстве таких документов речь идет об установлении обязанности владельцев таких систем информировать своих пользователей о факте применения этих систем и применяемых в них алгоритмах. Люди имеют право знать, кто стоит за принятым в их отношении решением, как это решение принималось и как его можно обжаловать в случае несогласия", - уверен член Комиссии по правовому обеспечению цифровой экономики Ефим Казанцев.

Одно из ключевых предложений авторов заключения - превратить госорганы в "песочницу", в рамках которой они протестируют на себе те меры по АПР, которые затем распространят на бизнес и граждан.

В пресс-службе Минцифры ComNews подтвердили, что получили письмо Комиссии и изучают изложенные в нем предложения.

Вице-президент по развитию и планированию фонда "Сколково" Сергей Израйлит считает, что прежде всего необходимо разобраться в критериях "нормальности". "Системы АПР, как и любые другие алгоритмические системы, соблюдают не законы, а код. При этом раскрытие кода - чаще всего сомнительная с точки зрения коммерческой деятельности операция. Системы и бизнес-модели с открытым кодом есть, но когда решения принимаются натренированными нейронными системами - раскрытие кода вообще ничего не даст. Поведение системы определяется весами в нейронке, а не кодом. Поэтому указанных предложений совершенно недостаточно для обеспечения значимой защиты охраняемых законом прав", - предупреждает представитель "Сколково".

Отметим, что в начале апреля этого года ра­бочая груп­па "Нор­ма­тив­ное ре­гули­рова­ние" при АНО "Цифро­вая экономи­ка" одоб­ри­ла Кон­цепцию раз­ви­тия тех­но­логий машиночитае­мо­го права. До­кумент нап­ра­вили в Минэконом­разви­тия, что­бы под­го­товить к при­нятию. В минис­терс­тве Кон­цепцию пла­нируют ут­вердить до кон­ца это­го го­да (см. новость от 6 апреля 2021 г.).

По оценке старшего партнера юридической фирмы "Катков и партнеры" Павла Каткова, предложения Комиссии выглядят как "дельные и зрелые", однако для их понимания и принятия властью, нужно добавить конкретики: какой правовой акт нужно принять, на каком уровне создать "песочницы", какие органы власти какие конкретные механизмы в течение какого периода будут тестировать, кто и по каким критериям оценит достаточность тестового периода и готовность к практическому применению. "Без этого предложения выглядят очень общими, хоть в них и содержится глубокое практическое зерно", - подытожил Павел Катков.

Новости из связанных рубрик