Редколонка / июнь 2019
Росмозгнадзор не за горами

корреспондент ComNews.ru
© ComNews
24.06.2019

Делегирование искусственному интеллекту (ИИ, AI) управленческих функций, по сути, будет означать переход власти из рук чиновников в руки технократов. С повсеместным применением ИИ возникнет новая элита программистов, которая будет знать все обо всех и учить нейросеть принимать решения. Получится, что один человек "с алгоритмом в руках" сможет влиять на жизни миллионов. В связи с этим становятся важными не только сами данные, но и то, в каком порядке они отобраны и выложены "на тарелку" для "питания ИИ" и поданы ли они "холодными" или "горячими". Возникает новый тип ответственности - обучение искусственного интеллекта искусству принимать решения так, чтобы они были правильными не только с точки зрения логики и закона, но и с позиций морали и нравственности.

Заместитель председателя правительства РФ Максим Акимов, выступая на минувшем Петербургском международном экономическом форуме (ПМЭФ-2019), объявил о том, что применение искусственного интеллекта может на 30% высвободить количество рабочих мест среди госслужащих и, как следствие, сократить расходы на госаппарат. Чиновник признал, что ИИ честнее, чем некоторые из его коллег. Более того, согласно приведенным им опросным данным, россияне доверяли бы искусственно синтезированному правосудию больше, чем судебной системе.

Между тем ситуации, в которых искусственный интеллект берет на себя ответственность, - не вопрос далекого будущего. В некоторых компаниях уже сейчас можно видеть такие примеры. В Сбербанке искусственный интеллект уже принимает решения о кредитовании юрлиц (включая анализ контрагентов, отчетности, бенефициаров). По словам первого заместителя председателя правления Сбербанка Александра Ведяхина, для обычного человека этот вопрос занимает две-три недели, тогда как нейросеть может решить его за 7 минут. В дальнейшем сферы и ситуации применения ИИ будут только расширяться. Вскоре ИИ будут делегированы функции, имеющие моральное наполнение, не только такие как перечисленные выше выдача кредитов и судебные решения, но и выписка штрафов, наем сотрудников и т.д.  

Тем не менее на ПМЭФ прозвучало опасение по поводу будущей передачи искусственному интеллекту управленческих функций. Генеральный директор "Крибрум", управляющий партнер ООО "Ашманов и партнеры" Игорь Ашманов предупредил о том, что ИИ безответственен и аморален по своей природе. Он обратил внимание на то, что передача решений AI происходит абсолютно стихийно; в системы искусственного интеллекта будут произвольно вноситься как этика, так и прагматика. Это повлечет за собой широкие возможности для злоупотреблений. "Один не самый умный и ответственный человек "с алгоритмом в руках" сможет влиять на жизнь миллионов", - предупреждает Игорь Ашманов.

Таким образом, мы сможем наблюдать, как власть от чиновников постепенно будет переходить в руки технократов. Как предрекает глава "Крибрум", возникнет категория управленцев, имеющих неограниченный доступ к любым данным о гражданине. Новая элита ИИ, вроде сисадминов, будет знать все обо всех, и показывать нейросети, что такое хорошо, а что такое плохо. "Складывается ситуация, при которой люди, получившие среднее математическое образование и не обремененные культурным бэкграундом, получают власть!" - восклицает Игорь Ашманов.

В связи с этим появляются вопросы о том, как увязать этику с природой искусственного интеллекта. Например, в ситуации, когда человек проехал на красный свет, ИИ, распознав водителя за несколько секунд, однозначно пришлет ему штраф. Однако не исключено, что сидящий за рулем спешил отвезти тяжело больного родственника в больницу и не обратил внимания на цвет светофора. Так, на одной чаше весов оказывается нарушение ПДД, а на другой - жизнь человека. Будь на месте нейросети живой человек, возможно, он не стал бы рассматривать ситуацию столь однозначно.

Получается, что важен не сам искусственный интеллект, а то, какую информацию он получает. Именно сейчас нужно озаботиться тем, где данные доставать, как их обрабатывать и в каком виде преподносить ИИ для того, чтобы он правильно учился. Очевидно, что от того, чему он научится, будет зависеть то, какие решения он будет принимать. Важно прописать, как и кому нужно предоставлять доступ к данным, какие данные и для каких целей можно использовать, как ими обмениваться и кому они принадлежат.

Заглядывая в будущее, специальный представитель президента РФ по вопросам цифрового и технологического развития Дмитрий Песков не исключил появления нового ведомства - Росмозгнадзора. Предполагаем, что одной из футуристических функций такого органа может стать как раз контроль за принятием решений искусственным интеллектом с их возможной последующей блокировкой в случае ошибок со стороны ИИ.