Точка зрения / октябрь 2017
Роботизированная мораль

Артур Мурадян,
эксперт рабочей группы Госдумы по законодательному регулированию беспилотного транспорта и руководитель транспортной компании Traft
20.10.2017

Люди так активно приближают наступление момента, когда ИИ возьмет на себя все типовые задачи в бизнесе, что совершенно упускают из виду тот факт, что психология наших отношений еще совершенно не готова к роботам с их пугающе прямолинейным поведением. А поэтому быстрые темпы роботизации в скором времени будут искусственно сдерживаться.

Подмигнуть роботу

Вы, конечно, помните это упражнение на этику. Беспилотный грузовик, в кабине которого находится несколько человек, летит по трассе. В следующую секунду перед ним возникает развилка на дороге. Если грузовик поедет по левому пути - собьет одного человека, если по правому - пятерых, а если резко свернет в кювет, то погубит своих пассажиров. Как поступит компьютерный мозг фуры? Минимизирует ущерб и выберет гибель одного человека? Или постарается не допустить аварии и подвергнет угрозе пассажиров в собственном кузове - то есть тех, кто по логике автопилота, должен быть в приоритете? А что если по условиям задачки слева стоит родственник разработчика автопилота? Водитель никогда не ведет себя на дороге идеально. И это именно то, что спасает его и жизни окружающих в момент опасности, когда во избежание ДТП нужно порой грубо нарушить правила дорожного движения. Посмотрите любую запись аварий, записанных на видеорегистратор, чтобы понять это. Готов ли автопилот на подобную импровизацию? И если да, то следующий вопрос: возьмет ли разработчик ИИ на себя такую ответственность, чтобы разрешить роботу в целях безопасности вести себя не по правилам?

Еще в 1942 году, когда Айзек Азимов сформулировал свои знаменитые три закона робототехники, роботы были обречены. Их ожидала судьба навечно быть запертыми в клетке из несоответствий и логических неувязок, потому что им предстояло выполнять запрограммированные функции и взаимодействовать с живыми людьми, чьи поступки и слова никогда не имели одинаковых сценариев и шаблонов, которые можно просчитать максимально точно. Сложности возникают не только в сфере беспилотников. Речь идет и про роботизацию бизнес-процессов.

Российский деловой менталитет - производная от азиатской культуры. Он всегда подразумевал работу с клиентами, подрядчиками и партнерами на условиях, которые выходят за рамки простого договора. Речь идет о предвосхищении первичных ожиданий, на которое сторона идет добровольно. Подрядчик сделал для вас чуть больше, чем прописывалось в договоре. Торговец на рынке кладет вам в пакет еще одно яблоко уже после оплаты. Продавец сладостей на развес, отсчитывая нужный вес в граммах, не убирает с весов лишние конфеты, а специально кладет сначала чуть меньше, чтобы потом на глазах покупателя именно докладывать товар.

Менеджеров часто учат тому, что только выстраивая долгосрочные и не формализованные отношения, возможно расти и развиваться в бизнесе. Мы редко достигаем хороших результатов в одиночку, по-настоящему выдающиеся достижения - следствие командной игры. В бизнесе невозможно заранее договориться обо всем, даже если вы заключаете одну-единственную сделку. Поэтому стороны договариваются, как правило, о базовых вещах, оставляя значительную часть вопросов на потом, по мере того, как они будут появляться. Кто-то еще называет это кредитом доверия. Но способен ли выдать такой кредит робот? Можно ли научить робота при анализе данных находить компромиссы в работе с людьми? В конце концов, если бы напротив того прилавка с яблоками оказался робот он бы никак не оценил жест продавца, посчитав это ошибкой и, возможно, даже вернув лишний фрукт обратно.

Lovemarks мертвы

Проблема в том, что искусственный интеллект сегодня все активнее пытаются внедрить в клиентские сервисы - в ту область бизнес-процессов, в которых размер этих формализованных отношений необычайно высок. Например, в нашей компании установлен строгий срок, в течение которого водители должны привезти в офис все транспортные документы по тем клиентам, кому они возили грузы в течение месяца. За нарушение срока сдачи документов введен штраф. Если один из водителей опоздал на день с очередной сдачей бумаг, но при этом приехал к девушке-логисту с пустяковым и милым подарком, который привез из отпуска, то, скорее всего, она закроет глаза на нарушение и примет документы. Правильно ли это с точки зрения бизнеса? По крайней мере, не критично. Правильно ли это с точки зрения логики ИИ? Нет, это воспринимается как ошибка программы, нарушение привычного шаблона. Как бы громко сторонники ИИ ни кричали о том, что роботы искоренят коррупцию на всех уровнях, мы понимаем, что ни один современный бизнес сегодня не готов отказаться от формализованных отношений.

Концепция Lovemarks, которую в 2005 году изложил в своей одноименной книге генеральный директор креативного агентства Saatchi & Saatchi Кевин Робертс, умирает в эпоху роботизации. По его логике, эмоциональная связь потребителя с брендом прочнее всех функциональных выгод, о которых кричит реклама продукта, и мы действительно видели примеры выдающихся компаний, которые смогли стать не торговыми марками, а lovemarks, "марками любви", и достичь рыночного преимущества благодаря созданию особой эмоциональной связи с клиентами, а не на уровне функциональных преимуществ. Но ИИ искореняет все, что выбивается из шаблона, заранее запрограммированного в нем людьми.

Если мы можем теперь сделать искусственный интеллект, то, наверное, можно представить слияние машины и человека - чтобы перенести человеческий интеллект в компьютер и получить там почти живого человека. Но мы бесконечно далеки от этого. Мы по-прежнему не понимаем, что такое интеллект. Все, что мы научились делать, это мимикрировать под человека - имитировать его поведение и принятие им решений. Это стадия ребенка в полтора-два года. А для полноценной роботизации нам нужно окружить себя машинами-сверстниками.

Эпоха зануд

Что важнее, процесс или результат? С точки зрения робота, заложенные в него алгоритмы ориентированы на неукоснительное выполнение KPI, задач от человека. Но сами люди, ставя задачи друг другу, ожидают получить не только результат. Но и особый контекст ее выполнения. Да, важность результата неоспорима. Но процесс не менее важен.

Нельзя ориентироваться только на результат, нельзя оценить эффективность всех процессов только в цифрах. Человеческие отношения - это более сложная вещь, чем одни формулы, и пока нет технологического понимания, как правильно передать эту философию машине. Вот почему нельзя однозначно говорить о преимуществах роботизации.

Бизнес - это человеческие отношения. Вы же понимаете, что в общении людей друг с другом важен процесс? Вы можете точно посчитать рентабельность любого проекта, убедиться в том, что итоговая прибыль хорошая, достигнуты все задачи, но в итоге не понимать, почему же клиент перестал обращаться к вам после такого "успешного" проекта? Дело в том, что процесс работы, то есть человеческие отношения между менеджером заказчика и логистом транспортной компании, которые не измерить цифрами, были натянутыми. Общение не доставляло удовольствие клиенту, промежуточные сроки проекта затягивались, инициативности со стороны логиста не наблюдалось. А еще водитель, перевозивший груз, был необщительным и нагрубил клиенту на выгрузке. Да, результат получился неплохим, груз доставлен из точки А в точу Б, но сам процесс с точки зрения клиента был отвратительным.

Официант, который обслужил столик с самым большим чеком, может превратить случайного клиента в постоянного фаната заведения или, наоборот, заставить больше не посещать ваш ресторан. Плохой процесс прерывает lifetime value, то есть жизненный цикл общения клиента с компанией. Роботы призваны сегодня улучшить и эту ситуацию, но в основном пока речь идет лишь про автоматизацию предложений о повторной покупке. В то время как бывшему клиенту для возобновления работы с вами важно дать вам живую обратную связь. Роботизация не должна стать самоцелью.

Кто скорее выиграет от роботизации - бизнесы с максимально обезличенными рутинными процессами. Например, ретейлеры и кинотеатры, автоматизирующие кассиров. Но чем больше в бизнесе клиентского сервиса, тем сложнее производить автоматизацию без ущерба для всей клиентской активности. Можно ли автоматизировать прием заказов? Да, если речь не идет об услугах, которые можно более тонко настроить и предложить прямо во время живого диалога двух людей. Записываясь к врачу, вы наверняка предпочтете описать свою проблему живому человеку, тем самым уже активно вовлекая собеседника в процесс ее скорейшего разрешения. Если же на том конце провода будет робот, то вы наверняка будете больше нервничать, пытаясь быть понятным. С точки зрения психологии, общение с роботом сегодня воспринимается человеком как общение с самим собой - не самое приятное действие, когда речь идет о том, чтобы оперативно решить конкретную проблему. Роботизацию бизнес-процессов не стоит внедрять без оглядки. Роботизировать нужно наиболее обезличенные процессы, а не лезть с ней в самое нутро человеческих отношений, на которых строятся целые бизнес-модели. В противном случае мы получим ситуацию как в грустном офисном анекдоте: менеджер звонит клиенту и по скрипту продает, а тот по скрипту отказывает.

Мнения авторов рубрики "Точка зрения" могут не совпадать с позицией редакции ComNews.ru, не влияют на выбор и освещение новостей в других частях газеты