Последний шаг на пути к кибермодерну
"Давайте прервем диалог!", - сказал смартфон приятным женским голосом и отрубил навигационное приложение. Пока приложение перезапускали водитель проскочил нужный поворот. В результате дорога увеличилась минут на 12-15. А представьте, что это был бы не смартфон, а автопилот автомобиля. Кто должен отвечать за сбои в работе искусственного интеллекта (ИИ)? Понятно, что через несколько лет разработчики "допилят" системы до приемлемого качества, однако… Однако проблема значительно глубже, чем может показаться на первый взгляд.
С каждым годом ИИ доверяют все более ответственные процессы, и цена ошибки возрастает многократно. Сегодня мы уже передали компьютерным системам общение с клиентами, управление финансами, регулирование уличного движения, запуск боевых ракет. Постоянно ведутся разговоры о тотальном вытеснении людей роботами из большинства сфер деятельности. Но готов ли мир к этому?
Нет, тормозить процесс роботизации бессмысленно и вредно. Повсеместное появление программных и не только роботов неизбежно. И это уже следует принять как данность, они будут всегда с нами, будут знать о нас больше чем мы сами и будут давать нам советы тоном, не терпящим возражений. Мир неизбежно роботизируется и изменится до неузнаваемости, причем это произойдет уже очень скоро.
Мы уже общаемся с роботами, и порой от них зависит наше настроение, здоровье или даже жизнь. Однако пока эта сфера взаимоотношений человека с миром вещей вообще не отрегулирована. И если в военном деле все более менее просто и понятно: когда робот одного государства атакует граждан или технику другого государства, то, даже если это сбой в работе ПО, инцидент будет расцениваться как агрессия. Если, конечно, удастся установить принадлежность дрона. А если голосовой помощник приобрел владельцу умной колонки в интернет магазине не то, что он хотел. Конечно, это частный случай, совершенно мелкий. Но кто ответит за ошибку робота-хирурга? Кто знает насколько хорошо электронные HR-системы подбирают кандидатов?
Консорциум 3i Technologies занимается разработкой интеллектуальных систем и видит насколько возрос на них спрос. При этом мы понимаем, что вопрос их применения вообще выпадает из законодательного поля. Более того, массовое использование ИИ вряд ли удастся вписать в действующий свод законов. Люди пока просто не представляют насколько изменится техносфера, и не могут адекватно оценить роль человека в мире роботов. А ведь лет через десять, а может быть и раньше роботов в мире будет больше чем людей. Да, да, больше семи миллиардов. Речь, конечно, идет о широкой трактовке термина программный робот, который включает и голосовых помощников, и интеллектуальные системы управления, и чат-боты, и многих других умных программах, которые уже стали частью нашей жизни или войдут в нее в ближайшее время.
И если вам показалось, что это предостережение, то нет, это, скорее, призыв к тому, чтобы задуматься и подготовить общество к новой реальности. Так, следует понимать, что в тотально роботизированном мире у человека не останется приватного пространства. Все действия и поступки людей будут фиксироваться и анализироваться. Собственно, это происходит уже, правда пока мировые гиганты лишь осторожно прощупывают границы своего всеведения. Возможно, изменятся базовые представления о свободе, допускаю, что будут пересмотренные принципы морали. Все эти вопросы следует обсуждать, потому что постиндустриальный мир, который мы успели полюбить за пару десятилетий, постепенно уходит. А каким будет новый, и как человек будет чувствовать себя в мире программ зависит от нас. По крайней мере на этом этапе от нас еще что-то зависит.
