«Я — робот Вертер» или Нулевой закон робототехники

В этой статье речь пойдёт не об Азимове и его законах. Великий фантаст не мог предусмотреть всё. А о порочной практике, когда текстовые и голосовые роботы представляются человеческими именами. Или вообще не представляются. Разработчики и собственники таких роботов рассчитывают на то, что люди, собеседники роботов, будут введены в заблуждение, что говорят с человеком. Это даёт небольшой шанс владельцу робота что-то продать или предложить потребителям, сэкономив деньги на зарплате сотруднику колл-центра.

Разберём подробно, как правильно должны представляться роботы.

Также рассмотрим необходимость соглашения между крупнейшими игроками о правилах и этике использования таких роботов, а в случае невозможности игроков договориться между собой, необходимость специальных законов на государственном уровне.

▍ Прозрачность и честность

Представьте себе ситуацию, когда вы разговариваете с телефонным роботом, который представляется как «Мария» или «Алексей». Не зная о его истинной природе, вы ожидаете человеческого уровня понимания и эмпатии. Однако текущий уровень развития таких роботов очень далёк от человеческого уровня интеллекта, и это приводит к раздражению, злобе и неудовлетворённости пользователей. Наверное, вы множество раз были свидетелем подобных бесед по телефону или сами были их вынужденным участником:

— Меня зовут Олег. Я помогу вам. У нас есть такая услуга, сякая услуга (долгое перечисление).
— Мне нужен оператор.
— Я уверен, что смогу помочь вам, назовите свою проблему.
— Оператор.
— Сформулируйте свой вопрос по-другому.
— Оператор.
— На какую тему вы хотите поговорить с оператором?
— Оператор.
— Какую проблему вы бы хотели обсудить с оператором?
— Оператор.
— Нажмите 1, нажмите 2, нажмите 3.
— Оператор.

И так до тех пор, пока скрипт (робот) не переключит на человека.
Кристально ясно, что с вами говорили не Мария, Алексей или Олег, а всего лишь тупой скрипт.
И это ещё не худший вариант подобной беседы. Куда хуже, когда звонишь конкретному сотруднику, а его «интеллектуальный» помощник гоняет вас по кругу, предлагая оставить сообщение, а затем повторить то, что ему якобы неслышно. И при этом уверяет, что ваш звонок безумно важен. И чемпион по выбешиванию в такой ситуации — это повторяющийся вопрос, по личному вы вопросу звоните или по служебному.

Авторы роботов, которые наиболее успешно с помощью интонаций голоса обманывают людей, раздуваются от гордости и пишут статьи, как они создали интеллектуального помощника Машу, которая повысила конверсию звонков в сообщения по сравнению с автоответчиком.

Но меня эти фальшивые эмоции «Ой, наконец-то я вам дозвонилась» бесят и являются маркером того, что нужно бросить трубку. Отсутствие законов в этой области и каких-либо договорённостей между крупными игроками вынуждает очень многих людей не брать трубку, если звонит кто-то не из списка контактов, превращая людей в плане телефонного общения в хикикамори.

Мне, конечно, понятно, стремление собственников бизнеса переадресовать любые вопросы клиентов скрипту, который работает практически даром, за электричество, в отличие от живых людей.

По данным исследовательской компании MarketsAndMarkets, к 2027 году объём рынка искусственного интеллекта для колл-центров достигнет 4,1 миллиарда долларов. Я думаю, эти цифры давно уже достигнуты, так как прогноз был сделан ещё в 2022 году.

— Ну хорошо, а если мой робот несколько умнее скрипта, почему ему нельзя представляться человеческим именем? — спросит меня владелец крупной корпорации. И вот что я отвечу:

▍ Роботы и бессмертие

Роботы, в отличие от людей, потенциально бессмертны. Они могут функционировать бесконечно долго, пока кто-то платит за электричество, связь и изредка меняет компьютерное железо. Тогда как радикальные методы омоложения и бессмертие для людей пока остаются чем-то из области фантастики. Роботы могут атаковать людей рекламными предложениями день и ночь. Мошенники тоже могут использовать голосовых, текстовых и видеороботов (deep fake).

Сколько из нас получали звонки «от вашего мобильного оператора», с предложением перейти на новый домашний интернет или на новый тариф?

Мне неоднократно звонил робот МТС, выдававший себя за женщину, но после многочисленных вопросов о его истинной сущности всё же признавался, что он робот, с просьбой не рассказывать об этом другим.

Каждый такой звонок отгрызает кусочек от нашего оставшегося времени жизни, которая и так не такая уж долгая.

Крупная компания, запускающая такой автоматизированный колл-центр, который ежедневно делает миллионы звонков, — это примерно как автоматический шестиствольный пулемёт, который калечит, убивает направо и налево, крадёт время жизни у своих клиентов. Использование таких технологий просто аморально. Собственник, конечно, размышляет по-другому. Он смотрит, сколько денег он потратил на робота и сколько денег тот ему принёс. Сколько времени робот украл у других, сколько раздражения принёс людям — собственнику практически безразлично.

А ведь люди далеко не многозадачны. Каждый звонок продолжительностью даже менее минуты выбивает из контекста, человеку приходится потом вспоминать, чем он занимался, и тратить на это до 15 минут. Все, кто сосредоточенно писал код, меня поймут.

Человек должен знать, на что он тратит свою жизнь. В идеале он должен знать не только, что говорит с роботом, но и уровень интеллекта этого робота. А для этого нужны какие-то стандарты, возможно, тесты IQ для роботов.

Я хотел в качестве положительного примера привести пример, как представляется робот Вертер из «Гостьи из будущего». Однако не смог найти знаменитую мемную фразу «Я — робот Вертер» в фильме, видимо, её придумали позже. Поэтому приведу другое фантастическое произведение.

В научно-фантастическом цикле романов «Культура» Иэна Бэнкса роботы и ИИ обладают различными общеизвестными уровнями сознания и мощи, что помогает установить ясные ожидания и оптимизировать взаимодействие.

Если с человеком в романах Бэнкса говорит внесистемник (могущественный ИИ, в огромном корпусе корабля для путешествий между звёздными системами), то это почти что голос Бога, и ему явно стоит уделить внимание. Если же робот рангом поменьше, ценность такой беседы снижается. Подобное представление в начале разговора добавило бы ясности и существенно упростило бы людям решение их задач.

Сейчас же непонимание реальных способностей бота создаёт значительное напряжение при общении человека с роботом, поскольку люди могут испытывать разочарование и раздражение от длительного и зачастую бесполезного взаимодействия с несовершенными технологиями.

▍ Имена, идентификация, предпосылки в человеческой культуре

Интересно заметить, что люди дают животным имена, непохожие на людские, чтобы избежать путаницы. Например, кошка может носить имя «Мурзик», а собака — «Барон».

Представьте себе ситуацию, когда кто-то идёт с расстроенным лицом, его спрашивают в чём дело, а человек сообщает, что Николай умер. Для собеседника сразу становится очевидным наличие огромной проблемы, и он начинает уточнять, что это за Николай, так как у него полно знакомых с таким именем. Если же человек упоминает, что «Шарик помер», вполне ясно, что, скорее всего, это событие совсем другого масштаба. Чтобы избежать лишнего эмоционального стресса и прояснить коммуникацию в нашей культуре, животным не принято давать человеческие имена. Из имени сразу становится ясно, что речь идёт не о человеке.

Подобная практика должна применяться в отношении роботов. Как вариант, можно бы ввести принятые для этих целей поименования — разные для разного уровня ИИ — к примеру, Скриптун, Цифрун, Выберун и просто Дубок. То есть робот должен не только сообщать, что он является роботом, но и предоставлять информацию о своём уровне интеллекта.

Кстати, у того же Бэнкса роботы (в особенности, внесистемники) обладали именами, которые было просто невозможно спутать с человеческими, настолько они были длинными и мудрёными.

Понимание человеком уровня интеллекта и полномочий конкретного робота исключает раздражающий фактор. Люди могут позитивно относиться к роботам. Примером этого может послужить взаимодействие людей с роботами-доставщиками. Уровень их компетенций соответствует поставленным перед ними задачам и ожиданиям пользователей. Хотя… Они не говорят, и, может быть, в этом секрет их позитивного восприятия.

▍ Не обманешь — не продашь

Это выражение знают все, кто занимается продажами. Очень печально, что в отношении создания голосовых роботов многие компании (и даже очень крупные) идут по этому пути. В отношении цифровых помощников в нашей стране сейчас настоящий Дикий Запад.

Нет никакого регулирования, нет никаких внутриотраслевых стандартов. Если удалось обмануть хотя бы 5% клиентов, внушить им, что они говорят с человеком, а потом что-то им продать, перевести на более «выгодный» тариф (как правило, более дорогой), то значит овчинка стоила выделки, а сколько при этом разрушено нервов и отнято времени у других людей — наплевать.

Фактически, наши права потребителей постоянно нарушаются. Но для борьбы с монополиями есть антимонопольное ведомство, для защиты прав потребителей при покупке бракованных товаров есть законы о защите потребителей.

Но наше время, которое единственное, что у нас реально есть, не защищено ничем. Каждый выстраивает свои линии защиты. Нет никаких шерифов. Отдельные люди как-то умеют подавать в суд, как-то защищаться от непрошенных звонков, ценой потери какого-то количества реально нужных звонков с незнакомых номеров.

Возможно, нужно законодательно запретить роботам делать исходящие звонки. Если уж спам, то пусть его делают реальные люди, а не скрипты.

Но от потери времени, когда тебе реально что-то нужно от техподдержки, а тебя приветствует «Олег» или «Максим», пока защиты нет.

▍ Как хотелось бы в идеале

В идеальном случае, когда робот обладает разумом не ниже человеческого и полномочиями для принятия решений, то общение с ним может быть даже предпочтительнее, чем с человеком, так как, будем честны, в техподдержку идут не доктора наук и профессиональные психологи. У реальных людей из служб поддержки нет безграничного терпения и массы свободного времени. И они часто спят по ночам и работают по графику, который может быть несовместим с вашим.

Возможно, с развитием ИИ люди, наоборот, услышав, что говорят с человеком, будут просить соединить с ИИ. Но выбор должен оставаться за человеком. Поэтому роботы должны ясно сообщать, что они роботы, а не пытаться выдать себя за людей.

Сейчас мы ещё далеки от всего этого. Возможно, компаниям, хотящим, чтобы их цифровые помощники были востребованы, следует стимулировать людей на общение с ними с помощью предложения различных бонусов, кэшбэков и призов. Тогда человек охотнее станет решать свою проблему при помощи цифрового помощника.

Сейчас у людей нет выбора, и чтобы дорваться до человека, нужно пройти целый квест. А если всё-таки пытаешься общаться с таким цифровым помощником, то весь разговор не отпускает ощущение, что это напрасная трата времени, и что в итоге всё равно придётся как-то пробиваться к человеку.

Возможно, даже нужен специальный телефонный код, за звонки с которого начисляются деньги абонентам, и с которого звонят только роботы.

Или появятся специальные номера техподдержки с операторами-людьми с поминутной оплатой (для клиентов) или специальные платные чаты, в которых общение ведётся только между людьми.

Крупный бизнес, который ввёл бы подобные стандарты, получил бы конкурентное преимущество из-за повышенной лояльности клиентов.

▍ Экономия и эксплуатация

Многие компании используют роботов в колл-центрах для экономии средств. Тем не менее, в большинстве случаев такие роботы не могут реально решать проблемы, а лишь помогают владельцам бизнеса снижать их затраты. Это зачастую приводит к бесполезному общению, которое, скорее, высасывает время и энергию пользователей, чем приносит им реальную пользу. Исследование Gartner показало, что к 2027 году 25% взаимодействий с клиентами проводятся виртуальными помощниками, однако пока что удовлетворённость клиентов от таких услуг остаётся крайне низкой.

Мой личный опыт говорит о том, что уже сейчас мне требуется 50% времени тратить на преодоление препятствий, чтобы добраться до человека, который в состоянии решить мою проблему.

Экономические стимулы для предпринимателей очень сильны, и внедрение цифровых помощников будет только возрастать со временем. И поэтому и нужен нулевой закон робототехники из этой статьи.

▍ Заключение

Нулевой закон робототехники подчёркивает важность прозрачности и честности во взаимодействии между роботами и людьми. Роботы должны всегда представляться как роботы, избегать использования человеческих имён (возможно, обладать набором собственных наименований) и информировать о своих способностях. Это позволит избежать недопонимания, сократить потери времени и энергии пользователей, а также улучшить общее восприятие роботизированных систем. В конечном итоге, такие меры будут способствовать более гармоничному и продуктивному сосуществованию человека и искусственного интеллекта.

© 2024 ООО «МТ ФИНАНС»

Telegram-канал со скидками, розыгрышами призов и новостями IT 💻