Учёные спорят: кто заставит робота посочувствовать человеку?

Каждый четвертый сотрудник IT-компании в США опасается, что искусственный интеллект может навредить человечеству. Менее трети специалистов уверены в том, что программисты полностью контролируют роботов. Опросами занимались социологи американской компании Accenture.

Исследования проводились после трагедии на заводе «Фольксваген» в Германии, где робот до смерти травмировал рабочего. Инцидент произошел в 2015-м, за год до того, как автопилот «Теслы» впервые сбил человека. В Аризоне под колесами беспилотника «Убер» погибла женщина. Ни одно из происшествий не было умышленным. Однако тогда в обществе началась дискуссия о том, как должна поступать машина в экстренных, но спорных ситуациях? Скажем, можно ли спасти пешехода ценой травм пристегнутого пассажира? Ответить на этот вопрос на данном этапе развития техники вряд ли получится.

Эксперт Российского трансгуманистического движения по глобальным рискам Алексей ТурчинТехнический вопрос гораздо более сложен, чем вопрос этики. Если мы говорим про сильный искусственный интеллект, который когда-нибудь останется в будущем, то мы не знаем как сделать так, чтобы он принес нам кофе не уничтожив попутно вселенную, потому что у него есть такие возможности. Мы не знаем какая будет у него архитектура, мы не знаем каким образом закодировать хоть какие-нибудь этические модели в него, а так же сделать так, чтобы эти этические модели не приводили к катастрофическим ошибкам в крайних случаях. Один вариант - это создание этического датасета, например, датасет хороших и плохих ситуаций. Американская система правосудия основана на прецедентном праве, которое по сути является таким датасетом этических ситуаций и мы могли бы натренировать искусственный интеллект предсказывать какая ситуация является законной и незаконной, этично и неэтичной в том или ином сообществе. Просто оказаться в миллион ситуаций, которые уже отмаркированы. Это только один из вариантов, который будет работать с ограниченным числом случаев, а возможны такие ситуации, которых никогда не было.

Для корректной работы роботов в мире должен появиться целый ряд профессий по машинному воспитанию. Возможные специальности описали руководители Accenture Пол Доэрти и Джеймс Уилсон. Первостепенную роль сыграют менеджеры по этическим нормам. Они будут контролировать соблюдение моральных принципов и бороться с дискриминацией. Например, следить, чтобы система одобрения кредитов не отказывала клиентам из определенных регионов. Специалисты по этике автоматизации будут отслеживать влияние техники на рабочие процессы в коллективе. Внедрение общечеловеческих норм поведения в машину – задача перспективная. И в действительности, уже давно ведется.

Специалист по машинному обучению, создатель портала «22 век» Сергей МарковРобот, который ведет общение с человеком по телефону должен понимать эмоциональную окраску тех или иных высказываний человека, потому что в противном случае он не сможет их достаточно хорошо интерпретировать. Тоже самое, например, система синтеза речи. Если они должны доносить ту или иную мысль от лица системы, то они тоже должны иметь определенные эмоциональную окраску. Кроме того, есть такие понятные и простые бизнес-кейсы, когда компания хочет знать, когда о ней существуют какие-то критические замечания в интернете, выявить ситуации, когда сотрудники были недостаточно вежливы в отношении клиентов, предпринимали какие-то неправильные действия. Люди пишут об этом в соцсетях и важно выявить эмоциональную тональность этих высказываний. Эта задача не совсем тривиальная. Понятно, если мы поручаем эту задачу системе искусственного интеллекта, тогда мы должны ее обучить понимать или интерпретировать высказывания людей в эмоциональном ключе.

Чувственный интеллект уже давно считается востребованной технологией в бизнес-проектах. По разным оценкам, которые приводит портал IncRussia, через пять лет объем инвестиций в рынок распознавания эмоций может вырасти до 35 миллиардов долларов. Отрасль интересна не только гигантским корпорациям вроде Фейсбук, Микрософт или Гугл. Так называемый нейромаркетинг, прогнозируют эксперты, в ближайшем будущем начнет активно применяться в сфере услуг.

И да, в этом обзоре не будет упоминания трех законов робототехники Айзека Азимова. Напомнить о них всем желающим сможет голосовой помощник в каждом смартфоне.