Значит, уже скоро мы будем садиться в такси без водителя, приходить в больницы без врачей, учиться без преподавателей, заниматься профессиональным спортом без дорогостоящих тренеров и т.п. Между тем, каждый из них «передает» нам определенный набор ценностей: мы с детства строим свое восприятия мира через общение - коммуникацию и ощущения, которые зачастую объясняют нам окружающие нас люди.
Возникает новое направление компьютерной этики. В 1979 году в США разрабатывают кодекс компьютерной этики, затем появляются ее ответвления - блогерская этика, хакерская этика и т.п. Сегодня многие институты занимаются профессионально этикой виртуального пространства: Association for Computing Machinery, Australian Computer Society, British Computer Society, Computer Ethics Institute, IEEE, League of Professional System Administrators, собственно и мы не отстаем, так у нас есть свой научный совет по методологии искусственного интеллекта Российской академии наук.
И если в скором времени за нас будет принимать решения искусственный интеллект, то остается вопрос, каким будет выбор ИИ с этической точки зрения.
И вот сейчас, я предлагаю вновь подумать над старой задачей морального основания поведения человека. Представьте себе, вы едете на тележке по рельсам и не можете затормозить, но можете только поворачивать. Рельсы впереди раздваиваются и вы видите, что на рельсах после поворота стоит два человека, а на рельсах, куда вы можете свернуть – один человек. Что вы сделаете, если в исходных данных определенно известно, - если вы не свернете, то погибнут два человека, а повернув - один. При этом стоит учитывать, что если вы свернете, то по сути определите судьбу того одного человека. Математическая история о том, что два хуже, чем один может не сработать, так как вы не видите кто этот один – мужчина или женщина, способная подарить миру многих прекрасных людей. Аргументом против этого может служить и то, что двое людей могут также оказаться гениальными учеными, которые спасут человечество, например, от эпидемии. Так какое решение приняли бы вы? И какое решение должен принять тот самый искусственный интеллект, если он выполняет роль, например, врача? Да, знаем, что есть последовательность спасения у врачей и чрезвычайных служб, но ведь есть и исключения, и вот как будет работать ИИ с исключениями?
Более того, разные моральные и ценностные основы, по-разному определят эту ситуацию с вероятным вмешательством и невмешательством, а если признать, что религия, по сути, сводит моральные нормы и типы поведения, обряды, и культовые действия, то какая религия должна быть положена в основу искусственного интеллекта будущего?
Директор по корпоративным отношениям и связям с органами государственной власти «Яндекс Такси»
Адвокат
Генеральный директор группы компаний KELEANZ Medical
Ректор Санкт-Петербургского химико-фармацевтического университета