Gabr.org (Мед2000.ру)

Теории

Текст из раздела Теории.
Здесь не утверждаются истины.
Теории - это приглашение к размышлению.

Роботы

Этика роботов

Обсуждая человекообразных роботов, футурологи часто упускают из виду, что человек – это иррациональный результат случайных эволюционных изменений, в котором намешано множество эмоциональных и биохимических рудиментов, когда-то позволивших выжить, но мешающих рациональному поведению в настоящее время. Роботы же по определению являются рационально сконструированными механизмами (или организмами), которые могут иметь глюки и баги, но которые, тем не менее, конструируются не «вообще», а под четко сформулированную задачу. Попытка сконструировать робота – аналога человека, истинно человекообразного робота – привела бы к удорожанию проекта на порядки, что экономически не выгодно, а значит, никто не будет конструировать такого робота.

Футурологи жарко дискутируют о морали, эмоциях, этике и даже любви роботов, забывая, что это всего лишь абстрактные понятия, результат случайного, а не целенаправленного «конструирования» человека в результате эволюции.

Эмоции, мораль, этика – избыточные иррациональные категории для роботов. Гораздо проще, эффективнее и дешевле конструировать рационального робота, у которого эмпатия, эмоция или мораль являются всего лишь правилом, прописанным в программе.

Разберем это на примере гипотетического робота-педагога, робота-сиделки или робота-врача.

Кажется, что этим роботам необходимы эмпатия, эмоции, этика и мораль. Но на самом деле это ошибка.

Эмоциональный педагог «взрывается» в ответ на провокацию или непонятливость ученика. Эмоции мешают педагогу-человеку найти рациональное решение. Вместо обучения возникает конфликт. Хороший педагог постоянно тратит ресурсы и нервы на обуздание собственных эмоций.

В отличие от человека, робот, столкнувшись с провокацией ученика, ее просто не поймет и проигнорирует – реакция на провокацию не будет прописана в его программе. Вместо того чтобы злиться или переживать по поводу непонятливости ученика, робот начнет рационально подбирать методику преподавания. И сделает это быстрее и эффективнее человека – ведь в его программу заложено больше методик, он быстрее может их обсчитать, и робот-учитель не будет тратить время на досаду, злость или иные эмоции.

Аналогично и с роботом-няней.

Эмпатия – это прекрасно. Умение понять и почувствовать чужую боль делает нас людьми. И часто блокирует действие. В результате, вместо оказания помощи мы переживаем, а не действуем. Робот-няня, лишенный эмпатии, вместо переживаний будет искать рациональный способ оказать максимально эффективную помощь. Робот-няня не устанет, не отвлечется. Робот-сиделка будет напичкан инструкциями рационального ответа и действий на все возможные раздражители и ситуации.

Мы слишком высокомерные животные и склонны считать, что все наши проявления – это плюс, не замечая огромного количества примеров, когда именно наши человеческие качества были причиной ошибок, бед, катастроф. И в первую очередь наша человеческая «ахиллесова пята» - это наши желания, эмоции, эмпатия и даже мечты.

Если человек-хирург, делая операцию, будет впадать в сильную эмпатию, сопереживание пациенту, то вместо помощи нанесет вред больному. У такого хирурга будут дрожать руки, движения станут резкими, порывистыми. В результате, рано или поздно, это приведет к повреждению артерии и кровотечению. Врачей специально учат и весь их опыт работы - это тренировка контроля эмоций. Да, во врачи идут люди, которые сопереживают больным. Но для оказания эффективной помощи пациенту, любому врачу приходится блокировать свои эмоции, чтобы мозг занимался не переживаниями, а поиском лучшей схемы лечения. Чтобы около операционного стола хирург не вздрагивал от страха и не сжимался от жалости, а быстро и четко выполнял операцию.

Мы испытываем боль. Сознательно или подсознательно мы хотим, чтобы робот тоже мог понимать, что такое боль, мог почувствовать нашу боль, будучи роботом-врачом или роботом-сиделкой. Но чувство боли человека не равно чувствительности манипулятора робота, робот не столько чувствует, сколько определяет и количественно оценивает при помощи сенсоров границу повреждения. И может делать это даже лучше и быстрее, чем человек, если его датчики настроены верно, а база данных хорошего качества.

Врач переживает боль пациента. Это переживание может мешать рациональному решению задачи. Робот-хирург оценивает боль пациента по объективным параметрам дыхания, давления, пульса, напряжения мышц и т.д. Оценивает рационально и рационально же принимает решение. Все это записано в его программе. Без всякой эмпатии и эмоций. Может это и шокирует, но системы безопасности в автомобиле, которые предупреждают занос и аварию полностью лишены эмоции страха, что помогает им эффективно охранять жизни людей. Автопилот в самолете так же лишен эмоций, но это не мешает ему заботится о безопасности сотен пассажиров. Компьютер, на котором ребенок изучает математику, лишен эмоций и не возмущается очередным ошибочным ответом. Компьютерная проверка на грамотность не лепит двойки, в раздражении безграмотностью текста пользователя. Просто предлагает исправление. И результат такого обучения, лишенный эмоций, гораздо выше, чем упреки школьного учителя.

Как часто мы говорим: «Я же не робот, у меня есть чувства и желания». И этим объясняем, как правило, свой поступок, каприз, желание или бездействие, повлекшее негативное последствие.

Человек в результате миллионов лет эволюции собрал множество мусора, отсюда эмоции, иррациональность, желания.

Любой живой организм больше похож на деревенский дом с множеством пристроек и настроек, чем на только что спроектированный хайтечный дом со всеми удобствами. У природы не было возможности «снести» строение и построить все заново, имея идеальный проект и работников.

Робот, в отличие от человека, конструируется именно по заранее продуманному проекту и под строго заданные цели. В результате у него не возникает пристроек и надстроек, глухих окон, тупиков, дверей в пустоту и балконов с видом на помойку.

Задачи, решаемые роботами, лежат вне этики или морали – абстрактных человеческих категорий, и основаны на инструкциях программиста в критериях да-нет. Вся мораль и этика у робота превращается, программируется как система объективной оценки информации, полученной от сенсоров.

Именно поэтому ощущения робота не равны чувствам человека. Собственно, робот и не ощущает, а лишь обрабатывает данные своих датчиков, сравнивая данные давления, температуры или иные другие с пороговыми параметрами, записанными в его базе данных.

В отличие от человека, роботы лишены желаний. Вообще, в принципе, по определению. Желание – это эмоция. А понимание роботом своих или чужих потребностей всего лишь сравнение входящей информации с категориями и пределами, записанными в его базе данных.

Например, человеческое чувство голода для робота всего лишь показатель уровня зарядки батареи. Робот чувствует не голод, а оценивает уровень заряда и рассчитывает время и место, где он сможет пополнить заряд. Эмоции и чувства – это полная противоположность рациональному расчету.

Разумеется, желания власти или размножения, свойственные человеку вряд ли будут когда-то запрограммированы в роботах. Скайнет нам не грозит. А если и грозит, то за любым Скайнетом нужно искать банальную выгоду человека, группы людей, корпорации. Но даже в этом случае, программировать «инстинкт размножения» или «жажду власти» у робота никто не будет – самим же боком выйдет. Эти желания, как и все прочие, всего лишь результат приобретенных человеком, в результате эволюции, свойств. Роботы, в этом плане, больше похожи на продвинутых буддистов, избавившихся от всех желаний и лишь контролирующих уровень заряда своих батарей.

Иван Милюков.

Вы можете связаться с автором статьи, используя нашу редакционную почту
(см. раздел Контакты внизу главной страницы).