Когда роботы могут/должны убивать? - Дополнение к статье AY.

В психологии/этике есть классическая задача, сформулированная Филиппой Фут в 1967 году. Задача называется задачей вагонетки (trolley problem). Задача эта имеет непосредственное отношение к всеобщей роботизации и современности. Об этом позже.

1. Задача первая.

Тяжёлая неуправляемая вагонетка несётся по рельсам, тормоза отказали. Впереди пять человек привязаны к путям и их всех ждёт неминуемая смерть. Вы же стоите неподалёку, и у Вас есть возможность переключить стрелку так, чтобы вагонетка пошла по другому, запасному, пути. К несчастью, на запасном пути тоже привязан человек, но только один. Вы переключите стрелку?

(По условию задачи неизвестно, что это за люди и единственное, что можно сделать - это либо переключить стрелку и убить одного человека, но спасти пятерых, либо оставить всё как есть)

Теперь, когда Вы ответили для себя на этот вопрос, переходим дальше.

2. Задача вторая, с мостом и толстяком.

Та же вагонетка со сломанными тормозами несётся по путям. Снова пятеро привязаны к рельсам и их ждёт неминуемая смерть. Вы стоите рядом с огромным толстяком на небольшом мостике, который проходит прямо над путями. Мост находится между вагонеткой и пятью привязанными людьми, и Вы можете столкнуть толстяка на пути так, что его огромное тело остановит вагонетку, и пять человек будут спасены. Ценой жизни толстяка.

Станете ли Вы это делать? 

Большинство людей в первом случае говорят да, во втором - нет. Потому что в первом случае не нужно никого физически сталкивать (касаться).

Вы можете возразить, что таких ситуаций не бывает в чистом виде. Всегда есть множество дополнительных деталей, которые будут изменять картинку. На самом деле, упрощение сделано специально, дабы сосредоточиться на главном. 

3. Альтернативная формулировка. 

Альтернативная формулировка: У хирурга есть пять умирающих пациентов, которые нуждаются в пересадке органов. В больницу для рутинного осмотра приходит молодой здоровый посетитель. Осматривая его, хирург обнаруживает, что его органы подходят всем его пяти пациентам для пересадки. Дополнительное условие: никто посетителя искать не будет и врачу ничего не грозит. Что делать хирургу?

Тут даже нечего думать. Это плохо. И мы все это знаем. Сердцем.

Врачам вообще регулярно приходится сталкиваться с этим. Взять хотя бы сиамских близнецов - бывают случаи, что если их разделить, один сможет вести нормальную жизнь, но другой точно умрёт. Что делать? 

Есть бюджет на лекарства. Лекарств на всех не хватит. Кому их давать?

Нужно ли лечить сильно страдающего ребёнка очень дорогими лекарствами или лучше оставить его медленно и мучительно умирать в семье (причиняя долгие страдания всей его родне), но помочь нескольким другим вылечиться от более "дешёвых" болезней?

4. К чему это всё?  

Такие задачи возникают ежедневно. Они все об одном. Оправдывает ли цель средства её достижения?

Можно ли бомбить деревню с террористами, зная, что там есть мирные жители, пусть даже один человек (тут получается, что не специально убиваешь, а просто такой побочный эффект)?

Можно ли бомбить мирных жителей страны, с которой воюешь, чтобы сломить волю армии противника (тут это специально делается). Вспомним дрезденскую бойню. 

Как программировать роботы? Беспилотные летательные аппараты? Автомобили-беспилотники? Поезда? Эти вопросы не праздные упражнения для ума. Это то, что общество должно решить для себя в связи с наступлением эры робототехники. 

5. Какие есть решения у задачи?

Первый подход. Утилитаризм говорит: "Да, 5 жизней лучше одной". 

И второй подход: нет, жизнь имеет бесконечную ценность. 5 бесконечностей или одна - они одинаково важны. К тому же случайный свидетель в такой ситуации становится причиной смерти. Согласны ли Вы, что в похожей ситуации могут пожертвовать Вашей мамой, например. Или дочерью. Если нет, то будьте последовательны - не используйте одних ради блага других.

Решите для себя, что лучше. 

(я наткнулся на статьи об этом как раз, когда читал то, что AY описал в одной статье о свободе воле, роботах и принятии решений. Мой текст - это примерный перевод этого и этого)