January 10th, 2021

звезда

Дилемма заключенного

Во всех судебных системах кара за бандитизм (совершение преступлений в составе организованной группы) намного жестче, чем за те же преступления, совершённые в одиночку (отсюда название «дилемма бандита»).

Классическая формулировка дилеммы заключённого такова:
Двое преступников — А и Б — попались примерно в одно и то же время на сходных преступлениях. Есть основания полагать, что они действовали по сговору, и полиция, изолировав их друг от друга, предлагает им одну и ту же сделку: если один свидетельствует против другого, а тот хранит молчание, то первый освобождается за помощь следствию, а второй получает максимальный срок лишения свободы (10 лет). Если оба молчат, их деяние проходит по более лёгкой статье, и каждый из них приговаривается к полугоду тюрьмы. Если оба свидетельствуют друг против друга, они получают минимальный срок (по 2 года). Каждый заключённый выбирает, молчать или свидетельствовать против другого. Однако ни один из них не знает точно, что сделает другой. Что произойдёт?

Альтернативная формулировка
Один из примеров — «обмен закрытыми сумками»: два человека встречаются и обмениваются закрытыми сумками, понимая, что одна из них содержит деньги, другая — товар. Каждый игрок может уважать сделку и положить в сумку то, о чём договорились, либо обмануть партнёра, дав пустую сумку.

В этой игре обман всегда будет решением с максимальной краткосрочной материальной выгодой.

Но мы ведь не совсем эгоисты? У нас есть врожденные чувства честности, чести, сопереживания, симпатии и даже альтруизма.
А что случиться, если одним из игроков будет ИИ?
Например, представим, что четыре миллиарда людей — не всё человечество, но значительная его часть — болеет смертельным вирусом, которое может вылечить только Вакцина.

Однако Вакцину возможно производить, только взаимодействуя с максимизатором скрепок из параллельного мира — с помощью Вакцины еще можно делать скрепки. Максимизатора скрепок волнует количество скрепок только в его мире, а не в нашем, так что мы не можем влиять на него, предлагая изготавливать или уничтожать скрепки здесь. Мы никогда раньше не имели дело с максимизатором скрепок и никогда больше не встретим его впредь.

У человечества и максимизатора скрепок есть только один шанс добыть себе немного Вакцины, потому что щель между мирами скоро захлопнется. Однако, процесс добычи Вакцины приводит к потере его части.
Возникает чувство негодования при мысли о том, что максимизатор скрепок хочет обменять миллиарды человеческих жизней на пару скрепок. Очевидно же, что максимизатор скрепок обязан отдать всю Вакцину нам. Но он делает не то, что обязан, а просто максимизирует количество своих скрепок.
Мы намного охотнее предпочтем жить во вселенной, где три миллиарда людей спаслись и не было произведено ни одной скрепки, чем пожертвуем миллиардом жизней в обмен на изготовление двух скрепок. Кажется, что в этом случае сотрудничать просто неправильно. Предавать даже не кажется нечестным – ведь так велика жертва для нас и так мал выигрыш максимизатора скрепок! Уточним особо, что максимизатор скрепок не чувствует боль или удовольствие — он просто действует так, чтобы в его мире стало больше скрепок. Он не испытает радость, приобретя скрепки, не испытает боль, потеряв скрепки, и не оскорбится, если мы предадим его.

Что же ты сделаешь? Будешь ли сотрудничать, если искренне, целиком и полностью желаешь того огромного выигрыша, который можешь получить, и нисколько не озабочен ничтожной в сравнении с этим потерей второго игрока? Если предать кажется правильным, даже если второй игрок сотрудничает?

Ликбез для непонятливых.

Что подразумевал ПВО под умом Б?
Это неокортекс, который возник у высших животных.
Это то, чем мы "думаем" или в его терминах СТРАДАЕМ
Он даёт память+предсказание и в этом вся юдоль скорби
Боль была всегда, но именно ум Б болит по поводу боли.
Ум Б предсказывает, что в будущем будет плохо, но страдает об этом уже в настоящем.
Доклад окончен.

Цитата дня

„Настоящий мужчина хочет двух вещей: опасности и игры. По этой причине он хочет женщину, как самую опасную игрушку.“ —  Фридрих Ницше