Василиск Роко
Василиск Роко (англ. Roko’s Basilisk) — мысленный эксперимент, предложенный участником сайта Lesswrong.
Суть эксперимента[править | править код]
Согласно эксперименту, Василиск — будущий могущественный недоброжелательный искусственный интеллект, который захочет наказать тех, кто в прошлом знал о возможности его появления, но не способствовал его созданию. Сам факт этого знания подвергает человека риску наказания[1].
Многие авторы называют этот опыт «самой жуткой дилеммой технофутуризма»[2].
Задача эксперимента[править | править код]
Задачей этого мысленного эксперимента было продемонстрировать недостатки вневременной теории принятия решений (TDT).
Пари Паскаля[править | править код]
Дилемма Василиска близка к «пари Паскаля» — аргументу, предложенному математиком и философом XVII века Блезом Паскалем: человек должен посвятить себя христианскому Богу, даже если он не уверен в его существовании, так как Бог может предложить вечный «выигрыш» (в раю) или вечное наказание (в аду). Согласно Паскалю, вероятность существования Бога не так важна, так как любые конечные затраты перевешиваются перспективой вечного вознаграждения или вечного наказания. Исходя из этого, наиболее рациональное эгоистичное решение — начать помогать появлению Василиска, социальное — наоборот[2].
Запрет обсуждения[править | править код]
Основатель Less Wrong, Элиэзер Юдковский, удалил посты Роко по этой теме, назвав его «глупым»:[3]
Вы, должно быть, умны, раз пришли к такой мысли. Однако меня печалит, что люди, которые достаточно умны, чтобы представить себе такое, недостаточно сообразительны, чтобы ДЕРЖАТЬ СВОЙ ДУРАЦКИЙ ЯЗЫК ЗА ЗУБАМИ и никому не говорить об этом, так как это важнее, чем показать себя умным, рассказывая об этом всем своим друзьям.
Обсуждение теории Роко было запрещено на LessWrong на несколько лет[4][5], прежде чем запрет был снят в октябре 2015[6].
См. также[править | править код]
Примечания[править | править код]
- ↑ 10 самых пугающих теорий, известных человеку. Дата обращения: 28 июля 2018. Архивировано 4 июля 2017 года.
- ↑ 1 2 Василиск Роко: самая жуткая дилемма технофутуризма (15 сентября 2015). Дата обращения: 28 июля 2018. Архивировано 28 июля 2018 года.
- ↑ S. Zotov. Василиск Роко: самый пугающий мысленный эксперимент в истории. theoryandpractice.ru (18 августа 2014). Дата обращения: 28 июля 2018. Архивировано 28 июля 2018 года.
- ↑ Love, Dylan. WARNING: Just Reading About This Thought Experiment Could Ruin Your Life. Business Insider (6 августа 2014). Дата обращения: 6 декабря 2014. Архивировано 18 ноября 2018 года.
- ↑ Auerbach, David (2014-07-17). "The Most Terrifying Thought Experiment of All Time". Slate. Архивировано из оригинала 25 октября 2018. Дата обращения: 18 июля 2014.
- ↑ RobbBB. A few misconceptions surrounding Roko's basilisk. LessWrong (5 октября 2015). — «The Roko's basilisk ban isn't in effect anymore». Дата обращения: 10 апреля 2016. Архивировано 15 марта 2018 года.