?

Log in

No account? Create an account

November 3rd, 2018

Инженерный подход и проблема вагонетки

"Зло крадется и прячется в неосвещаемых тенях сознания. Когда мы оглядываемся и с ясностью смотрим на историю, мы плачем, вспоминая запланированный Сталиным и Мао голод, который погубил десятки миллионов. Мы зовем это злом, потому что это было вызвано человеческим стремлением причинить боль и смерть невинным жизням."

" Там, где люди с ясностью противостоят искажениям, скрытое зло отступает. У истины есть враги. Если бы Overcoming Bias выпускало бы бюллетень в Советском Союзе, то каждый автор и каждый комментатор были бы отправлены в лагеря".
Э.Ш. Юдковский, пропагандист рациональности и либертарианец, "Зло в людях и неясное мышление"
https://lesswrong.ru/w/%D0%97%D0%BB%D0%BE_%D0%B2_%D0%BB%D1%8E%D0%B4%D1%8F%D1%85_%D0%B8_%D0%BD%D0%B5%D1%8F%D1%81%D0%BD%D0%BE%D0%B5_%D0%BC%D1%8B%D1%88%D0%BB%D0%B5%D0%BD%D0%B8%D0%B5.
Оригинал  https://www.lesswrong.com/posts/i8q4vXestDkGTFwsc/human-evil-and-muddled-thinking.

"При этом, у меня сложилось впечатление, оказался полностью незамеченным тот факт, что Гарри стремится к бессмертию для всех, а не только для себя." Аларик alaric_ "Впечатления от лекции "Темная сторона Гарри Поттера" https://users.livejournal.com/alaric-/532854.html


Война с цивилизацией — это война с людьми, носителями этой цивилизации. Хватит у тебя духу им лично головы поотрубать, а не списывать на чужие эксцессы и перегибы?»" Саруман - Гэндальфу К.Ю. Еськов "Последний кольценосец"

В общем  -это наглядное подтверждение того,что sharpc был прав, а я ошибался,  когда "отвечал мне на каковы Ваши претензии к сайту и движению Lesswrong, и лично к Э.Ш.Юдковски?" "Некоторая невнимательность к социальным вопросам (полное их игнорирование), махровый антикоммунизм (с объективизмом у них общие и корни, и задача), наконец, отсутствие идейной новизны в сравнении с простым здоровым сциентизмом."
Я лично плагал,что речь идет просто об обычном у технофилов игнорировании социальной повестки (у оппонентов к слову часто наоборот гипертрофия социальной повестки в противовес развитию техники). Но оказалось.что за этим действительно стоит во всяком случае у Юдковски лично (хотя и не только,члены Lesswrong в России проявляют склонность именно к либерализму)  политическая позиция.
И да это очень хорошая иллюстрация того, что (Lawful) Good понимают под "законом и добром":) , почему права была Валерия Ильичнична (Либералы должны усвоить, что демократия - это не народовластие. Народовластие может привести и к фашизму, и к коммунизму. Демократия - это власть просвещенного народа, который готов собраться под святое знамя либерализма),  почему на Майдане стояли "Воины добра, воины света"  откуда у  эльфийского паладина Аваллаха взялось "Визитка Яроша е? Тримай визитку Яроша" или если угодно в терминах более общих почему  слушая фазу "об общем благе и демократии" следует помнить и держать в голове,что у самих то либералов имплицитно подразумевается,что закон, нормы и правила распространяются не на всех.
Или как замечательно выразился товарищ wsf1917 "То есть он ухватил ту самую иглу в кощеевом яйце на которой этот самый либерализм держится - на идее неравноценности людей, которая, как самооправдывающееся пророчество «подтверждается» рынком." (О либерализме https://wsf1917.livejournal.com/61242.html)
Почему? Фраза Гарри у Юдковского  про бессмертие для всех вроде бы имплицитно подразумевает квантор всеобщности, однако как мы видим Советский Союз времен Сталина и Китай при Мао - это зло, которое должно быть повержено. И тут мы как раз и должны вспомнить ту самую фразу Сарумана -Гэндальфу в Последнем Кольценосце о войне с цивилизацией. Т.е. свержение "тоталитарных" ( не могу не отметить,что термин "тоталитаризм" в принципе не очень научен, поскольку ни Х. Арендт ни её последователи так не смогли его строго опеределить) режимов Сталина и Мао априори требует причинение вреда жителям стран, да и в шире неприятие всей ортодоксальной марксистко-ленинской линии  требует ограничения носителей этих взглядов, вплоть до их уничтожения,что уже исключает "для всех". Отсюда мы наблюдаем очень неприятный факт логического умолчания со стороны Э. Юдковски.
К чести К.Ю. Еськова, он,  например,при всех своих социал-дарвинистких взглядах, к таким умолчаниям не прибегает, а прямо пишет. Т.е. если Кирилл  "Велик и славен Умбар наш" Еськов afranius описывает в Последнем кольценосце Умбар как наиболее желаемое общество (именно Умбар,а не Мордор, на что совершенно справедливо указывал i_ddragon,) он не стесняется описывать,что враги такого общества будут наказаны. Коммунисты тоже прямо декларируют,что собираются угнетать и притеснять определенную часть общества.

Более того, цитируемая фраза Э.Юдковски показывает, как он в угоду своим политическим взглядам,  прямо отказывается от рационального подхода в  пользу этического, что кстати очень показательно.
В чем принципиально неустранимый дефект этического подхода в противовес рационалистически -маккиавелианскому ? В общем - то просто  и на это неоднократно обращал внимание товарищ Куздра kouzdra в принципиальной сводимости обсуждения к символам, в противовес выгоде/не выгоде действий,  невозможности рациональных измерений поступков. "Слезинка ребенка"  -это сколько? Или если хотите в более философском ключе, ярчайший пример иллюстрации  ущербности этического подхода по сравнению с рационалистическим логический принцип известный какПринцип Юма или Гильотина Юма - принцип, утверждающий, что невозможно с помощью одной логики перейти от утверждений со связкой «есть» к утверждениям со связкой «должен». Принцип назван именем Д. Юма, указавшего, что этика постоянно совершает грубую ошибку, полагая, что из описания того, что имеет место, можно вывести какие-то утверждения о моральном добре и долге https://dic.academic.ru/dic.nsf/enc_philosophy/1444/%d0%ae%d0%9c%d0%90.
Факт мы знаем,что РИ примерно половина детей не доживала до 5 летнего возраста, с приходом советской власти проблема сверхсмертности детей практически исчезла,смертность детей была на уровне развитых стран Запада. В Цинском Китае голод миллионов был регулярным, товарищ Мао принес в деревню Китая индустриальное производство и сейчас в Китае большую часть продукции сельского хозяйства дают кооперативы и государственная индустрия, смертность от голода ушла в прошлое.
Рациональный подход к проблеме заключался бы, например,  в сравнении в РИ и Цинском Китае недоживали (в результате голода, болезней и т.д.) до возраста y x людей, в СССР и Китае до возраста у в результате репрессий голода, болезней не дожили y1 (и не могу не отметить,что фраза о запланированном голоде миллионов как и фраза про намерение причинить боль и смерть - прямая ложь, Сталин и Мао как апокалиптические маньяки -это что-то из области религии,а не рациональности), сравним больше ли xy,чем xy1, если да, то Сталин и Мао по итогу правы, так как предотвратили больший ущерб в человекочасах жизней,чем нанесли. В рамках рационалистически-макиавеллевского  подхода - это просто разновидность инженерной задачи.
Ничего не напоминает? А если напомнить" Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?" Узнаете? Да, это классическая проблема вагонетки, предложенная Филипой Фут (Philippa Foot, The Problem of Abortion and the Doctrine of the Double Effect in Virtues and Vices) https://ru.wikipedia.org/wiki/%D0%9F%D1%80%D0%BE%D0%B1%D0%BB%D0%B5%D0%BC%D0%B0_%D0%B2%D0%B0%D0%B3%D0%BE%D0%BD%D0%B5%D1%82%D0%BA%D0%B8.
Обратимся к работе Александра Скотта Часто задаваемые вопросы о консеквенциализмеhttps://lesswrong.ru/w/%D0%A7%D0%B0%D0%92%D0%BE_%D0%BE_%D0%BA%D0%BE%D0%BD%D1%81%D0%B5%D0%BA%D0%B2%D0%B5%D0%BD%D1%86%D0%B8%D0%B0%D0%BB%D0%B8%D0%B7%D0%BC%D0%B5#simple-table-of-contents-3, разделы посвященные проблеме вагонетки - четвертый и пятый
"Консеквенциалисты считают, что следует нажать на рычаг на следующих основаниях: переключение стрелки ведёт к состоянию мира, где один человек мёртв: оставление ситуации как есть - к состоянию, где пять людей мертво. Если считать, что живые люди предпочтительнее мёртвых, то первое состояние мира выглядит лучше. Следовательно, нужно перенаправить вагонетку.Их противники, которых обычно называют деонтологистами, исходят из принципов, что нужно всегда следовать определённым моральным правилам, в частности, «не убивай людей». Деонтологист откажется переключать стрелку, потому что это сделает его явно ответственным за смерть одного человека. Самоустранение же от каких-либо действий, хоть и приведёт к смерти пяти человек, но её невозможно будет явно привязать к действиям деонтологиста."(Четвертая часть, в которой мы, наконец, добираемся до консеквенциализма)
... "Человек или целое общество, следующее принципу утилитаризма предпочтений, будет пытаться удовлетворить желания максимального количества людей так полно, как это возможно; отсюда и формулировка: «самое большое добро там, где наибольшее число»."(Пятая часть: Самое большое добро там, где самое большое число)

То что выше и есть проблема вагонетки, только примененная к обществу в целом вместо рассмотрения желаний отдельного индивида, более того прямо вытекающая из консеквенциалистской этики.  Но Юдковский предпочитает  здесь  консеквенциалисткую этику проигнорировать резко сменив формат  обсуждения на деонтологическую этику, плюс   вместо рационального обсуждения,  используя штампы  либеральной пропаганды. Рискну предположить потому что автор внутренне понимает уязвимость своей позиции при переводе её в формат рационально -измеримых величин, а не эмоционально давления терминами "зло", "тоталитаризм", всех всех свободно мыслящих людей отправили бы лагеря ( тут рисуется картина,которая даже в современной фэнтези считается "плохим штампом - "Черный властелин") и т.п.
Другой пример. У Морваэна myrngwaur состаялась интересная дискуссия об иммортализме.

https://myrngwaur.livejournal.com/791244.html
https://myrngwaur.livejournal.com/791426.html
https://myrngwaur.livejournal.com/792062.html
https://myrngwaur.livejournal.com/791563.html.
Морваэн пишет " В целом товарищи делают нужное и благородное дело - занимаются совершенствованием и популяризацией и пропагандой науки, а конкретно - той ее части, которая посвящена изменению человеческой материальной природы разными способами, и как следствие - борются с самим понятием смертности человека.""Смерть и вот это всё" https://myrngwaur.livejournal.com/791244.html.
В комменты приходит трансгуманист Александр Соколов  https://vk.com/ptahii и высказывается в том духе,что голодающие в Африке  -это как -то не интересно, а научное продление жизни - это да, круто.
В то время как это просто элементарнейшее нарушение логики -прекращение голода в Африке = миллионы человекочасов продления жизни здесь и сейчас.
И это прямо так Цитирую wsf1917 "Согласно опубликованному в 2003 году докладу ООН «Вызов трущоб» треть городского населения планеты (а это миллиард человек) сейчас живет в трущобах. Авторы доклада прогнозируют, что число этих людей будет расти. Численность городского населения мира впервые превысило численность жителей сельской местности." Информализация труда: экономическая логика современного капитализма https://wsf1917.livejournal.com/314952.html
Если 800 миллионов перестанут голодать, если 160 тысяч американских бездомных переедут в пустующие дома, если программа Фиделя Кастро по литру молока в каждый дом будет расширена на весь третий мир и мы будем тратить деньги на молоко для бедняков,а не на парфюм и яхты для 1% богачей, то  продолжительность жизни десятков миллионов людей,а значит их шанс в процентах на достижение и дальнейшее увеличение продолжительности жизни и естественного бессмертия  в перспективе достоверно вырастет, пусть и ценой сокращения такого шанса у тысяч. Это же простая математика и обычный инженерный подход.
Вы  говорите о необходимости получить от  точных наук средства продления жизни и при этом игнориуете  практики социальных наук  позволяющие дать тоже продление жизни здесь и сейчас?! Где логика? По сути социальный и технический прогресс -это две стороны одной и то же задачи.
Я понимаю, когда трансгуманисты  вроде Никитина прямо артикулирующие благо для элиты так говорят, но когда провозглашается продление жизни для всех, не находите ,что лозунги начинают друг другу противоречить?
И да, не требую совершить мировую революцию прямо здесь и сейчас, но хотя  бы постулировать и обозначить проблему можно?