Чому максимізація блага для всіх може обернутися катастрофою для кожного.
Чи виправдовує мета засоби? Ця класична моральна дилема несподівано знову зажадала свого вирішення, причому в найнесподіванішій сфері – криптовалютах. У середині листопада звалилася друга за величиною світова криптобіржа FTX – колосальна кількість людей втратила свої кошти. І все це можна було б списати на only business, якби не одне “але”.
Засновник FTX – Сем Бенкман-Фрід – виріс на ідеях ефективного альтруїзму (ЕА), який прагне на доказовій основі принести максимальну користь максимальній кількості людей.
Ба більше, саме лідер руху Вільям Макускілл був тією людиною, яка скерувала юного Бенкмана-Фріда, який хотів займатися захистом тварин, у бік кар’єри з високими прибутками як ефективнішого способу – шляхом гігантських пожертвувань – принести максимальну користь.
У підсумку краху FTX ефективний альтруїзм опинився, з одного боку, у вкрай складному моральному становищі – один з його яскравих послідовників “заподіяв добро” величезній кількості людей. З іншого боку, він опинився перед вкрай важким питанням – те, що сталося, це фундаментальні проблеми ЕА, зокрема з ключовими ідеями, чи це “ексцес виконавця”?
Щоб справді зрозуміти свою роль у тому, що трапилося, і зробити правильні висновки, руху, на думку журналістки Сігал Самуель, потрібно відповісти на низку ключових запитань, поставлених нею у статті “На ефективний альтруїзм, який породив Сема Бенкмана-Фріда, чекає моральна розплата”.
Чи не занадто рух ЕА спирався на утилітаризм?
За словами Самуель, бути ефективним альтруїстом – це не обов’язково слідувати консеквенціалізму або утилітаризму, тобто вважати дію морально виправданою, якщо вона призводить до хороших наслідків і максимізує загальне благо.
“Але ефективний альтруїзм бере свій початок у роботах Пітера Сінгера, мабуть, найвпливовішого філософа-утилітариста з нині живих, і рух перебуває під сильним впливом цієї філософії”, – зазначає вона.
Сам же Бенкман-Фрід визначав себе як “досить рафінованого утилітариста в дусі Бентама”, вважаючи, що потрібно робити “якнайбільше добра для найбільшої кількості людей”, і тим самим відсилаючи до ідеї Єремії Бентама про необхідність “найбільшого щастя для найбільшої кількості індивідуумів”. При цьому варто зазначити, що Бентам розглядав загальне благо не більше ніж суму приватних інтересів, а особистий успіх як спосіб збільшити загальне щастя.
І в цьому зв’язку виникає дві серйозні проблеми. По-перше, використання цих ідей у “наївний і шкідливий спосіб”, одним із яких можна вважати нерозбірливість у засобах заради благої мети. Як це, можливо, сталося у випадку з Бенкманом-Фрідом, коли під майбутню благодійну роздачу власних величезних статків ухвалювалися ризиковані рішення щодо заощаджень клієнтів.
При цьому, за словами Самуель, наразі немає чіткого розуміння істинної причини і мотивів події – ланцюг помилок, усвідомлений або неусвідомлений ризик, шахрайство.
По-друге, небезпека ідеї максимізації, зокрема й максимізації спільного блага, до чого прагне ефективний альтруїзм.
“Якщо ви максимізуєте X, ви за замовчуванням напрошуєтеся на неприємності, – написав ще у вересні цього року Холден Карнофскі, один із лідерів ЕА. – Ви ризикуєте зламати/знецінити/обділити безліч речей, які не є Х, але, можливо, мають важливий сенс, якого ви не знаєте. Концептуально максимізувати X означає відкласти все інше заради X, і це жахлива ідея, якщо тільки ви не абсолютно впевнені, що у вас є правильний X”.
А саме з цього приводу, зазначає Карнофскі, немає повної визначеності навіть у лавах ефективних альтруїстів.
Крах FTX змусив замислитися над небезпечним перекосом у бік утилітаризму та необхідністю чітко сформульованих етичних обмежень ще одного видного послідовника ЕА, мільярдера Дастіна Московіца:
Імовірно, нам варто було б поводитися більшою мірою як прихильники деонтології й етики чесноти.
Чи достатньо рух ЕА роз’яснив, що мета не виправдовує засоби?
На думку Самуель, проблема полягає в тому, наскільки в цій ситуації прихильники ефективного альтруїзму готові по-справжньому піддати ревізії власні ідеї або списати все на “ексцес виконавця”.
І в цьому питанні ключовою є позиція лідера руху Вільяма Макускілла, який стверджує, що ефективний альтруїзм давно наголошував на “важливості порядності, чесності, поваги до моральних обмежень, заснованих на здоровому глузді”:
Тверезо мислячий послідовник ЕА повинен рішуче виступати проти аргументації “мета виправдовує засоби”.
При цьому Макускілл посилається на власну знакову роботу “Чим ми зобов’язані майбутньому” та праці двох інших лідерів руху – Холдена Карнофскі та оксфордського філософа Тобі Орда.
Однак, за словами Самуель, хоча ці тексти справді наголошують на ідеях чесності та порядності, але їх було опубліковано в останні три роки – “надто пізно для того, щоб бути корисними для формування Бенкмана-Фріда та інших молодих ефективних альтруїстів, які прийшли разом із ним”.
Крім того, повага до моралі здорового глузду – це не те, що становить справжнє послання ефективних альтруїстів.
“Культура ЕА пишається тим, що пропонує протидію моралі здорового глузду, – пояснює Самуель. – Їхнє заперечення полягає в тому, що по-справжньому моральна дія має бути спрямована на максимізацію “очікуваної цінності”.
Щоб розрахувати очікувану цінність рішення, ви множите цінність результату на ймовірність його появи. І ви маєте обрати рішення з найбільшим отриманим значенням – “заткніться і примножуйте”, як люблять говорити деякі ефективні альтруїсти”.
Підхід “заробляй, щоб віддавати”, який Макаскілл рекомендував юному Бенкману-Фріду, і який практикували ефективні альтруїсти від самого початку, на базовому рівні дуже схильний до мислення в дусі “мета виправдовує засоби”.
На думку Самуель, це легко побачити в пропозиції заробляти на криптовалюті, що “погано для планети”, але зате “з цими криптогрошима ти можеш зробити стільки хорошого”. І деклароване Макускіллом “ми повинні поважати моральні обмеження, наприклад, проти заподіяння шкоди іншим” легко губиться за активною пропагандою розрахунків очікуваної цінності.
Чи не занадто рух ЕА покладався на гроші мільярдера замість децентралізації джерел?
Як стверджує Самуель, у випадку невеликих молодих рухів, де переважають особисті зв’язки, той, хто готовий вкласти у справу мільйони доларів, та його наближені отримують величезний вплив на формування концепції та розподіл коштів. У результаті, значно зростають ризики надмірної ортодоксальності та непрозорості.
Приміром, радником Бенкмана-Фріда, який допомагав у визначенні проєктів для фінансування, виступав Макускілл, і два найбільші гранти отримали проєкти, де так чи інакше фігурували він сам і виконавчий директор фонду FTX Нік Бекстед.
“Деякі критики ЕА попереджали, що фінансування руху має бути більш децентралізованим, – пояснює Самуель. – В іншому разі здатне закріпитися групове мислення, ЕА може замкнутися саме на собі, коли критики, які не поділяють ортодоксальних поглядів, не висловлюватимуться, боячись дратувати лідерів, які потім можуть відмовити у фінансуванні досліджень або можливому працевлаштуванні”.
2021 року науковиця з Оксфорда Карла Кремер пропонувала для розв’язання цієї проблеми забезпечити “висхідний контроль” над розподілом коштів, а також прозорість рішень щодо фінансування тих чи інших проєктів і концентрацію на найважливіших роботах. І варто зазначити, що спроби децентралізувати фінансування робили, наприклад, у лютому цього року було запущено програму регрантингу.
За словами Самуель, відсутність незалежного від лідерів ухвалення рішень і контролю, звісно, можна пояснити давніми особистими зв’язками, коли найшвидший і найпростіший спосіб отримати інформацію про тих, кому варто дати грант, – це звернутися до тих, кому довіряєш. Але, стверджує вона, тут знову виникає небезпека максимізації:
Якщо ви хочете “зробити якнайбільше доброго” в якості грантодавця, є спокуса обрати підхід, що заощадить ваш час і зусилля, але за рахунок надійних інституційних гарантій.
Чи не ігнорував рух ЕА заклики до демократизації своєї структури влади?
Групове мислення, викликане залежністю від великого джерела фінансування, неминуче призводить до інтелектуальної замкнутості, що негативно позначається на будь-якій спільноті. Але особливо це проблематично, на думку Самуель, для такого руху, як ефективний альтруїзм, що прагне через ідею лонгтермізму (пріоритет поліпшення довгострокового майбутнього людства) представляти інтереси всіх людей зараз і в майбутньому.
Така мета вимагає великого інтелектуального розмаїття і демократичних способів оцінки своїх ідей, що надцентралізована структура влади, яка віддає перевагу кільком елітним голосам, забезпечити не може. Як написала Карла Кремер:
Пов’язувати питання, яке фундаментально зачіпає все людство, з нішевою системою переконань, яку обстоює здебільшого нерепрезентативна, впливова меншість, – це недемократично і непереконливо з філософського погляду.
Для подолання цієї ситуації Кремер запропонувала три основні кроки:
- створити схему захисту для “внутрішніх” критиків-членів ЕА;
- за п’ять років удвічі скоротити фінансову залежність проєктів ЕА від основних жертводавців руху, що потребуватиме переконувати непричетних до нього людей в актуальності та якості робіт, які пропонуються для фінансування;
- запрошувати “зовнішніх” критиків для доповідей і публічних дебатів із лідерами руху.
Однак ці рекомендації, зазначає Самуель, не спричинили якихось помітних змін:
Замість цього в ЕА так само процвітає культ героїв. Найбільше шанується Макускілл, але Бенкман-Фрід теж цінувався як екстравагантний вундеркінд-благодійник, почасти і як друг Макускілла.
Чи приречений лонгтермізм?
Лонгтермізм – одна з ключових концепцій ЕА, що опинилася після краху FTX під ударом, зокрема й, тому що її просував Бенкман-Фрід. Однак, на думку Самуель, якщо від лонгтермізму і варто відмовлятися, то не у зв’язку з крипто-катастрофою, а тільки після ретельного дослідження його сутнісних проблем, і, можливо, відмовлятися не повною мірою.
Наприклад, ідея про те, що ми маємо більше піклуватися і вживати заходів для запобігання ігнорованим екзистенціальним ризикам, як-от пандемії або біологічна зброя, як і раніше, заслуговує на увагу, – вважає вона.
Але в тій частині, де лонгтермізм спирається на ідею максимізації очікуваної цінності, від нього варто відмовитися через майже неминучу утилітарність підходу.
“Хоча жодна система переконань не може зробити себе повністю несприйнятливою до небезпечних тлумачень, деякі системи переконань практично напрошуються на них, – каже Самуель. – Прихильники ЕА повинні серйозно подумати про те, як вивести на передній план певні обмеження на мислення в утилітарному дусі”.
Ще однією сутнісною проблемою лонгтермізму є опора на прогнозування ризиків у віддаленому майбутньому. Переконання, що його можна частково покращити за допомогою передбачень про добрі наслідки певних дій, виглядає дещо самовпевненим.
І з погляду здатності до прогнозування взагалі, і з погляду можливості прогнозувати ризики в набагато складніших і віддалених у часі системах. З цього приводу економіст Тайлер Коуен іронічно зауважив, що ніхто з фонду Бенкмана-Фріда, який займався віддаленими екзистенціальними ризиками, не зміг спрогнозувати найближчі екзистенціальні ризики для самого ж фонду.
Правильна протиотрута від такої самовпевненості полягає, на думку Самуель, “не в математиці та вигадливій філософії, а в глибшому інтелектуальному смиренні”.
Чи є ЕА політичним рухом?
Допоки рух ефективних альтруїстів був, за словами Самуель, “різношерстою командою нердів, які шукають найкращі можливості для доброчинності”, спосіб їхньої самоорганізації не мав такого значення, як має зараз, коли він перетворився на “силу з мільярдом доларів, яка намагається впливати на національну та міжнародну політику”.
І з цим пов’язані певні проблеми, зокрема й складність адаптації руху (який прагне бути і філантропічною організацією, і філософською течією, і варіантом культурної ідентичності) до своєї нової реальності.
Все ще існує змішання жанрів щодо того, що є ЕА, – каже вона. – І це заважає руху кардинально оновити себе.
Пропозиція про демократизацію управління може сприйматися прихильниками ЕА негативно, якщо вони продовжують сприймати себе як філантропічне об’єднання. Але, за словами Самуель, з урахуванням витрачених Бенкманом-Фрідом мільйонів доларів на підтримку учасників парламентських і президентських кампаній це виглядає справедливою вимогою.
“Якщо ефективний альтруїзм хоче бути політичним рухом, то йому абсолютно необхідні такі речі, як прозорість, нагляд, ефективне управління та базові етичні гарантії, – стверджує вона. – Потрібно мати чесність заявити про свої амбіції – політичну владу – і звітність, щоб довести, що він цієї влади гідний”.