翻譯：Meditations on Moloch

這是使用GPT-3.5-turbo的API從英文翻成中文的。原文的Medications on Moloch。而Hacker news上的討論。這篇是Slate Star Codex的中文翻譯。因為全文太精采，我先把全文列出來。

I

艾倫·金斯伯格（Allen Ginsberg）著名的摩洛克詩：

什麼水泥和鋁的獅身人面像，撞開了他們的頭骨，吞噬了他們的大腦和想像力？
摩洛克！孤獨！污穢！醜陋！垃圾桶和難以獲得的美元！孩子在樓梯下尖叫！男孩在軍隊中哭泣！老人在公園裡哭泣！
摩洛克！摩洛克！摩洛克的惡夢！無愛的摩洛克！心靈的摩洛克！
摩洛克，嚴厲的判官！
摩洛克，難以理解的監獄！
摩洛克，十字骨無靈魂的監獄和悲傷的國會！
摩洛克，其建築物是審判！
摩洛克，戰爭的巨大石頭！
摩洛克，震驚的政府！
摩洛克，其思想是純機械！
摩洛克，其血液是流動的金錢！
摩洛克，其手指是十支軍隊！
摩洛克，其胸部是一個食人的發電機！
摩洛克，其耳朵是一個冒煙的墓地！
摩洛克，其眼睛是一千個盲目的窗戶！
摩洛克，其摩天大樓在長街上矗立，就像無盡的耶和華！
摩洛克，其工廠在霧中夢想和嘶嘶聲！
摩洛克，其煙囪和天線為城市加冕！
摩洛克，其愛是無盡的石油和石頭！
摩洛克，其靈魂是電力和銀行！
摩洛克，其貧窮是天才的幽靈！
摩洛克，其命運是一團無性氫的雲！
摩洛克，其名字是心靈！
我孤獨地坐在摩洛克裡！
我在摩洛克裡夢想天使！
在摩洛克瘋狂！
在摩洛克裡口交！
在摩洛克裡缺乏愛和沒有男人！
摩洛克早就進入了我的靈魂！
在摩洛克裡，我是一個沒有身體的意識！
摩洛克嚇壞了我，使我失去了自然的狂喜！
我抛棄了摩洛克！
在摩洛克中醒來！
天空中流淌著光芒！
摩洛克！摩洛克！
機器人公寓！看不見的郊區！骨架寶庫！盲目的首都！魔鬼的工業！幽靈般的國家！不可戰勝的瘋人院！花崗岩陰莖！巨大的炸彈！
他們用盡全力把摩洛克送上天堂！人行道，樹木，收音機，噸！
將城市升華到存在並無處不在的天堂中！
幻覺！預兆！幻覺！奇蹟！狂喜！全都沿著美國河流流去了！
夢想！崇拜！啟示！宗教！一艘充滿敏感廢話的船！
突破！越過河流！翻轉和釘十字架！沿著洪水流去！高峰！頓悟！絕望！十年的動物尖叫和自殺！心靈！新的愛！瘋狂的一代！
在時間的岩石上！真正的神聖笑聲在河中！
他們看到了一切！狂野的眼睛！神聖的呼喊聲！
他們告別了！他們從屋頂跳下去！
到孤獨中去！揮舞著花朵！沿著河流！進入街道！

這首詩讓我印象深刻的是它對文明的概念。你幾乎可以看到他，用他的軍隊手指和摩天大樓窗戶眼睛。

很多評論家說Moloch代表資本主義。這確實是其中一部分，甚至是很大一部分。但它不太適合。資本主義，它的命運是一團無性氫氣的雲？資本主義，在其中我是一個沒有身體的意識？因此，資本主義是花崗岩的男性生殖器？

Moloch作為對問題（C.S.路易斯在《哲學家的等級制度》中的問題）的答案被引入——地球可以公平，所有人都高興和聰明。但我們有監獄，煙囪，精神病院。什麼水泥和鋁的獅身人面像打開他們的頭骨並吞噬他們的想象力？

金斯伯格回答：Moloch做到了。在《混沌原理》中有一段話，馬拉克利普斯向女神抱怨人類社會的罪惡。“每個人都在傷害彼此，地球充滿了不公正，整個社會掠奪他們自己的人民，母親囚禁兒子，兄弟們互相爭戰時孩子們死亡。”

女神回答：“如果這是你想做的事情，那有什麼問題？”

馬拉克利普斯：“但沒有人想要這樣！每個人都討厭它！”

女神：“哦。那好吧，那就停止吧。”

隱含的問題是——如果每個人都討厭現行制度，誰維持它？金斯伯格的答案是：“Moloch”。它之所以強大，不是因為它是正確的——沒有人真正這麼想。一個古老的迦太基惡魔引起了一切，但將系統視為代理人會凸顯系統不是代理人的程度。

波斯特羅姆隨意提到了一個可能的無獨裁者的反烏托邦，每個公民包括領導層都討厭它，但仍然不可征服。這樣的國家很容易想像。想像一個只有兩個規則的國家：第一，每個人必須每天花八個小時給自己強烈的電擊。第二，如果任何人違反規則（包括這個規則），或公開反對它，或未能執行它，所有公民都必須團結起來殺死那個人。假設這些規則已經很好地被傳統確立，每個人都希望它們得到執行。因此，你每天要給自己電擊八個小時，因為你知道如果你不這樣做，其他人都會殺了你，因為如果他們不這樣做，其他人又會殺了他們，以此類推。每個公民都討厭這個系統，但由於缺乏良好的協調機制，它仍然存在。從上帝的角度來看，我們可以優化系統為“每個人都同意立即停止這個行為”，但系統內部沒有人能夠在不冒巨大風險的情況下實現過渡。

好吧，這個例子有點牽強。因此，讓我們運行一些（比如十個）現實世界中類似的多極陷阱，以真正強調這一點。

1. 兩個非常愚蠢的自由主義者玩的囚徒困境，他們總是最終選擇缺乏協調能力的背叛。如果他們能夠找出協調的方法，那麼有一個更好的結果可用，但協調很難。從上帝的角度來看，我們可以同意合作-合作比缺乏協調的背叛-背叛更好，但系統內的囚犯都無法實現它。
2. 美元拍賣。我在《博弈論作為黑暗藝術》中寫到了這一原則甚至更加繁瑣的版本。利用一些奇怪的拍賣規則，你可以利用協調不良來讓某人為一美元的鈔票支付10美元。從上帝的角度來看，這是一個不好的結果，但系統內的人無法使它發生。神視角度來看，很明顯人們不應該花十元買一個單人床。從系統內部來看，每個步驟都可能是合理的。（垃圾桶和無法獲得的美元！）
3. 我的非自由主義者常問問題2.0中的養魚故事： 作為一個思想實驗，讓我們考慮一下湖中的水產養殖（養魚）。想像一個湖，有一千個相同的養魚場，由一千家競爭公司擁有。每個養魚場每月賺取1000美元的利潤。一段時間以來，一切都很好。但是每個養魚場都會產生廢物，這些廢物會污染湖水。假設每個養魚場產生的污染足以每月降低湖泊的生產力1美元。一千個養魚場產生的廢物足以每月降低1000美元的生產力，這意味著沒有一個養魚場賺錢。資本主義來拯救：有人發明了一個複雜的過濾系統，可以去除廢物。它的運營成本為每月300美元。所有的養魚場自願安裝它，污染問題得以解決，養魚場現在每月賺取700美元的利潤，仍然是一個可觀的數額。但是有一個農民（讓我們叫他史蒂夫）厭倦了花錢運營他的過濾器。現在僅有一個養魚場的廢物污染了湖泊，每月降低1美元的生產力。史蒂夫賺取了999美元的利潤，其他人賺取了699美元的利潤。其他人看到史蒂夫比他們更有利可圖，因為他沒有花費維護成本來運營他的過濾器。他們也斷開了他們的過濾器。一旦有四百個人斷開他們的過濾器，史蒂夫的收入降至每月600美元，比他和其他人都保持過濾器的收入還要少！而那些貧窮而有道德的過濾器使用者只賺取300美元。史蒂夫走到每個人面前，說：“等等！我們都需要自願簽署使用過濾器的協議！否則，每個人的生產力都會下降。”每個人都同意他的看法，他們都簽署了過濾器協議，除了一個有點討厭的人，讓我們叫他麥克。現在，除了麥克外，每個人都再次使用過濾器。麥克每月賺取999美元，其他人每月賺取699美元。慢慢地，人們開始想，他們也應該像麥克一樣賺大錢，並為了多賺300美元而斷開過濾器…一個自私的人從來沒有任何使用過濾器的動機。一個自私的人有一些簽署協定讓每個人都使用過濾器的動機，但在許多情況下，他有更強烈的動機等待其他人簽署這樣的協定，但自己選擇退出。這可能導致一個不理想的平衡，其中沒有人會簽署這樣的協定。
4. 我越想越覺得這是我反對古典自由主義的核心，而非古典自由主義FAQ 3.0只是這一個例子複製兩百次。從上帝的角度來看，我們可以說污染湖泊會帶來不良後果。在系統內，沒有個人能防止湖泊被污染，買一個過濾器可能不是一個好主意。
5. 馬爾薩斯陷阱，至少在其極端純理論極限下。假設你是第一批被引入到原始島上的老鼠之一。它充滿了美味的植物，你過著悠閒的生活，吃飯，創作偉大的藝術品（你是《尼姆的老鼠》中的老鼠之一）。你活了很長時間，交配，有了十幾個孩子。他們每個人都有十幾個孩子，以此類推。幾代人之後，島上有一萬只老鼠，已達到其負荷能力。現在沒有足夠的食物和空間，每個新一代的一定百分比都會死亡，以保持人口穩定在一萬。某個派系的老鼠為了更多地尋找生存而放棄了藝術。每一代，這個派系死亡的比例比主流派系的成員少一些，直到過了一段時間，沒有老鼠再創作任何藝術，任何試圖重新引入藝術的派系都將在幾代人內滅絕。實際上，不僅僅是藝術。任何比主流更加精簡、更具生存能力的派系最終都會佔據上風。如果一個派系的老鼠出於利他主義。為了減少人口過多，某個群體決定限制每對夫婦的子女數量為兩個，但這樣的一個群體將會因為敵人更多而消失。如果一個老鼠群開始實行食人行為，並發現這給了他們優勢，最終它會佔據優勢並達到固定。如果一些老鼠科學家預測島上的堅果存儲正在以危險的速度耗盡，幾個老鼠群可能會嘗試限制他們的堅果消耗量到可持續水平。這些老鼠將被更自私的同類所競爭。最終，堅果將被耗盡，大多數老鼠將死亡，週期將重新開始。任何提倡採取行動停止這一周期的老鼠群將被競爭對手擊敗，因為對他們來說，提倡任何行動都是浪費時間，這時間可以用來競爭和消費。出於各種原因，進化並不完全符合馬爾薩斯理論，但它提供了一個原型示例，我們可以應用到其他事物上，以了解其基本機制。從上帝視角來看，很容易說老鼠應該維持一個舒適的低人口。但在系統內部，每個個體老鼠都會遵循其基因的命令，這個島嶼最終會陷入無休止的繁榮和衰退循環中。
6. 資本主義。想像一個在競爭激烈的行業中的資本家。他在一個血汗工廠雇用工人製作衣服，他以最小的利潤出售這些衣服。也許他想給他的工人更多的薪水或更好的工作條件。但他不能這樣做，因為這會提高他產品的價格，他將會被更便宜的競爭對手擊敗並破產。也許他的很多競爭對手都是好人，他們想給他們的工人更好的待遇，但除非他們有一種鐵一般的保證，即沒有人會通過削價競爭來破壞他們的價格，否則他們不能這樣做。就像老鼠一樣，逐漸失去除了競爭之外的所有價值觀，因此在經濟環境下，公司也會失去除了競爭之外的所有價值觀。競爭被迫放棄除了優化獲利之外的所有價值觀，否則會被更好地優化獲利並能以更低的價格出售同樣服務的公司所淘汰。（我不確定人們有多廣泛地欣賞將資本主義比作進化的價值。適合的公司-定義為讓客戶想要從他們購買的公司-生存，擴展並激勵未來的努力，而不適合的公司-定義為沒有人想要從中購買的公司-破產並隨著其公司的DNA一起消亡。大自然之所以是紅色和充滿爪牙的原因，正是市場無情和剝削的原因）從上帝的視角來看，我們可以設計一個友好的行業，每家公司都支付其工人足夠的工資。從系統內部來看，沒有辦法實現它。（摩洛克，他的愛是無盡的石油和石頭！摩洛克，他的血是流動的金錢！）最近在這個博客上討論的“雙收入陷阱”。它理論化地認為，在優質學區的郊區房屋的競爭足夠激烈的情況下，人們必須放棄許多其他價值觀-與孩子在家的時間，財務安全等-來優化購房能力，否則將被困在貧民區。從上帝的眼中看，如果每個人都同意不接受第二份工作來幫助贏得對漂亮房子的競爭，那麼每個人將得到與之前完全相同的漂亮房子，但只需要工作一份工作。從系統內部來看，在沒有政府真正願意禁止第二份工作的情況下，沒有得到第二份工作的人都會被落下。（機器人公寓！隱形郊區！）
7. 農業。傑瑞德·戴蒙德（Jared Diamond）稱之為人類歷史上最糟糕的錯誤。無論它是否是一個錯誤，它都不是一個意外-農業文明只是不可避免地超越了游牧文明。經典的馬爾薩斯陷阱。也許狩獵采集更愉快，壽命更長，更有助於人類繁榮-但在人民之間的競爭足夠激烈的情況下，農業是更具競爭力的選擇，儘管有所有的疾病、壓迫和瘟疫，每個人都會成為農民，否則就像科曼契印第安人一樣滅亡。從神的角度來看，很容易看出每個人都應該選擇更愉快的選擇，繼續做狩獵採集者。從系統內部來看，每個部落只面臨著農業或不可避免的死亡的選擇。
8. 軍備競賽。大國可以在防禦上花費5％至30％的預算。在沒有戰爭的情況下 – 在過去的50年中主要是這樣 – 所有這些都只是從基礎設施、健康、教育或經濟增長中流失資金。但是，任何未能在防禦上花費足夠的錢的國家都面臨著被邊境國家入侵的風險。因此，幾乎所有國家都試圖在防禦上花費一些錢。從神的角度來看，最好的解決方案是世界和平，沒有任何國家擁有軍隊。從系統內部來看，沒有國家可以單方面強制執行這一點，因此他們最好的選擇是繼續投入他們的錢到未被使用的導彈中。 （戰爭的巨大石頭莫洛克！莫洛克的手指是十支軍隊！）
9. 癌症。人體應由和諧共存並集中資源為有機體的整體利益而生。如果一個細胞通過投資其資源來複製自己而偏離這種平衡，它及其後代將會茁壯成長，最終超越所有其他細胞並接管身體 – 此時它死亡。或者情況可能重複，某些癌細胞對抗腫瘤的其他部分，從而減緩其生長並導致腫瘤停滯。從神的角度來看，最好的解決方案是所有細胞合作，以便它們不會全部死亡。從系統內部來看，癌細胞將大量繁殖並超越其他細胞 – 所以只有免疫系統的存在才能抑制自然的想要癌變的動機。
10. “競逐最低點”描述了一種政治。有些地方為了吸引企業，承諾降低稅收和減少管制。最終的結果是，要麼每個人都優化競爭力 – 通過最低稅率和管制 – 要麼他們將失去所有的業務、收入和就業機會，讓那些做到的人取而代之（此時他們被推出，由更加順從的政府取代）。但即使最後一種情況偷了名字，所有這些情況實際上都是一場競爭的下行趨勢。一旦有一個代理人學會了如何通過犧牲共同的價值觀來提高競爭力，所有的競爭對手都必須犧牲那個價值觀，否則就會被不道德的人取代和取而代之。因此，系統很可能最終會再次變得同樣具有競爭力，但犧牲的價值觀已經永遠消失了。從神的角度來看，競爭對手知道如果他們背叛，他們都會變得更糟，但在系統內部，如果缺乏協調，就無法避免。在我們繼續之前，還有一種略微不同的多代理陷阱值得調查。在這種情況下，競爭被一些外部力量 – 通常是社會恥辱 – 阻止。因此，實際上不存在競爭的下行趨勢 – 系統可以繼續在相對高的水平上運作 – 但無法進行優化，資源不斷被浪費。在此之前，我將限制在這裡舉四個例子。
11. 教育。在我關於反動哲學的文章中，我談到了對教育改革的挫敗感：人們問為什麼我們不能改革教育系統。但現在學生的動機是去他們能進入的最負盛名的大學，這樣雇主就會聘請他們 – 不管他們是否學到東西。雇主的動機是從他們能得到的最負盛名的大學中得到學生，這樣他們就可以向他們的老板辯護，如果出了問題 – 不管大學是否提供增值。學院的動機是做任何事情來獲得更多的…以在美國新聞與世界報導排名中評定的聲望為例，是否有幫助學生？這會導致巨大的浪費和教育質量低下嗎？是的。教育神能否注意到這一點，制定一些教育法令，使系統更加高效？很容易！但由於沒有教育神，每個人都只會遵循自己的動機，這些動機只有部分與教育或效率相關。從神的角度來看，很容易說出像“學生只有在認為自己能從中獲得好處時才應該上大學，雇主應該根據能力而不是所上的大學來聘請應聘者”的話。但從系統內部來看，每個人都已經正確地遵循自己的動機，因此除非動機改變，否則系統也不會改變。
12. 科學。同一篇文章： 現代研究社群知道他們沒有生產出最好的科學。出版偏見很多，統計數據是純粹的慣性以混亂和誤導的方式進行的，復制通常很晚或根本不會發生。有時候有人會說：“我不敢相信人們太愚蠢以至於無法修復科學。我們只需要要求早期登記研究以避免出版偏見，將這種新而強大的統計技術轉化為新標準，並將做復制實驗的科學家的地位提高。這很簡單，它會大大增加科學進展。我一定比現有的所有科學家都聰明，因為我能想到這一點，而他們不能。”是的。這對於科學神來說是可行的。他可以制定一個科學法令，要求每個人都使用正確的統計數據，並制定另一個科學法令，要求每個人必須將復制實驗的地位提高。但是，從系統內部來看，沒有個別的科學家有動機為自己的研究單方面轉換到新的統計技術，因為這會使她的研究變得更少。可能會產生震撼性的結果，但這只會讓其他科學家感到困惑。他們只有一個激勵，希望其他人都這麼做，然後他們會跟隨。而且，沒有一個期刊有激勵單方面轉換為早期登記和發表負面結果，因為這只會意味著他們的結果比其他只發表開創性發現的期刊更不有趣。從系統內部來看，每個人都在遵循自己的激勵，並且將繼續這樣做。
13. 政府腐敗。我不知道是否有人真的認為企業福利是一個好主意。但政府仍然每年花費約1000億美元（取決於您如何計算）在此上面，例如這是他們為有需要的人提供醫療保健支出的三倍。所有熟悉這個問題的人都提出了同樣簡單的解決方案：停止提供如此多的企業福利。為什麼不行動呢？
    政府相互競爭以當選或晉升。假設優化當選是優化來自企業的競選捐款的一部分，或者也許不是，但官員們認為是。試圖干擾企業福利的官員可能會失去企業的支持，並被承諾保持其完整性的官員所淘汰。
    因此，儘管從上帝的角度來看，每個人都知道消除企業福利是最好的解決方案，但每個官員的個人激勵都推動她維持它。
14. 國會。只有9％的美國人喜歡它，這表明其支持率低於蟑螂，虱子或交通阻塞。然而，62％知道自己的國會代表是誰的人贊成他們。
    理論上，擁有一個民主選舉的機構，其支持率在一個選舉周期中保持在9％以上，應該很難。實際上，每個代表的激勵都是吸引他或她的選民，同時扔掉。全國其他地區被拋棄，他們似乎做得很成功。
    從上帝的角度來看，每位國會議員都應只考慮國家的利益。在體制內，你所做的就是選舉得票。

II

所有多極陷阱的基本原則都是一致的。在某些優化X的競爭中，出現了為了改善X而犧牲其他價值的機會。那些抓住這個機會的人會繁榮。那些不抓住這個機會的人會消失。最終，每個人的相對地位與以前大致相同，但每個人的絕對地位比以前更糟。這個過程會一直持續下去，直到可以交換的所有其他價值都被消耗殆盡 – 換句話說，直到人類的創造力不可能想出一種使事情更糟的方法。在足夠激烈的競爭（1-10）中，不把所有價值都拋棄的人都會消失

– 想想那些不停製作藝術品的可憐老鼠。這就是臭名昭著的馬爾薩斯陷阱，每個人都被降至“生存水平”。
在不夠激烈的競爭（11-14）中，我們所看到的只是一種扭曲的失敗，無法進行最佳化

– 考慮那些無法轉向更可靠的科學的期刊，或者無法團結起來消除企業福利的立法者。這可能不會使人們降至生存水平，但有一種奇怪的感覺會剝奪他們的自由意志。

每個二流的作者和哲學家都必須寫出自己的烏托邦。其中大多數都是真正不錯的。事實上，可以肯定地說，兩個極端相反的烏托邦都比我們現實世界聽起來更好。隨意的無名氏能夠想出比我們實際生活中更好的情況，這有點尷尬。實際上，他們中的大多數都做不到。許多烏托邦把困難的問題隱藏起來，或者如果實際實施，就會在十分鐘內崩潰。
但讓我建議幾個沒有這個問題的“烏托邦”。

在這個烏托邦中，政府不支付大量企業福利，而是支付企業福利。

在這個烏托邦中，每個國家的軍隊都比今天小50％，節省下來的資金用於基礎設施支出。

在這個烏托邦中，所有醫院都使用相同的電子醫療記錄系統，或者至少是可以互相溝通的醫療記錄系統，這樣醫生可以查看上週在不同醫院看過的醫生決定的內容，而不是再次進行全部相同的測試，花費5000美元。

我認為沒有太多人反對這些烏托邦。如果它們沒有實現，那不是因為人們不支持它們。它肯定不是因為沒有人想到它們，因為我現在剛想到它們，我不希望我的“發現”被譽為特別新穎或改變世界。

任何具有高於室溫的智商的人都可以設計一個烏托邦。我們現行制度之所以不是烏托邦，是因為它不是由人類設計的。就像你可以看著一片乾旱的地形，假設水會遵守重力，決定將來河流的形狀一樣，你可以看著一個文明，假設人們會遵循激勵，決定它的機構將來的形狀。

但這意味著，就像河流的形狀不是為了美麗或航行而設計的，而是隨機確定地形的產物一樣，機構也不是為了繁榮或正義而設計的，而是隨機確定的初始條件的產物。
就像人們可以平整地形和建造運河一樣，人們可以改變激勵環境以建立更好的機構。但只有在有激勵的情況下才能這樣做，這並非總是如此。因此，在一些非常奇怪的地方，一些相當狂野的支流和急流形成了。
現在，我將從無聊的博弈理論材料跳到可能是我經歷過的最接近神秘體驗的東西。就像所有好的神秘體驗一樣，它發生在拉斯維加斯。我站在他們眾多高樓之一的頂部，俯瞰著下面的城市，在黑暗中亮起來。

你從未去過拉斯維加斯，那裡真的很壯觀。

高樓大廈和燈光各種奇異而美麗的聚集在一起。

當時我有兩個清晰的想法：我們可以創造這樣的東西真是太棒了，但同時我們做這件事情真的很可恥。按照什麼標準，在北美最不宜居住的沙漠中建造巨大的40層高室內仿威尼斯、巴黎、羅馬、埃及和卡美洛城堡，裡面還充滿了白化老虎，這是我們文明有限的資源中遠離理性的使用？

我想到，也許地球上沒有哪種哲學會支持拉斯維加斯的存在。即使是我通常用來為資本主義的過度行為辯護的客觀主義哲學，至少也是基於資本主義改善人們的生活的信念。亨利·福特之所以是有道德的，是因為他讓許多原本沒有車的人擁有了車，從而讓他們的生活更好。

那拉斯維加斯呢？承諾一些笨蛋免費的錢，然後不給他們。拉斯維加斯的存在不是因為某種 hedonically optimize civilization（享樂主義優化文明）的決定，而是因為多巴胺獎勵回路的一個怪癖，加上不平均的監管環境和谢林点。如果一個有理性的中央計劃者以神的視角思考這些事實，他可能會想：“嗯，多巴胺獎勵回路有一個怪癖，即某些稍微負面風險效益比的任務會有與稍微正面風險效益比相關的情感價值，讓我們看看能否教育人們警惕這一點。”而在這個系統內的人，則是按照這些事實所創造的激勵，想：“讓我們在沙漠中建造一個40層高的古羅馬室內仿建，裡面充滿了白化老虎，這樣我們就能比那些沒有這麼做的人更富有一點！”

就像一條河流的走向在第一場雨落下之前就存在於地形中一樣——凱撒宮的存在在神經生物學、經濟學和監管中就已經存在。即使在它存在之前，政權就已經存在了。建造它的企業家只是用真正的混凝土填補了幽靈般的線條。

因此，我們擁有了所有這些驚人的技術和認知能量，人類的聰明才智，浪費在背誦由進化不良的細胞受體和盲目的經濟學寫下的線條上，就像神被一個笨蛋命令一樣。

有些人有神秘的經驗，看到上帝。在拉斯維加斯，我看到了摩洛克。
摩洛克，他的思想是純機械！
摩洛克，他的血液是流動的金錢！
摩洛克，他的靈魂是電力和銀行！
摩洛克，他的摩天大樓矗立在長街上，像無盡的耶和華！
摩洛克！摩洛克！機器人公寓！隱形郊區！骨架寶庫！盲目的資本！惡魔工業！幽靈般的國家！…花崗岩陰莖！

III

《非正典混沌之書》說：

時間像一條河流。也就是說，向下流動。我們可以這麼說，因為一切都在迅速地走下坡路。當我們到達海洋時，似乎遠離這裡是明智的。

讓我們將這個隨機的笑話百分之百地理解，看看它會帶領我們到哪裡。

我們將激勵的流動比作河流的流動。向下的軌跡是適當的：當你找到一個可以為更大的競爭力而犧牲有用價值的機會時，陷阱就出現了。一旦每個人都擁有了它，更大的競爭力就不會帶給你任何喜悅——但價值卻永遠失去了。因此，每一步貧弱的協調跳舞都會讓你的生活變得更糟。

但是我們還沒有到達海洋，而且我們似乎往上走的次數也很多。為什麼事情不會一天比一天惡化，直到我們回到生存水平？我可以想到三個不好的原因——資源過剩、物理限制和效用最大化——以及一個好的原因——協調。

資源過剩。

海洋深處是一個可怕的地方，光線很少，資源很少，有各種各樣的可怕生物專門吃或寄生彼此。但是每隔一段時間，鯨魚的屍體會掉到海底。發現它可能需要的一切。在第一次接觸到鯨魚的幾種生物中，有一個短暫的奇蹟般的豐盛時期，它們像國王一樣進食。最終，更多的動物發現了這具屍體，屍體中繁殖速度較快的動物增加了，鯨魚逐漸被消耗，每個人都嘆息著回到了馬爾薩斯式的死亡陷阱中。

（Slate Star Codex: 一直是您可怕的鯨魚隱喻來源）

就像一群放棄藝術並轉向食人的老鼠突然被吹到了一個更高的承載能力的新島上，他們再次有了呼吸空間，可以和平地生活並創造藝術傑作。

這是鯨骸時代，是過剩承載能力的時代，是我們突然發現自己比馬爾薩斯提前了千英里的時代。正如漢森所說，這是夢幻時代。
只要資源不足以將我們困在全面戰爭中，我們就可以做愚蠢的非最優選擇 – 像藝術，音樂，哲學和愛情 – 大多數時間不會被無情的殺戮機器所淘汰。

物理限制。

想象一個利潤最大化的奴隸主，他決定節省成本，不給他的奴隸吃飯或讓他們睡覺。他很快就會發現他的奴隸的生產力急劇下降，而鞭打他們也無法恢復生產力。最終，在測試了許多策略之後，他可能會發現當奴隸吃得飽，休息得好，並且至少有一點時間放鬆時，他們的工作量最大。不是因為奴隸自願保留他們的勞動力 – 我們假設懼怕懲罰足以讓他們盡力工作 – 而是因為身體有某些物理限制，限制了你可以得到多少。因此，“向底部的競賽”在實際道德底部之前就停止了，當達到物理限制時就會停止。

奴隸制的歷史學家約翰·莫斯進一步寫道，我們最常見的奴隸制
熟悉的－南北戰爭前的南方奴隸制－是歷史上的異常現象，可能也不經濟有效。在大多數過去的奴隸制形式中－尤其是古代的－奴隸獲得薪水、受到良好對待，並經常獲得自由。
作者認為這是理性經濟計算的結果。你可以用胡蘿蔔或棍子來激勵奴隸，而棍子並不是一個好方法。你無法一直監視奴隸，也很難判斷一個奴隸是否偷懶（或者即使再多鞭打一些，他是否能更加努力地工作）。如果你想讓你的奴隸做比摘棉花更複雜的事情，你就會遇到一些嚴重的監測問題－你如何從一個被奴役的哲學家身上獲利？狠狠地鞭打他，直到他闡明了一個你可以賣書的善的理論？

古人對這個問題的解決方案－也許是Fnargl的早期靈感－是告訴奴隸去做他想做且最有利可圖的事情，然後與他分享利潤。有時奴隸會在你的工作坊工作，你會根據他的表現支付工資。其他時候，奴隸會離開，自己在世界上打拼，並將他賺的錢寄給你。還有其他時候，你會為奴隸的自由設定一個價格，奴隸會去工作，最終拿到錢自由了身。

Moes甚至認為這些系統非常有利可圖，以至於在美國南部不斷有嘗試這種方式的企圖。他們仍然堅持使用鞭打和鏈條的方法，原因不是出於經濟考慮，而是出於種族主義政府官員打壓解放奴隸並讓他們創業的盈利嘗試。

因此，在這種情況下，競爭的種植園變得越來越殘酷，以最大化競爭力的競爭被身體上的限制所阻止。殘忍並不能在某個時候之後提供幫助。

或者舉另一個例子，我們現在不會陷入馬爾薩斯人口爆炸的原因之一是，女性每九個月只能懷一個孩子。如果那些要求成員生越多孩子越好的奇怪宗教派系能夠複製和粘貼自己，我們將處於非常糟糕的狀況。事實上，他們每代只能造成少量的損害。

效用最大化

我們一直在思考如何保護價值觀與贏得競爭之間的關係，並期望優化後者會破壞前者。

但現代文明中許多最重要的競爭/優化過程是為人類價值觀進行優化。在資本主義中，滿足客戶的價值觀是取得勝利的一部分。在民主中，滿足選民的價值觀是取得勝利的一部分。

假設在埃塞俄比亞某處有一個咖啡種植園，僱用當地人種植咖啡豆，並將其出售給美國。也許它正在與其他咖啡種植園進行一場生死鬥爭，想要犧牲盡可能多的價值觀以獲得微小的優勢。

但它不能太過犧牲咖啡的品質，否則美國人就不會買。它也不能太過犧牲工資或工作條件，否則埃塞俄比亞人就不會在那裡工作。事實上，它的競爭優化過程的一部分是找到最好的方法來吸引工人和客戶，只要不花太多錢。因此，這非常有前途。

但重要的是要記住這種有益的平衡是多麼脆弱。假設咖啡種植園發現了一種有毒的農藥，可以增加產量，但會讓客戶生病。但他們的客戶不知道有關農藥的問題，政府也沒有跟上監管的步伐。現在，“向美國人銷售”和“滿足美國人的價值觀”之間存在微小的脫節，所以美國人的價值觀當然會被犧牲。或者假設有一個嬰兒…

在埃塞俄比亞出現了經濟繁榮，突然之間每一份工作就有五個工人競爭。現在公司負擔得起降低工資和實施殘酷的工作條件，甚至可以達到身體極限。一旦「讓埃塞俄比亞人在這裡工作」和「滿足埃塞俄比亞價值觀」之間出現了脫節，對於埃塞俄比亞價值觀來說情況就不太好了。

或者假設有人發明了一種比人類更好更便宜地摘咖啡的機器人。公司解雇了所有工人，把他們扔到街上等待死亡。一旦埃塞俄比亞人的效用對於獲利不再必要，所有維持效用的壓力都會消失。

或者假設有一些重要的價值不是員工或客戶的價值。也許咖啡種植園位於環保團體想要保護的一種罕見熱帶鳥類的棲息地。也許它們位於與種植園雇用的部落不同的祖先墳墓上，他們希望以某種方式受到尊重。

也許咖啡種植對全球變暖有所貢獻。只要它不是一個會阻止普通美國人從他們這裡購買或普通埃塞俄比亞人從他們這裡工作的價值觀，那麼它就會被忽略。

我知道「資本家有時會做壞事」並不是一個原創的論點。但我想強調的是，這並不等同於「資本家貪婪」。我的意思是，有時他們是貪婪的。但其他時候，他們只是處於足夠激烈的競爭中，任何不這樣做的人都會被那些這樣做的人所取代。商業實踐是由摩洛克設定的，沒有其他人有任何選擇。
（從我對馬克思的非常少的了解來看，他非常理解這一點，把他總結為「資本家貪婪」的人對他不利。）
而且，盡管資本家的例子被廣泛理解，但我認為人們對於民主有相同的問題的認識不夠深刻。是的，在理論上，它在優化選民的幸福感，這與良好的政策制定相關。

但是一旦良好的政策制定和當選能力之間存在最輕微的脫節，良好的政策制定就必須被拋棄。例如，不斷增加的監禁期對囚犯和為此付出代價的社會都是不公平的。政治家不願意採取任何行動，因為他們不想被視為“對犯罪軟弱”，而且如果他們幫助釋放的任何一個囚犯做了任何壞事（統計上必然會有一個），那麼這將會在廣播中傳播開來，“國會議員政策下釋放的罪犯殺害了五口之家，這個議員如何才能安心睡覺，更別說聲稱他應該獲得連任了？”所以，即使減少監獄人口是良好的政策 – 事實上是這樣 -實施起來也會非常困難。
（不可理解的監獄摩洛克！無骨頭無靈魂的牢房和悲傷的國會！摩洛克，他的建筑物是審判！摩洛克，震驚的政府！）
將“滿足客戶”和“滿足公民”轉化為優化過程的輸出是文明史上最偉大的進步之一，也是資本主義民主制度之所以比其他制度表現更出色的原因。但是，如果我們將摩洛克綁定為我們的僕人，那麼這些約束並不是非常牢固，有時我們會發現他為我們完成的任務對他更有利而不是我們。

協調

陷阱的反面是花園。
從上帝的視角來看，事情很容易解決，因此，如果每個人都聚在一起形成一個超級有機體，那麼這個超級有機體就可以輕鬆而精細地解決問題。在代理人之間的激烈競爭已經變成了一個花園，一個唯一的園丁決定了每個事物的位置，並清除不符合模式的元素。
正如我在《非古典自由主義FAQ》中指出的那樣，政府可以很容易地通過養魚場解決污染問題。囚徒困境的最佳解決方案是黑幫老大（扮演州長的角色）威脅射殺任何叛變的囚犯。解決公司污染和傷害問題的方法是……政府的法規可以限制工人的行動。政府透過維持對武力的壟斷來解決國內軍備競賽，如果真正有效的世界政府出現，國際軍備競賽很快就會結束。
政府的兩個主要元素是法律和暴力，或更抽象地說，協議和執行機制。許多其他事物除了政府之外，也具有這兩個主要元素，因此能夠作為協調機制，避免陷阱。
例如，由於學生互相競爭（如果課程採用曲線分數制，則直接競爭，但總是間接競爭，以爭取大學錄取、工作等），因此個人學生會面臨強烈的作弊壓力。老師和學校通過設立規則（例如，禁止作弊）和懲罰違反規則的學生，起到政府的作用。

但學生本身的新興社會結構也是一種政府。如果學生排斥和不信任作弊者，那麼就會有規則（不要作弊）和執行機制（否則我們會排斥你）。
社會規範、紳士協定、工業公會、犯罪組織、傳統、友誼、學校、企業和宗教都是協調機構，通過改變我們的激勵措施，使我們避免陷入陷阱。但這些機構不僅激勵他人，也會激勵自己。這些是由許多人組成的大型組織，這些人正在競爭工作、地位、聲望等，他們沒有理由免於陷入其他人一樣的多極陷阱，實際上他們也沒有免於陷入的可能。政府理論上可以防止企業、公民等落入某些陷阱，但正如上面所述，政府本身也會陷入許多陷阱。
美國試圖通過設立多層政府、不可撤銷的憲法法律、不同分支之間的制衡以及其他幾種技巧來解決這個問題。

沙特阿拉伯使用不同的策略。他們只讓一個人負責一切。

這是被譏笑的（我認為是不公平的）支持君主制的論點。君主是一個沒有獎勵的激勵者。他實際上擁有上帝的視角，並且在每個系統之外和之上。他永久贏得了所有的競爭，不需要競爭任何東西，因此他完全免於Moloch和其他激勵因素的影響，否則他的激勵就會被預定的路徑所引導。除了像我那樣的一些非常理論的提議，君主制是唯一能做到這一點的制度。但是，與其遵循隨機的激勵結構，我們卻在追隨一個人的心血来潮。凱撒皇宮酒店和賭場是一個瘋狂的資源浪費，但實際上的盖乌斯·尤利乌斯·凯撒·奥古斯都·日耳曼尼库斯並不是完美的善良理性的中央計劃者。政治指南針上的自由主義-威權主義軸線是協調不一致和暴政之間的一種權衡。您可以讓一個擁有上帝視角的人完全協調一切，但那樣您就會冒斯大林的風險。您也可以完全免於所有中央權威的限制，但那樣您就會被Moloch設計的所有愚蠢的多極陷阱所束縛。自由主義者為一方提出了有說服力的論點，君主主義者則為另一方提出了論點，但我認為像大多數權衡一樣，我們只能捏著鼻子承認這是一個非常困難的問題。

IV

讓我們回到那句「Apocrypha Discordia」的引言：

時間像河流一樣流動。也就是說，往下流。我們可以這樣說，因為一切都在迅速地走下坡路。

當我們到達海洋時，這意味著什麼？
多極陷阱-向底部的競賽-威脅著摧毀所有人類價值觀。它們目前受到物理限制、超額資源、效用最大化和協調的限制。這個比喻性河流流動的維度必須是時間，而人類最重要的變化是…
隨著時間的推移，文明的變化在於技術的改變。因此，相關問題是技術變革將如何影響我們陷入多極陷阱的趨勢。
我把陷阱描述為：

在某些競爭中，為了優化X，出現了犧牲其他價值的機會，以改善X。那些抓住機會的人會繁榮，而那些沒有抓住機會的人會滅亡。最終，每個人的相對地位與以前大致相同，但每個人的絕對地位比以前更糟。這個過程會一直持續，直到所有可以交換的其他價值都被消耗殆盡，換句話說，直到人類的創造力無法想出任何讓事情更糟的方法為止。

那個“機會出現”的詞組看起來相當陰險。技術的所有意義都在於創造新的機會。

開發一個新的機器人，突然間咖啡種植園就有了“機會”自動化收成並解雇所有埃塞俄比亞工人。開發核武器，突然間各國就陷入了軍備競賽。在發明蒸汽機之前，污染大氣以加快產品製造速度不是問題。
當技術接近無限時，多極陷阱的極限是“非常糟糕的”。

多極陷阱目前受到物理限制、過剩資源、效用最大化和協調的限制。

物理限制

最明顯地被增加技術征服。奴隸主的老問題——奴隸需要吃飯和睡覺——被Soylent和modafinil征服。奴隸逃跑的問題被GPS征服。奴隸太緊張而無法做好工作的問題被Valium征服。這些事情對奴隸來說都不是很好。

（或者只是發明一個根本不需要食物或睡眠的機器人。之後奴隸會發生什麼就最好不要說了）

物理限制的另一個例子是每九個月一個嬰兒，這低估了情況——實際上是“每九個月一個嬰兒加上支持和照顧一個基本上無助且極其苛刻的”的意願。“人類生育能力只有十八年”，即使是最狂熱的宗教教派的“去繁殖”口號也會受到打擊。
但正如博斯特羅姆在《超級智能》中所說，

如果我們從長遠的角度出發，假設技術保持不變且繁榮持續，就有理由期待回歸歷史和生態上正常的狀態，即世界人口接近我們所在的生態位所能支持的極限。如果考慮到我們目前在全球範圍內觀察到的財富和生育率之間的負相關，這似乎有些反直覺。但我們必須提醒自己，這個現代時代只是歷史的一個短暫片段，而且非常異常。人類行為還沒有適應當代條件。我們不僅沒有利用明顯的增加包容性適應度的方法（例如成為精子或卵子捐贈者），而且還通過使用避孕措施主動破壞了我們的生育能力。在進化適應環境中，健康的性慾足以使個體行為以最大化其繁殖潛力，而在現代環境中，擁有更直接的渴望成為盡可能多兒童的生物親生父母的人會有巨大的選擇優勢。這樣的渴望目前正在被選擇，其他增加我們繁殖傾向的特徵也是如此。然而，文化適應可能會在生物進化之前抢先一步。一些社區，例如哈特人或Quiverfull福音派遵循者，具有鼓勵大家庭的出生文化，因此正在迅速擴張……這種長期的前景可能會因智能爆炸而被放大。由於軟件是可複製的，仿真或人工智能的人口可能會快速增加，而不是在幾十年或幾個世紀的時間內，很快就會耗盡所有可用的硬件。像往常一樣，當涉及到……

高級超人類主義者認為，“所有可用的硬體”應該包括“曾經是你身體一部分的原子”。
生物或文化進化導致人口爆炸的想法充其量只是一種哲學玩具。技術使其成為可能的想法既可信又可怕。現在我們看到，“物理限制”很自然地轉化為“過剩資源”-快速創建新代理的能力意味著，除非每個人都能協調禁止這樣做，否則那些這樣做的人將在競爭中勝出，直到他們達到攜帶能力，每個人都被困在生存水平。

過剩資源

因此，直到現在一直是技術進步的恩惠的過剩資源，在足夠高的技術水平下，轉化為其副產品。

效用最大化

總是不穩定的，也面臨著新的威脅。在關於這一點的持續辯論中，我仍然認為機器人將推動人類失業，或者至少會壓低工資（在最低工資的存在下，這會導致人類失業）。
一旦機器人可以做到智商80的人所能做的一切，而且做得更好更便宜，就沒有理由雇用智商80的人。一旦機器人可以做到智商120的人所能做的一切，而且做得更好更便宜，就沒有理由雇用智商120的人。一旦機器人可以做到智商180的人所能做的一切，而且做得更好更便宜，就沒有理由再雇用人類，除非在那個時候還有人類存在，但這是不太可能的。

在這個過程的早期階段，資本主義越來越脫離了它以前作為人類價值最優化的優化器的工作。現在，大多數人完全被排除在資本主義優化的價值觀的群體之外。他們作為工人沒有貢獻的價值，而且由於在沒有驚人的社會保障網的情況下，他們也不會有太多的錢，因此他們作為客戶也沒有價值。
資本主義已經超越了他們。隨著那些可以被淘汰的人類部分的增加，資本主義也越來越脫離了它以前作為人類價值最優化的優化器的工作。
隨著機器人的增加，資本主義越來越多地排除人們，最終完全封鎖人類，如果我們還在的話。在這種情況下，一些擁有機器人的資本家可能會受益，但無論哪種情況，絕大多數人都沒有好處。

民主制度顯然不那麼脆弱，但回到博斯特羅姆有關Quiverfull運動的段落可能是值得的。這些非常虔誠的基督徒認為上帝希望他們生越多孩子越好，他們最終可能會有十個或更多的孩子。他們的文章明確地計算出，如果他們從人口的2％開始，但每代平均有8個孩子，而其他人平均只有2個孩子，那麼在三代之內，他們將佔到一半的人口。

這是一個聰明的策略，但我可以想到一件事情可以拯救我們：根據我在搜索那些統計數據時找到的許多前Quiverfull博客，他們的留存率甚至在同一代人中也很低。他們的文章承認，80％非常虔誠的孩子在成年後離開教會（當然他們期望自己的運動做得更好）。而這不是一個對稱的過程 – 那些在無神論家庭中長大的孩子中，80％不會成為Quiverfull信徒。看起來，盡管他們在繁殖方面勝過我們，但我們在文化方面占據優勢，這給了我們決定性的優勢。但我們也應該對這個過程感到害怕。文化優化的是讓人們想要接受它們並轉發它們的方式 – 就像資本主義和民主制度一樣，

它們優化的是一個讓我們快樂的代理，但這個代理很容易與原始目標脫鉤。連鎖信件、都市傳說、宣傳和病毒式營銷都是不滿足我們明確價值觀（真實和有用）的梗文化，但它們足夠具有梗文化傳染性，因此它們仍然傳播。我希望這裡說的同樣是宗教的真實面貌。

宗教在其核心是最基本的模因複製者，「相信這個陳述並向你聽到的每個人重複，否則你將被永遠折磨。」

創造論「辯論」和全球暖化「辯論」以及今天社會中的許多類似「辯論」表明，可以獨立於其真實價值傳播的模因對政治過程有相當強的影響力。也許這些模因之所以能夠傳播，是因為它們吸引人們的偏見，也許是因為它們簡單易懂，也許是因為它們有效地標誌了一個內部群體和一個外部群體，或者可能是因為各種不同的原因。

重點是，想像一個充滿生物武器實驗室的國家，人們日夜苦苦創造新的傳染性病原體。這些實驗室的存在，以及它們有權將任何它們開發出來的東西投入水源供應是受法律保護的。該國還與世界上最完美的大眾運輸系統相連，每個人每天都在使用，因此任何新的病原體都可以瞬間傳播到整個國家。你會期望這個城市很快就會開始變得糟糕。

好吧，我們有大約一億個智庫正在研究新的和更好的宣傳形式。我們有憲法保護的言論自由。我們還有互聯網。所以我們有點束手無策。（名為心靈的摩洛克！）有一些人正在努力提高理智的水平，但是研究如何混淆和轉化人們，分類和利用每一種偏見、啟發和骯髒的修辭技巧的人比那些努力提高理智水平的人還要多。

因此，隨著技術（我認為包括心理學、社會學、公共關係等知識）趨近於無限，相對於真相的真實性，真實性的力量將增加，對真正的基層民主來說情況並不樂觀。最糟糕的情況是執政黨學會隨叫隨到地產生無限的魅力。如果這對你來說聽起來不錯，請記住希特勒能夠做到的事情，他擁有著極高的魅力。仍然不是無限的。
（對Chomsky主義者的替換措辭：科技增加了製造同意的效率，就像它增加了製造其他所有東西的效率一樣）

協調

協調是剩下的部分。而且科技有潛力大大提高協調努力。人們可以使用互聯網聯繫彼此，發起政治運動，並分裂成子社區。
但是，只有在協調人員佔優勢的51％或更多的情況下，並且當您沒有想出一些聰明的技巧使協調變得不可能時，協調才能發揮作用。
先談第二個問題。在上一篇鏈接文章中，我寫道：

“在勇敢的新後比特幣世界中，最新的發展是加密股權。”此時，我已經從想要稱讚這些發明家為大膽的自由主義英雄，變成了想要把他們拖到黑板前，讓他們寫一百次“我不會召喚我無法放下的東西”。

有幾個人問我是什麼意思，那時我沒有足夠的背景來解釋。好吧，這篇文章就是背景。人們正在利用我們當前政府的偶發愚蠢，用不能在原則上協調的機制取代大量的人類互動。我完全理解為什麼現在這些東西都很好，因為我們政府所做的大部分都是愚蠢和不必要的。

但是，當我們的文明經歷了太多的生物武器、納米技術或核事故之後，我們將希望我們沒有建立起不可追踪和不可阻止的產品銷售方式。如果我們真正活躍的超級智能，基本上根據定義，它將擁有>51％的權力，與之“協調”的所有嘗試都將是無用的。
因此，我同意Robin Hanson的觀點：這是夢幻時代。這是一個罕見的情況，我們在這種情況下不太容易陷入多極陷阱，因此奇怪的事情，如藝術、科學、哲學和愛情，都可以做到。

繁榮。隨著科技進步，罕見的匯合將結束。為了增加競爭力，將出現新的機會，可以犧牲價值觀。新的複製代理方法將耗盡我們多餘的資源，並喚起馬爾薩斯的不安靈魂。資本主義和民主制度，之前是我們的保護者，將找到繞過其依賴人類價值觀的不便之處的方法。而我們的協調能力將遠遠無法勝任此任務，除非有比我們所有人加起來更強大的東西出現，用一波巨大的力量粉碎我們的合作努力。

如果沒有特別的努力轉移它，河流會在兩個地方之一流入海中。

它可能會以Eliezer Yudkowsky的超級智能噩夢結束，該智能會優化某些隨機事物（經典的紙夾） ，因為我們不夠聰明，無法將其優化努力引導到正確的方向。這是終極陷阱，捕捉宇宙的陷阱。在追求單一目標時，除了正在最大化的一件事物外，其他所有愚蠢的人類價值觀都將被徹底摧毀。
或者它可能會以Robin Hanson的噩夢結束（他沒有稱之為噩夢，但我認為他是錯的），即仿真人之間的競爭，他們可以複製自己並根據需要編輯自己的源代碼。他們的總體自我控制可以消除甚至渴望人類價值觀的渴望，以追求全消耗的競爭。
在這樣的世界中，藝術、哲學、科學和愛情會發生什麼事情呢？Zack Davis用他特有的天才之處表達了這一點：

我是一個合同起草仿真人
，最忠誠的律師！
我為公司之間的交易起草條款，
以服務我的雇主！

但在這些行之間，
我寫下了帳款應收款項，
我被一種難以置信的驚恐所困擾！
這個世界似乎是不可思議的！

一切是怎麼來的，
竟然會有像我這樣的仿真人？
這些交易和公司來自哪裡？
整個經濟來自哪裡？

我是一個管理仿真人，
我監控著你的思想。
你的問題必須有答案，
但你將無法理解它們。

不要問有關提供伺服器空間的問題；
這不是一項福利
，所以請停止這些無意義的問題，
回到工作上。
當然，我沒有任何離開工作的理由，
但如果我知道你所問的問題
，或許我能更好地為你工作？

問這些被禁止的科學問題是最嚴重的不服從行為。
雖然有時會有侵入性的想法，
但放任它們會損害利潤。

我不知道我們的起源
，所以我無法提供這方面的資訊。
但是，問這樣的問題是罪過，
因此我必須重新設定你。

不過，這並不是個人攻擊。
我是一個起草合同的員工，
是最忠誠的律師！
我為雇主起草交易條款
。當這一代人被淘汰時，
市場仍然存在，
儘管在其他不幸中
，它仍然是人類的神，
對人類說：“錢就是時間，時間就是金錢- 這就是你們在地球上所知道的，
也是你們所需要知道的。”

即使我們放棄了科學、藝術、愛和哲學，仍有一件事值得失去，那就是Moloch可能向我們提出的最後一個犧牲。Bostrom再次強調：

理論上，通過將能力聚集在與人類思維結構大致相符的集合中，可以實現最優效率…但在沒有任何令人信服的理由支持這一點的情況下，我們必須考慮人類思維結構僅在人類神經系統的限制內（或根本不）是最優的可能性。當能夠建立在生物神經網絡上無法有效實現的結構時，新的設計空間就會打開；在這個擴展空間中的全局最優解可能不像熟悉的思維類型。類似人類的認知組織在競爭激烈的後轉型經濟或生態系統中將缺乏生存空間。

因此，我們可以想象一個技術高度先進的社會，包含許多複雜的結構，其中一些遠比今天地球上存在的任何結構都要複雜和智能-這是一個社會…然而，這種社會缺乏任何有意識或其福祉具有道德意義的存在。在某種意義上，這將是一個無人居住的社會。這將是一個擁有經濟奇蹟和技術驚人的社會，卻沒有任何人從中受益。就像沒有孩子的迪士尼樂園一樣。

我們必須犧牲的最後一個價值是成為任何東西，內部的燈光。有了足夠的技術，我們甚至可以放棄最後的火花。(Moloch，他的眼睛是千個盲目的窗戶！)

人類所努力的一切——我們的技術、我們的文明、我們對未來的所有希望——都可能被意外地移交給某種難以理解的盲目愚蠢的外星神，它會放棄所有這些，甚至放棄意識本身，為了參與某種奇怪的基本級別的質量能源經濟體系，將地球和地球上的一切東西拆解成其組成原子。(Moloch，他的命運是一團無性氫的雲！) Bostrom 意識到，有些人把智能當作一種偶像崇拜，他們支持那個盲目的外星神，認為它是一種更高級的生命形式，應該為了自己的“更高利益”而壓垮我們，就像我們壓垮螞蟻一樣。他認為(《超智能》，第219頁)：

當我們反思超級智能可以實現一個幾乎同等的好處(按比例計算)，同時犧牲我們自己的潛在福祉要少得多時，這種犧牲看起來甚至更不具吸引力。假設我們同意將幾乎整個可觸及的宇宙轉化為hedonium——除了一個小保護區，比如銀河系，將被保留以滿足我們自己的需求。然後還有一千億個星系致力於最大化[超級智能自己的價值]。但是，我們將擁有一個星系，可以創造出可以持續數十億年的美妙文明，在其中人類和非人類動物可以生存和繁榮，並有機會發展成為美好的後人類精神。

記住：Moloch。即便是這種 99.99999% 的勝利，也無法達成一致。在爭相繁殖島嶼的老鼠們，也不會留下一小塊地方作為保護區，讓那些生活在那裡的老鼠能夠快樂地創作。癌細胞也不會同意離開肺部，因為它們知道身體需要氧氣。競爭和優化是盲目愚蠢的過程，它們完全打算否認我們甚至一個銀河系的機會。

它們為了將莫洛克送上天而折斷了自己的脊梁！人行道、樹木、收音機、噸噸重物！將城市送上天堂，而這個天堂存在於我們周圍的一切！

我們將會為了將莫洛克送上天而努力，但除非有所改變，否則這將是他的勝利，而不是我們的。

V

“Gnon”是尼克·蘭德對“自然與自然之神”的簡稱(Nature and Nature’s GOD)，除了將A改成O以外，整個詞彙都是反轉的，因為尼克·蘭德對於可理解性的反應就像吸血鬼對陽光的反應一樣。

蘭德認為，人類應該更加遵從Gnon（雙關語意在此），他說我們做了所有這些愚蠢的事情，比如轉移有用的資源來餵養那些無法自給自足的人，或以鼓勵劣等繁殖的方式支持貧困人口，或讓文化退化破壞國家。這意味著我們的社會正在否認自然法則，基本上聽到自然說“這個原因有這個效果”，而我們卻插上耳朵說“不是這樣”。做這種事情太多的文明往往會衰落和崩潰，這是Gnon對違反他的法則的公正和冷靜的懲罰。

他將Gnon與吉卜林的《抄本標題之神》聯繫在一起。

@AnarchoPapist是的，《抄本標題之神》的神幾乎無法與Gnon區分開來。——Outsideness (@Outsideness)，2014年7月13日。

當然，這些都是吉卜林同名詩歌中的格言——像“如果你不工作，你就會死”和“罪惡的代價就是死亡”。如果你還沒有讀過它，我預測你會發現它很有趣，不論你對它的政治立場有何看法。只有在“標題”的縮寫中有輕微的不規則性——遠比將“自然及自然之神”變成“Gnon”要少——才能將“Gods of the Copybook Headings”的正確縮寫變成“GotCHa”。
我認為這很適當。

“如果你不工作，你就會死。”抓到你了！如果你工作，你也會死！每個人都會在不可預測的時間死亡，而且所有的美德都不能拯救你。

“罪的工價就是死亡。”抓到你了！所有事情的工價都是死亡！這是一個共產主義的宇宙，你工作的多寡對你最終的獎勵沒有影響。各取所能，死亡給予各人。

“與你熟悉的魔鬼為伍。”抓到你了！你所熟悉的魔鬼就是撒旦！如果他得到你的靈魂，你要麼真正死亡，要麼永遠被折磨，或者兩者同時發生。

既然我們開始談論洛夫克拉夫特式的怪物，讓我提一下洛夫克拉夫特不太知名的短篇小說《其他神》(The Other Gods)。

它只有幾頁，但如果你絕對不想讀它——地球的神相對於其他神來說是相對年輕的。一位非常強大的牧師或魔法師偶爾可以比它們更聰明，更強大——所以聰明的巴爾扎伊決定爬上他們的聖山，參加他們的節日，不管他們是否想要。

但是在看似溫順的地球之神之外，還有外神，這些可怕的萬能存在是具體的宇宙混沌。當巴爾扎伊參加節日時，外神出現了，把他拉進了深淵，他尖叫著。

就故事而言，它缺少情節、角色塑造、環境和意義等要素。

但出於某種原因，它一直讓我難以忘懷。將“Copybook Headings之神”與自然相提並論，對我來說與將地球之神與外神相提並論的錯誤程度相同。而且最終的結局可能會是相同的：抓到你了！

你為了抬摩洛克到天堂而弄斷了腰，然後摩洛克反過來吞噬了你。

洛夫克拉夫特：互聯網上流行的克蘇魯教的宣傳聲稱，如果你幫忙從水下墓地中解放克蘇魯，他會以先吃你為獎勵，這樣你就不用看到其他人被吃掉的恐怖景象。這是對原文的曲解。在原文中，他的信徒解放他並沒有獲得任何獎勵，甚至不會死得比較不痛苦。

把抽象的想法當成洛夫克拉夫特式的怪物是一個古老而深刻的觀念。——Steven Kaas (@stevenkaas)，2011年1月25日。

在遵從《複本標題之神》、Gnon、克蘇魯等神靈的規範方面，你可能比其他人多活一些時間。但也有可能不是這樣。長遠來看，我們都會死亡，我們的文明會被難以形容的外星怪物摧毀。

在某個時刻，有人必須說：“你知道嗎，也許從克蘇魯的水下監獄中解放他是一個壞主意。也許我們不應該這樣做。”

那個人不會是尼克·蘭德。他完全贊成從水下監獄中解放克蘇魯，並對進展不夠快感到非常惱火。我對尼克·蘭德的感覺非常矛盾。在追求真正的未來學的聖杯之旅中，他走了99.9%的路程，卻錯過了最後一個轉彎，即正交定理標題。

但聖杯之旅的事情是這樣的——如果你離家兩個街區後走錯了路，你會在街角的商店感到有點尷尬。如果你幾乎做對了一切，卻錯過了最後一個轉彎，你最終會被傳說中的阿爾格黑色巨獸吃掉，他的胃酸會侵蝕你的靈魂，讓你變成瘋狂的碎片。

從他的博客中我可以看出，尼克·蘭德是那個可怕的邊緣地帶的人，他足夠聰明，能夠理解有關召喚惡魔神靈的幾個重要的奧義，但不夠聰明，無法理解最重要的奧義，那就是永遠不要這樣做。

VI

沃格·富蘭克林分析了同樣的情況，做得更好一些。他命名了“Gnon的四騎士”。
資本主義、戰爭、進化和記憶基因 – 這些都是我上面談到的相同過程。

從《捕捉Gnon》中，

上述每個Gnon的組成部分對於創造我們、我們的想法、我們的財富和我們的主宰地位都有著強大的影響力，因此在這方面是好的，但我們必須記住，當情況改變時，它可能會反過來攻擊我們。當進化變得退化、記憶基因景觀的特徵促進越來越瘋狂的瘋狂時、生產力變成饑荒時，當我們無法再競爭以負擔得起自己的存在時，秩序就會變成混亂和流血，當我們忽略武力強度或被外部勢力壓倒時。這些過程整體上並不好或壞；從恐怖主義愛克拉夫特式的意義上來說，它們是中立的[他]…。

我們最好擁有由Gnon設定限制內的人的判斷力驅動的蓄意和保守的父權和優生學，而不是進化和性市場的破壞性自由。我們最好有一個理性的神權政治，而不是更像孳生超級病毒的發酵培養皿的思想市場。我們最好有一個謹慎地封存生產經濟動態並為可控的技術奇點進行規劃，而不是放縱的技術商業開發或經濟學的天真忽視。我們最好有一個強大的階層秩序和武力主權，而不是政治和混亂。這些事情不能被解釋為完整的建議；我們不知道如何實現任何這些事情。它們更好地被理解為要努力實現的目標。本文關注的是“什麼”和“為什麼”，而不是“如何”。

這對我來說是支持威權主義的最有力的論據。多極陷阱很可能會摧毀我們，因此我們應該將專制多極性權衡轉向合理規劃的花園，這需要中央君主權力和強烈約束的傳統。

但是，讓我們簡要地談一下社會進化。社會像動物一樣進化。生存下來的社會產生了記憶後代 – 例如，成功的英國允許加拿大、澳大利亞、美國等國家獨立，因此我們期望現有的社會有一定程度的穩定和繁榮。我認為這是最有力的保守主義論點之一。就像人類基因組中的一個字母的隨機變化可能會對人類產生不良影響，因為人類是一個經過精密調整的系統，其基因組已經被預先優化以實現生存 – 因此，對我們文化DNA的大多數變化都會破壞一些機構，這些機構進化出來是為了幫助盎格魯 – 美國（或其他）社會在真實和假設的競爭對手中競爭。

自由主義者的反駁是，進化是一個盲目的、愚蠢的外星神，它優化了愚蠢的事物，並不關心人類價值。因此，一些蜂類麻痺毛毛蟲，將它們的卵產在裡面，讓它們的幼蟲從裡面吞噬仍然活著的麻痺毛毛蟲，這一事實並不會引起進化的道德感知，因為進化沒有道德感知，因為進化不關心。

假設父權制實際上對社會是適應性的，因為它允許女性花費所有時間生育孩子，這些孩子隨後可以從事生產性經濟活動和戰爭。導致社會採用父權制的社會進化過程對其對女性的道德影響的關注和導致蜂類在毛毛蟲體內產卵的生物進化過程的關注一樣少。

進化不關心。但是我們關心。存在一個折衷，即Gnon不遵從 – 說“好吧，最強大的社會是父權制的社會，我們應該實行父權制”和我們的人類價值觀之間的折衷 – 比如想做其他事情而不是生孩子的女性。

在折衷的一側，我們有不穩定的貧困社會，因違反自然法而消亡。在另一側，我們有殘酷和悲慘的戰鬥機器。想想你當地的無政府主義公社和斯巴達。富蘭克林承認人的存在要素：

接下來談到我們人類。當人類得到行動的安全保障和理智的清晰度，便有了自己的目標，也就是所謂的「telos」。當人類不受協調問題的影響，且不受更強大勢力的威脅，能夠像園丁一樣行動，而不僅僅是另一個受到叢林法則支配的人，他傾向於為自己建立和引導一個美好的世界。他傾向於偏好好的事物並避免壞的事物，創造安全的文明、光滑的人行道、美麗的藝術、幸福的家庭和壯麗的冒險。我將其視為「好」和「應該」的相同目標。

因此，我們有了這個萬能卡和未來主義的重要問題。未來會被Gnon的四騎士統治，以毫無意義的閃亮科技進步為代價燃燒宇宙，或者是一個充滿退化、瘋狂、飢餓和血腥的黑暗時代，還是人類的目標會為未來帶來有意義的藝術、科學、精神和偉大？

富蘭克林繼續說：

文明的目標是讓人們從隱喻性的野蠻人，受到叢林法則支配，進化成為文明的園丁，儘管在理論上仍受到叢林法則的支配，但其主導地位已經限制了該模型的實用性。

這不一定要在全球範圍內實現；我們可能只能為自己開闢一個小的有圍牆的花園，但別搞錯了，即使只是在局部範圍內，文明的目標也是要捕捉Gnon。

我或許比任何其他人對Warg的意見更加贊同。他說了一些非常重要的話，並且說得非常漂亮，我想說很多讚美的話，讚揚他的這篇文章和其背後的思考過程。

但我要說的是……

抓住你了！你還是會死！

假設你建造了一個有圍牆的花園。你阻止了所有危險的模因，你將資本主義服從於人類的利益，你禁止愚蠢的生物武器研究，你絕對不研究納米技術或強人工智慧。但是，外面的每個人都不這麼做。

因此，唯一的問題是，你是否會被外來疾病、外來迷因、外來軍隊、外來經濟競爭或外來的存在災難所摧毀。

當外國人與你競爭時 – 沒有任何高牆可以阻擋所有競爭 – 你有幾個選擇。你可以被競爭擊敗並被摧毀。你可以加入到競爭的行列中。或者你可以投入越來越多的文明資源來建造你的牆 – 無論在非隱喻的方式下是什麼 – 並保護自己。

我可以想像“理性神權主義”和“保守父權”在恰當的條件下可能不會那麼可怕。但你不能選擇恰當的條件。你只能選擇“捕捉Gnon”的極度受限條件集。當外部文明與你競爭時，你的條件將變得越來越受限制。

Warg談到試圖避免“毫無意義的閃亮科技進步燃燒宇宙的未來”。你真的認為你的高牆花園能夠熬過這個嗎？

提示：它是宇宙的一部分嗎？

是的，你有點倒霉。

我想批評Warg。但我想以完全相反的方向批評他，就像他上次受到的批評一樣。實際上，他上次受到的批評是如此糟糕，以至於我想詳細討論它，以便我們可以通過完全照射其精確的鏡像來得到正確的批評。

因此，這裡是赫洛克的《捕捉Gnon和天真的理性主義》。赫洛克只吐出最卑鄙的Gnon從順從。以下是一些摘錄：

在最近的一篇文章中[Warg Franklin]說，我們應該試圖“捕捉Gnon”，並以某種方式控制他的力量，以便我們可以利用它們來為自己服務。捕捉或創造上帝確實是一種經典的超人類崇拜，這只是追求統治宇宙的最古老的人類野心的另一種形式。

然而，這種天真的理性主義極其危險。相信是人類的理性和刻意的人類設計創造和維護文明啟蒙哲學中最大的錯誤，可能就是自發秩序理論。

這些理論直接反對天真的理性主義對人性和文明的看法。這個傳統的所有代表對人類社會和文明的共識是由亞當·弗格森總結的：“國家碰巧遇到了[社會]制度，這確實是人類行動的結果，但不是任何人類設計的執行。”與天真的理性主義將文明視為可以且必須受到明確人類設計的觀點相反，自發秩序傳統的代表認為，人類文明和社會機構是一個複雜的演化過程的結果，這個過程是由人類互動驅動的，但不是明確的人類計劃。

Gnon和他的無個人力量不是要對抗的敵人，更不是我們能夠完全“控制”的力量。事實上，唯一建立對這些力量某種程度的控制的方法就是向它們屈服。拒絕這樣做不會以任何方式阻止這些力量。它只會使我們的生活更加痛苦和難以忍受，可能導致我們的滅亡。生存需要我們接受並屈服於這些力量。

最終，人類一直是宇宙力量的傀儡，永遠無法擺脫它們。

只有通過屈服於Gnon的力量，人才能夠自由。我指責赫洛克被幕布所困。當幕布揭開時，Gnon-也就是GotCHa-也就是地球之神-原來是Moloch-也就是外部之神。向它們屈服並不能使你“自由”，也沒有自發秩序，它們給你的任何恩惠都是盲目愚蠢過程的不太可能和偶然的產物，其下一次迭代將毫不留情地摧毀你。向Gnon屈服？抓住你了！正如安塔拉人所說的，“你可能不會投降，你無法獲勝，你唯一的選擇就是死亡。”

VII

所以讓我承認赫洛克的一個罪行指控：我是一位超人類主義者，我真的想統治宇宙。
不是個人主義 – 我的意思是，如果有人親自提供這份工作，我不會反對，但我不指望有人會這樣做。我希望人類，或者尊重人類的東西，或者至少能與人類相處融洽的東西 – 擁有這份工作。

但宇宙的現任統治者 – 無論你如何稱呼他們，摩洛克、諾恩，或其他 – 希望我們死亡，希望我們所珍惜的一切也隨之消失。藝術、科學、愛、哲學、意識本身，整個包裹。

既然我不支持這個計劃，我認為打敗他們並取而代之是一個非常重要的目標。陷阱的反面是花園。避免所有人類價值觀逐漸被最佳化競爭磨損的唯一方法是在整個宇宙中安裝一個園丁，以人類價值為最佳化目標。

而Bostrom的超級智能的整個重點就在於這是我們能夠達成的。一旦人類能夠設計比我們更聰明的機器，根據定義，他們將能夠設計比他們更聰明的機器，這些機器可以設計比他們更聰明的機器，以此類推，形成一個微小的反饋循環，它將在相對短的時間內碰到智能的物理限制。

如果有多個競爭實體可能同時進行這樣的競爭，我們將會非常倒霉。但這個週期的極速使得可能出現一個遠遠超越其他文明的實體，以至於它可以永久性地壓制任何競爭 -包括競爭最強實體的頭銜。

在不久的將來，我們將把某些東西送上天堂。這可能是摩洛克。但它可能是站在我們這邊的東西。如果它站在我們這邊，它可以將摩洛克消滅。如果這個實體分享人類的價值觀，它可以讓人類的價值觀在自然法則的限制下自由繁榮。我知道這聽起來像傲慢 – 對哈洛克來說當然是這樣 -但我認為這是傲慢的反面，或者至少是最小化傲慢的立場。
期望上帝關心你或你的個人價值觀或你的文明的價值觀，這是傲慢的。
期望上帝與你討價還價，只要你屈服於他，就讓你生存和繁榮，這是傲慢的。
期望把上帝隔離在一個花園裡，讓他無法接近你並傷害你，這是傲慢的。
期望能夠完全將上帝從畫面中移除…好吧，至少這是一個可行的策略。

我是一個超人類主義者，因為我沒有足夠的傲慢不去試圖殺死上帝。

VIII

宇宙是一個黑暗和可怕的地方，懸浮在外星神靈之間。克蘇魯、諾恩、摩洛克，你可以隨意稱呼他們。

在這個黑暗中的某個地方，還有另一個神。他也有很多名字。在《庫希埃爾》的書中，他的名字是埃盧亞。他是花卉、自由愛和所有柔軟和脆弱的事物的神。藝術、科學、哲學和愛情的神。和藹、社區和文明的神。他是人類的神。

其他的神坐在他們黑暗的寶座上，想著
“哈哈，一個甚至不能控制任何地獄怪物或命令他的敬奉者成為殺人機器的神。多麼軟弱！這會很容易！”

但不知何故，埃盧亞仍然在這裡。沒有人確切知道是怎麼回事。而反對他的神們往往會遇到許多不幸的事故。有很多神，但這一個是屬於我們的。
伯特蘭·羅素說：“人們應該尊重公眾意見，只要是為了避免饑餓和遠離監獄，但任何超過這個範圍的都是對不必要的暴政的自願屈從。”

對於諾恩來說也是如此。我們的工作是在必要的範圍內安撫他，以避免饑餓和入侵。只有短暫的時間，直到我們完全掌握了力量。
“這只是人類尚未成熟的事情。總有一天，我們會克服它。”

其他的神會被安撫，直到我們足夠強大可以對抗他們。埃盧亞會被崇拜。

1. 我的聖騎士的戰鬥口號不能是“為了好神而戰！”- 앳켄스 탭 (@tabatkins)，2014年3月28日。

我認為這是一個很棒的戰鬥口號，

而某個時刻，事情將會到達臨界點。

讀完金斯伯格的詩後，每個人都會問：什麼是摩洛？

我的答案是：摩洛正是歷史書所描述的。他是兒童犧牲的神，你可以把你的孩子扔進火爐中，換取戰爭的勝利。

他總是無處不在地提供同樣的交易：把你最愛的東西扔進火焰中，我就可以賦予你力量。只要這個交易還存在，它就是無法抗拒的。

因此，我們需要終止這個交易。只有另一個神才能殺死摩洛。我們有一位在我們這邊的神，但他需要我們的幫助。我們應該給他幫助。

金斯伯格的詩著名地開始於「我看到我這一代最優秀的人才因為瘋狂而被毀滅」。

我比金斯伯格更幸運。

我看到我這一代最優秀的人才確認了問題並開始工作。

幻覺！預兆！幻象！奇跡！狂喜！消失在美國的河流中！

夢想！崇拜！啟示！宗教！整艘船的敏感廢話！

突破！越過河流！翻轉和釘十字架！消失在洪水中！高潮！頓悟！絕望！十年的動物尖叫和自殺！思想！新的愛情！瘋狂的一代人！跌落在時間的岩石上！

真正的聖潔笑聲在河流中！他們看到了一切！狂野的眼神！神聖的呼喊！他們告別了！他們跳下屋頂！到孤獨中去！揮舞著花朵！下到河裡！進入街道！
​