充滿愛的優雅機器 – 析心事務所

Machines of Loving Grace

Dario Amodei 是美國人工智慧研究者和企業家，目前擔任 Anthropic 的共同創辦人兼 CEO，這家公司以開發 Claude 大型語言模型系列而聞名。他出生於 1983 年在舊金山。他的職業生涯從物理和生物相關研究起步，逐漸轉向 AI 領域，強調 AI 安全與倫理發展。這一篇Machines of Loving Grace是我透過機器翻譯(GPT-4.1-nano)，因為文章非常長，都又非常喜歡這篇，想要讓更多人可以看到。特別是生物學與健康，Amodei在大學畢業後，他的博士論文研究焦點在神經迴路的電生理學 (electrophysiology of neural circuits)，涉及測量和理解神經元如何集體運作。博士後研究是在開發高通量蛋白質分析的計算方法。他寫關於生物醫學的內容，和AI未來的發展十分可看。

人工智慧如何為世界帶來更美好的改變2024 年 10 月

我經常思考並談論強大人工智慧（AI）所帶來的風險。我所擔任執行長的公司 Anthropic，進行大量有關如何降低這些風險的研究。正因如此，有時人們會得出我是一個悲觀主義者或「末日論者」的結論，認為人工智慧大多數情況下會帶來負面或危險的影響。我完全不這麼認為。事實上，我專注於風險的主要原因之一，是因為它們是我們與我所認為的根本積極未來之間唯一的阻礙。我認為大多數人低估了人工智慧潛在的巨大正面影響，就像他們低估了風險可能帶來的嚴重性一樣。

在這篇文章中，我試圖勾勒出那種可能的美好前景——一個擁有強大人工智慧（AI）且一切順利的世界會是什麼樣子。當然，沒有人能以確定或精確的方式預知未來，且強大人工智慧的影響可能比過去的技術變革更難以預料，因此所有這些都不可避免地只是一些猜測。但我追求的，至少是有根有據且具有實用價值的猜測，這些猜測能捕捉到未來可能發生的情況的本質，即使大多數細節最終可能是錯誤的。我之所以加入許多細節，主要是因為我認為具體的願景比起高度模糊和抽象的描述，更能促進討論的進展。

然而，首先我想簡要說明為何我與 Anthropic（Anthropic）並沒有過多談論強大人工智慧的正面潛力，以及為何我們大概仍會持續大量討論風險。特別是，我做出這個選擇，是出於一個願望：

最大化槓桿。人工智慧（AI）技術的基本發展以及其許多（並非全部）利益似乎是不可避免的（除非風險阻礙一切），並且主要由強大的市場力量所驅動。另一方面，風險並非事先確定，我們的行動可以大幅改變其發生的可能性。
避免被視為宣傳。人工智慧公司談論所有令人驚嘆的 AI 益處，可能會讓人覺得像是在做宣傳，或彷彿在試圖轉移對負面影響的注意力。我也認為，從原則上來說，花太多時間“說自己的話”對你的心靈是不好的。
避免自大。我常常對許多 AI 風險公共人物（更不用說 AI 公司的領導者）談論後 AGI（Artificial General Intelligence，通用人工智慧）世界的方式感到反感，彷彿他們的使命是獨自一人實現這一切，就像先知帶領人民走向救贖一樣。我認為，將公司視為單方面塑造世界的力量，以及用本質上具有宗教色彩的語言來描述實用的技術目標，都是非常危險的。
避免攜帶「科幻」包袱。雖然我認為大多數人低估了強大人工智慧的潛力，但少數討論激進人工智慧未來的社群，往往以過於「科幻」的語調來表達（例如涉及上傳意識、太空探索或一般的賽博朋克氛圍）。我認為這會讓人們對這些主張不那麼認真，甚至產生一種不真實的感覺。澄清一下，問題並不在於所描述的技術是否可能或可行（主要文章已詳細討論此點），而在於這種「氛圍」在語義上暗示了許多文化包袱與未說出口的假設，例如對未來的期望、社會問題的發展等。結果常常讓人覺得像是為狹隘亞文化所打造的幻想，卻讓大多數人感到反感。

儘管上述所有擔憂，我仍然認為討論一個擁有強大人工智慧的美好世界應該是非常重要的，同時我們也要盡力避免前述的陷阱。事實上，我認為擁有一個真正令人振奮的未來願景是至關重要的，而不僅僅是應對危機的計畫。強大人工智慧的許多影響具有對抗性或危險性，但最終，我們必須有一些值得為之奮鬥的目標，一個正和的結果，讓每個人都能因此而受益，一個能激勵人們超越爭執、迎接未來挑戰的共同信念。恐懼是一種動力，但並不足夠：我們還需要希望。

強大人工智慧（AI）正面應用的範圍極為廣泛（包括機器人、製造業、能源等諸多領域），但我將聚焦於幾個在我看來最有可能直接提升人類生活品質的領域。以下是我最為期待的五個類別：

生物學與身體健康
神經科學與心理健康
經濟發展與貧困
和平與治理
工作與意義

我的預測將會非常激進，按照大多數標準來看（除了科幻「奇點」的願景 ² ），但我是真心誠意地這麼認為的。我所說的每一句話都可能非常容易出錯（重申我之前的觀點），但我至少試圖將我的觀點建立在對各個領域進展速度的半分析性評估之上，並思考這可能在實務上意味著什麼。我很幸運在生物學與神經科學領域擁有專業經驗，也是一位對經濟發展領域略知一二的業餘人士，但我確信我會犯許多錯誤。寫這篇文章讓我意識到，將一群專業領域的專家（包括生物學、經濟學、國際關係及其他領域）聚集起來，撰寫一個更好、更具資訊性的版本，將會非常有價值。或許可以將我在此的努力視為那個團隊的起點。

基本假設與框架

為了使整篇文章更為精確且具有根據，明確界定我們所指的強大人工智慧（即五到十年倒數計時開始的門檻）是十分有幫助的，同時也需要建立一個思考此類人工智慧一旦出現後其影響的框架。

具有強大能力的人工智慧（我不喜歡用「AGI」這個詞） ³ 的模樣，以及它何時（或是否）會出現，都是一個龐大的議題。這也是我曾公開討論過的話題，甚至可以寫一篇完全獨立的文章（我大概某個時候會這麼做）。顯然，許多人對於強大人工智慧能否在短期內被打造持懷疑態度，也有人認為它根本不可能被實現。我認為它可能在 2026 年左右出現，儘管也有可能需要更長的時間才能實現。但就本文而言，我想暫時擱置這些問題，假設它會在合理的時間內出現，並專注於之後的五到十年會發生什麼。我也想假設一個對這樣系統的定義，包括它的外觀、能力以及互動方式，儘管在這方面仍存在不同意見的空間。

我所指的強大人工智慧，是一種人工智慧模型——可能類似於當今的大型語言模型（LLM），但也可能基於不同的架構，可能由多個相互作用的模型組成，並可能採用不同的訓練方式——具有以下特徵：

就純粹的智慧而言（ ⁴ ），它在生物學、程式設計、數學、工程、寫作等大多相關領域，皆比諾貝爾獎得主更為聰明。這意味著它能證明尚未解決的數學定理，寫出極佳的小說，從零開始撰寫複雜的程式碼庫，等等。
除了僅僅是一個「你可以對話的智慧存在」之外，它還具備所有虛擬協作的人類所能使用的「介面」，包括文字、音訊、影片、滑鼠與鍵盤控制，以及網路存取。它能進行任何由此介面所啟用的行動、溝通或遠端操作，包括在網路上採取行動、接受或提供指示、訂購物資、指揮實驗、觀看影片、製作影片，等等。它完成所有這些任務的能力，再次超越了世界上最有能力的人類。
它不僅被動地回答問題；相反地，它可以被指派需要數小時、數天或數週完成的任務，然後自主地執行這些任務，就像一位聰明的員工一樣，必要時會詢問澄清問題。
它沒有實體（除了在電腦螢幕上運作），但可以透過電腦控制現有的實體工具、機器人或實驗室設備；理論上，它甚至可以設計機器人或設備供自己使用。
用來訓練該模型的資源可以被重新運用，以運行數百萬個該模型的實例（這與預計到 2027 年的集群規模相符），而該模型能以大約人類速度的 10 倍至 100 倍吸收資訊並產生行動 ⁵ 。然而，它可能受到物理世界或其互動軟體的反應時間限制。
這些數百萬個副本可以獨立執行不同的任務，或在必要時像人類一樣協作，或許還可以針對特定任務進行微調，讓某些子群體特別擅長。

我們可以將其概括為「資料中心中的天才國度」。

顯然，這樣的實體將能夠非常迅速地解決極為困難的問題，但要確定其速度有多快並非易事。兩種「極端」立場我都覺得是錯誤的。首先，你可能會認為，隨著超級智慧的自我建構與幾乎立即解決所有科學、工程及運營任務，世界將在秒數或幾天的尺度上瞬間轉變（即「奇點」）。但問題在於，現實中存在著物理與實務的限制，例如在建造硬體或進行生物實驗方面。即使是一個由天才組成的新國家，也會遇到這些限制。智慧或許非常強大，但它並非魔法仙塵。

第二，反之，你可能會認為科技進步已經飽和或受到現實世界數據或社會因素的限制，而超越人類的智慧將幾乎無法帶來任何改變 ⁶ 。我同樣覺得這種想法不太可信——我能想到數百個科學甚至社會層面的問題，在這些問題中，一群真正聰明的人若能大幅加快進展，尤其是他們不僅限於分析，還能在現實世界中促成事情的發生（我們假設的天才國度就能做到這一點，包括指揮或協助人類團隊）。

我認為真相很可能是這兩種極端圖像的雜亂混合，且在不同的任務與領域中，細節上具有非常微妙的差異。我相信我們需要新的框架，以更具建設性地思考這些細節。

經濟學家常談「生產要素」：例如勞動、土地與資本。短語「邊際產出」（marginal returns）用來捕捉這個概念，即在特定情境下，某一個要素可能是限制因素，也可能不是——例如，一支空軍需要飛機與飛行員，若已缺乏飛機，增加飛行員幫助不大。我相信，在人工智慧（AI）時代，我們應該談論的是「智慧的邊際產出」（marginal returns to intelligence），並試圖找出與智慧互補、在智慧高度發展時成為限制因素的其他要素。我們不習慣用這種方式思考——去問「變得更聰明在這個任務上有多大幫助，且需要多長時間？」——但這似乎是理解擁有強大人工智慧的世界的正確方式。

我對限制或補充智慧的因素清單的猜測包括：

外部世界的速度。智能代理需要在世界中進行互動，以完成任務並學習（ ⁸ ）。但世界的運行速度是有限的。細胞與動物以固定的速度運動，因此對它們的實驗需要一定的時間，而這個時間可能是不可縮減的。硬體、材料科學、涉及與人溝通的任何領域，甚至我們現有的軟體基礎設施，也都面臨同樣的限制。此外，在科學研究中，許多實驗通常需要依序進行，每個實驗都從前一個實驗中學習或建立在其基礎上。所有這些因素都意味著，一個重大專案——例如研發癌症治療方法——的完成速度，可能具有一個不可再降低的最低限度，即使智慧不斷提升，也無法突破這個界限。
對數據的需求。有時候，原始數據不足，缺乏數據反而無法提供更多的情報。如今的粒子物理學家非常聰明，已經提出了各種理論，但由於粒子加速器數據非常有限，他們難以在理論之間做出選擇。尚不清楚，如果他們是超級智慧，是否能有大幅度的改善——或許只是加快建造更大型加速器的速度。
內在的複雜性。有些事物本質上是不可預測或混沌的，即使是最強大的人工智慧，也無法比人類或當前的電腦更有效地預測或解開它們的本質。例如，即使是極為強大的人工智慧，在混沌系統（如三體問題）中，也只能在一般情況下略微提前預測未來，與今日的人類和電腦相比，差距並不大。
來自人類的限制。許多事情若不違法、傷害人類或擾亂社會，幾乎無法實現。若是對齊的人工智慧（AI），它不會想做這些事情（若我們擁有的是未對齊的 AI，則又回到風險的討論）。許多人的社會結構效率低下，甚至具有積極危害性，但在尊重法律規範、民眾改變習慣的意願或政府行為等限制下，卻難以改變。在技術層面上進展良好的例子，包括核能、超音速飛行，甚至電梯，但由於規範或錯誤的恐懼，這些進步的影響卻大打折扣。
物理定律。這是第一點的更嚴峻版本。有些物理定律似乎是不可破壞的。超光速旅行是不可能的。布丁不會自行解散。晶片每平方公分的晶體管數量有限，超過後就會變得不可靠。計算需要每比特擦除一定的最低能量，這限制了世界上的計算密度。

根據時間尺度，還存在一個進一步的區分。在短期內難以改變的限制，可能在長期內變得更具彈性，便於情報的運用。例如，情報可能被用來開發一種新的實驗範式，使我們能在體外學習過去需要活體動物實驗才能獲得的結果，或用來建造收集新數據所需的工具（例如，更大型的粒子加速器），又或在倫理範圍內找到繞過人類限制的方法（例如，協助改善臨床試驗系統、協助建立臨床試驗較少官僚作風的新司法管轄區，或提升科學本身，使人類臨床試驗變得較不必要或成本較低）。

因此，我們應該想像一幅畫面：一開始，智慧受到其他生產要素的嚴重瓶頸限制，但隨著時間推移，智慧本身逐漸繞過其他要素，即使它們從未完全消失（例如物理定律是絕對的） ¹⁰ 。關鍵問題在於這一切發生的速度有多快，以及其發生的順序為何。

在上述框架的指引下，我將嘗試回答引言中提到的五個領域的相關問題。

1. 生物學與健康

生物學可能是科學進步最有潛力直接且明確改善人類生活品質的領域。在過去一個世紀中，一些最古老的人類疾病（如天花）終於被徹底根除，但仍有許多疾病未被克服，戰勝它們將是一項巨大的人道主義成就。除了治療疾病之外，生物科學原則上還能提升人類的基線健康水準，例如延長健康人類的壽命、增加對自身生物過程的控制與自由，以及解決我們目前認為不可改變的人類狀況中的日常問題。

在前一節的「限制因素」語言中，直接將智慧應用於生物學的主要挑戰是資料、物理世界的速度以及內在的複雜性（事實上，這三者彼此相關）。在人類的限制也在後期，當涉及臨床試驗時，扮演著一定的角色。讓我們逐一來看。

對細胞、動物甚至化學反應的實驗，皆受到物理世界速度的限制：許多生物學的實驗流程涉及培養細菌或其他細胞，或僅僅等待化學反應的發生，而這些過程有時可能需要數天甚至數週，卻沒有明顯的方法可以加快速度。動物實驗可能需要數月（甚至更長），而人類實驗則常常耗時數年（甚至數十年，用於長期結果的研究）。與此略相關的是，數據常常缺乏——不在於數量，而在於質量：總是缺乏清晰、明確的數據，能將某一生物效應與其他一萬個干擾因素區分開來，或在特定過程中具有因果干預作用，或能直接測量某些效果（而非以間接或噪聲較多的方式推測其後果）。即使是大量的定量分子數據，例如我在研究質譜技術時所收集的蛋白質組數據，也充滿噪聲，且遺漏許多資訊（這些蛋白質存在於哪些細胞？細胞的哪個部分？在細胞週期的哪個階段？）。

造成這些數據問題的部分原因在於其內在的複雜性：如果你曾經見過一張展示人體新陳代謝生物化學的圖表，你就會知道，要孤立出這個複雜系統中任何一部分的影響是非常困難的，甚至更難在精確或可預測的方式下進行干預。最後，除了進行人體實驗所需的固有時間之外，實際的臨床試驗還涉及大量的官僚程序和監管要求（在許多人，包括我在內的觀點中），這些都會額外增加不必要的時間，延緩進展。

鑑於此，許多生物學家長期以來一直對人工智慧（AI）以及更廣義的「大數據」在生物學中的價值持懷疑態度。歷史上，過去三十年來，將數學、計算機科學與物理學應用於生物學的專家取得了相當的成功，但尚未達到最初所期望的那種徹底轉型的影響。一些懷疑態度因為像 AlphaFold（剛剛榮獲諾貝爾化學獎，實至名歸）和 AlphaProteo 等重大且具有革命性的突破而有所緩解，但仍有人認為，人工智慧（AI）在某些情況下（且未來仍將如此）才會顯得有用。一個常見的說法是：「AI 可以更好地分析你的資料，但無法產生更多資料或提升資料的品質。垃圾進，垃圾出。」

但我認為，悲觀的觀點是以錯誤的方式看待人工智慧（AI）。如果我們關於 AI 進展的核心假設是正確的，那麼正確的理解方式並非將 AI 視為一種資料分析的方法，而是將其看作一位虛擬的生物學家，能執行所有生物學家所做的任務，包括在現實世界中設計並執行實驗（透過控制實驗室機器人或僅僅是告知人類該進行哪些實驗——就像主要研究員對其研究生所做的那樣）、發明新的生物學方法或測量技術，等等。正是透過加速整個研究流程，AI 才能真正推動生物學的進步。我想重申這一點，因為這是我在談論 AI 轉變生物學能力時最常遇到的誤解：我並不是僅將 AI 視為一種資料分析工具。根據本文一開始對強大 AI 的定義，我所說的是利用 AI 來執行、指導並改進幾乎所有生物學家所做的事情。

為了更具體地說明我認為加速的可能來源，令人驚訝的是，生物學的進展很大一部分來自於少數幾個真正的重大發現，這些發現通常與廣泛的測量工具或技術（ ¹² ）有關，這些工具或技術能夠在生物系統中進行精確但通用或可程式化的干預。或許每年約有一個這樣的重大發現，合計來看，它們可以說推動了超過 50% 的生物學進展。這些發現之所以如此強大，正是因為它們能突破內在的複雜性與數據限制，直接提升我們對生物過程的理解與控制。每十年幾個重大的發現，不僅促成了我們對生物學的基本科學理解的絕大部分，也推動了許多最具威力的醫療療法的發展。

一些例子包括：

CRISPR：一種能夠在活體中即時編輯任何基因的技術（用任意的基因序列取代另一任意序列）。自從這項技術誕生以來，不斷有改進，旨在針對特定細胞類型、提高準確度，以及降低誤編輯的情況——這些都是確保在人類安全使用的必要條件。
各種用於精確觀察生物反應的顯微技術：先進的光學顯微鏡（配備多種螢光技術、特殊光學元件等）、電子顯微鏡、原子力顯微鏡等。
基因組測序與合成技術，在過去數十年中，成本已大幅降低數個數量級。
光遺傳學技術，能夠透過照射光線使神經元產生放電。
mRNA 疫苗，原理上允許我們設計針對任何疾病的疫苗，並能迅速進行調整（當然，mRNA 疫苗在 COVID-19 大流行期間變得廣為人知）。
細胞療法如 CAR-T，使免疫細胞能夠從體內取出並「重新編程」，以攻擊任何目標。
像是疾病的病原體理論或免疫系統與癌症之間聯繫的概念性洞見。

我特意列出這些技術，是想提出一個關鍵的主張：我認為，如果有更多有才華且富有創意的研究人員，這些技術的發現速度可以提高十倍甚至更多。換句話說，我認為這些發現的回報與智慧密切相關，而生物學與醫學中的其他一切，大多都源自於這些突破。

為什麼我會這麼認為？因為我們在試圖判斷「智慧的回報」時，應該養成提出某些問題的習慣。首先，這些發現通常由少數研究人員完成，且往往是同一批人反覆進行，這表明這是技巧的展現，而非隨機搜尋（後者可能暗示長時間的實驗是限制因素）。第二，它們常常「本可以」在更早的年份被發現：例如，CRISPR 原本是細菌免疫系統中的一個自然存在的組件，自 80 年代起就已知，但人們花了另外 25 年才意識到它可以被重新用於通用的基因編輯。它們也經常因缺乏科學界對有前景方向的支持而延遲多年（參見關於 mRNA 疫苗發明者的專題；類似的故事層出不窮）。第三，成功的專案往往是零散或事後才被認為有潛力的，而非大量資金投入的努力。這表明，推動發現的並不僅僅是資源的集中，而是創造力。

最後，儘管其中一些發現具有「連鎖依賴性」（你必須先完成 A 發現，才能擁有工具或知識來進行 B 發現），這可能再次導致實驗延遲，但許多，或許大多數，則是獨立的，意味著可以同時並行進行多個研究。這兩個事實，以及我作為生物學家的一般經驗，強烈暗示著如果科學家能更聰明、更善於將人類所擁有的龐大生物知識建立聯繫，還有數百個這樣的發現正等待著被揭示（再次以 CRISPR 為例）。AlphaFold/AlphaProteo 在解決重要問題上，遠比人類更有效率，儘管經過數十年的精心設計的物理建模，這一成功提供了一個原理驗證（儘管範圍狹窄、工具有限），應該能為未來指明方向。

因此，我猜測強大的人工智慧至少可以將這些發現的速度提升十倍，讓我們在五到十年內取得相當於未來五十到一百年的生物學進展。 ¹⁴ 為何不追求一百倍呢？或許是有可能的，但在這裡，連續依賴性與實驗時間都變得格外重要：在一年內取得一百年的進展，需要許多事情第一次就能順利進行，包括動物實驗、顯微鏡設計或昂貴的實驗室設施。我其實也願意接受（或許聽起來荒謬的）想法，即我們可以在五到十年內取得一千年的進展，但對於在一年內達成一百年的進展，我持非常懷疑的態度。換句話說，我認為有一個不可避免的常數延遲：實驗與硬體設計具有一定的「延遲」，必須經過一定次數的反覆迭代，才能學到那些無法用邏輯推導出的知識。但在此之上，大規模平行處理或許是可行的 ¹⁵ 。

關於臨床試驗呢？儘管它們伴隨著大量的官僚作風與進度緩慢，但事實上，許多（雖然絕非全部！）的緩慢最終源自於對那些幾乎無效或模糊有效的藥物進行嚴格評估的必要性。這在當今大多數療法中都令人遺憾地成立：平均癌症藥物能延長數個月的存活期，但伴隨著需要仔細衡量的顯著副作用（阿茲海默症藥物亦有類似情況）。這導致了龐大的研究（為了達到統計學上的顯著性）以及艱難的權衡取捨，而監管機構通常並不擅長做出這些決策，原因再次在於官僚作風與多重利益的複雜性。

當某件事運作得非常順利時，速度會快得多：有加速審查通道，且當效果大小較大時，審查的便利性也會大幅提升。新冠病毒的 mRNA 疫苗在九個月內獲得批准——遠比平常的速度快得多。話雖如此，即使在這些條件下，臨床試驗仍然過於緩慢——可以說，mRNA 疫苗本應在約兩個月內獲得批准。但這類延遲（從開始到結束約一年）結合大規模平行作業，以及只需少量但不過度的反覆試驗（「幾次嘗試」），非常適合在五到十年內實現徹底轉型。更樂觀地看，人工智慧（AI）促進的生物科學或許能降低臨床試驗中的反覆次數，透過開發更精確的動物與細胞實驗模型（甚至模擬），來更準確預測人體的反應。這在開發抗老化藥物時尤為重要，因為老化過程持續數十年，我們需要更快速的反覆循環。

最後，關於臨床試驗與社會障礙的議題，值得明確指出的是，在某些方面，生物醫學創新在成功推廣方面展現出異常強大的成績，與其他一些技術形成鮮明對比（ ¹⁶ ）。如前述引言所提，許多技術儘管在技術層面運作良好，但卻受到社會因素的阻礙。這或許會讓人對人工智慧（AI）能達成的成就持悲觀態度。然而，生物醫學具有其獨特性，儘管藥物開發過程繁瑣，但一旦研發成功，通常都能順利推廣與應用。

總結上述內容，我的基本預測是，人工智慧（AI）驅動的生物學與醫學將使我們能將人類生物學家在未來 50 至 100 年內所能取得的進展，壓縮到僅需 5 至 10 年完成。我將此稱為「壓縮的 21 世紀」：即在強大 AI 發展之後，我們在短短幾年內即可取得整個 21 世紀中本應達成的所有生物學與醫學進展。

儘管預測強大 AI 在未來幾年能帶來的變革本身具有不確定性與推測性，但提出「在未來 100 年內，人類在無外援情況下能做到什麼？」這個問題，卻具有一定的具體性。僅僅觀察我們在 20 世紀所取得的成就，或是從 21 世紀前兩個十年進行推估，甚至思考「10 個 CRISPR 和 50 個 CAR-T」能帶來什麼樣的成果，都提供了實用且具體的方式來估算我們可以期待的強大 AI 所帶來的整體進展水平。

以下我試圖列出我們可能預期的內容。這並非基於任何嚴謹的方法論，幾乎可以肯定在細節上會出錯，但它旨在傳達我們應該預期的激進程度的整體概念：

幾乎所有天然傳染病的可靠預防與治療。在 20 世紀對抗傳染病取得巨大進展的背景下，想像我們能在壓縮的 21 世紀中或多或少「完成這項任務」並不算過於激進。mRNA 疫苗及類似技術已經展現出「萬物皆可疫苗」的方向。傳染病是否能在全球範圍內完全根除（而非僅在某些地區）取決於貧困與不平等的問題，相關討論請見第 3 節。
在過去幾十年中，癌症的死亡率每年大約下降 2％，因此以目前的人類科學進展速度，預計在 21 世紀內可以消除大多數癌症。某些亞型已經基本治癒（例如部分白血病類型透過 CAR-T 治療），我甚至對於能夠非常有選擇性地針對癌症早期階段的藥物感到更加興奮，這些藥物能夠阻止癌症的進一步生長。人工智慧（ AI）也將使得治療方案能夠根據個別癌症的基因組進行非常精細的調整——這些技術目前已經可行，但成本高昂，耗時且需大量專業人力，而 AI 有望幫助我們擴展規模。死亡率與發病率都可能降低 95％以上。然而，癌症具有極高的多樣性與適應性，可能是這些疾病中最難徹底根除的。某些罕見且難治的惡性腫瘤仍有可能持續存在，這並不令人意外。
對遺傳疾病的預防與治療非常有效。大幅改進的胚胎篩選技術可能使得預防大多數遺傳疾病成為可能，而一些更安全、更可靠的 CRISPR 後代技術或許能治療現有患者的大多數遺傳疾病。然而，影響大量細胞的全身性疾病可能仍是最後的難題。
預防阿茲海默症（Alzheimer’s）。我們一直很難搞清楚阿茲海默症的成因（它似乎與 β-澱粉樣蛋白（beta-amyloid protein）有關，但實際細節似乎非常複雜）。這正是可以透過更佳測量工具來隔離生物效應、解決的問題類型；因此，我對人工智慧（AI）解決此問題的能力持樂觀態度。一旦我們真正理解了其運作機制，預防措施很可能相對簡單。話雖如此，已經存在的阿茲海默症所造成的損害，可能非常難以逆轉。
對大多數其他疾病的治療有所改善。這是一個涵蓋範圍較廣的類別，包括糖尿病、肥胖症、心臟病、自體免疫疾病等多種疾病。這些疾病中的大多數似乎比癌症和阿茲海默症更「容易」解決，在許多情況下已經呈現出快速下降的趨勢。例如，心臟病的死亡率已經下降超過五成，而像 GLP-1 激動劑這樣的簡單干預措施，已在對抗肥胖和糖尿病方面取得了巨大進展。
生物自由。過去 70 年見證了避孕、受孕、體重管理等方面的進步。但我懷疑，經由人工智慧加速的生物學將大幅擴展可能性：體重、外貌、繁殖以及其他生物過程將完全由人類掌控。我們將將這些稱為「生物自由」：即每個人都應有權選擇自己想成為的樣子，並以最符合自己意願的方式生活。當然，關於全球平等獲取資源的問題也將成為重要議題；相關內容請參見第三節。
人類壽命的翻倍（ ¹⁸ ）。這看起來或許很激進，但在 20 世紀，預期壽命幾乎增加了兩倍（從約 40 年增至約 75 年），因此「緊縮的 21 世紀」再次將其翻倍至 150 歲，這是「趨勢所在」。顯然，延緩實際老化過程所涉及的干預措施，將與上個世紀為預防（多為兒童）早逝而採取的疾病控制措施不同，但變化的幅度並非前所未有（ ¹⁹ ）。具體而言，已經存在能使老鼠壽命最大值延長 25-50%且副作用有限的藥物。而某些動物（例如某些種類的海龜）已經能活到 200 歲，因此人類顯然並未處於某個理論上的上限。大致估計，最重要的或許是找到可靠且不受 Goodhart 定律影響的人類老化生物標記，因為這將使實驗和臨床試驗能快速迭代。一旦人類壽命達到 150 歲，我們或許能達到「逃逸速度」，獲得足夠的時間，使目前在世的大多數人都能活得像他們想要的那樣長，儘管這並不保證在生物學上一定可行。

值得一提的是，仔細審視這份清單，並思考若在未來 7 到 12 年內（符合一個積極的人工智慧時間表）全部實現，世界將會變得多麼不同。毋庸置疑，這將是一場難以想像的人道主義勝利，徹底消除困擾人類數千年的大多數禍害。我的許多朋友與同事都在養育子女，當那些孩子長大後，我希望他們聽到疾病這個詞時，能像我們聽到壞血病、天花或鼠疫一樣，感受到那份恐懼與陌生。那一代人也將受益於更高的生物自由與自我表達，並且有幸或許能活得像他們想要的那樣長久。

很難高估這些變革對除了少數預期強大人工智慧（AI）的人群之外的所有人來說將會多麼令人驚訝。例如，目前美國有數千名經濟學家和政策專家正在討論如何維持社會安全保障（Social Security）和醫療保險（Medicare）的財政可持續性，以及更廣泛地說，如何降低醫療保健的成本（這些醫療服務主要由 70 歲以上的人群，尤其是患有末期疾病如癌症的人所消耗）。如果這一切得以實現，這些計劃的情況很可能會得到徹底改善，因為工作年齡人口與退休人口的比例將會發生巨大變化。毫無疑問，這些挑戰將被其他問題所取代，例如如何確保新技術的普及與普及，但值得反思的是，即使只有生物學領域能夠被人工智慧成功加速，世界也將因此而發生多大的變化。

2. 神經科學與心智

在前一節中，我主要聚焦於身體疾病與生物學的一般範疇，並未涉及神經科學或心理健康。然而，神經科學是生物學的一個子學科，而心理健康與身體健康同樣重要。事實上，若說有什麼比身體健康更直接影響人類福祉，那就是心理健康。數億人因成癮、憂鬱症、精神分裂症、低功能自閉症、創傷後壓力症候群（ PTSD ）、精神病（ psychopathy ）或智力障礙等問題，生活品質極低。更多人則在日常生活中掙扎，這些問題常被解讀為較輕微版本的嚴重臨床障礙。與一般生物學一樣，也許我們不僅能解決問題，更能提升人類經驗的基線品質。

我為生物學所建立的基本框架，同樣適用於神經科學。這個領域的推動主要來自少數幾項發現，這些發現往往與測量工具或精確干預有關——在上述列表中，光遺傳學（ optogenetics ）是一項神經科學的突破，最近的 CLARITY 和擴展顯微鏡（ expansion microscopy ）也是同一類的進展，此外許多通用的細胞生物學方法也直接應用於神經科學。我認為，這些進展的速度將同樣受到人工智慧（ AI ）的加速，因此「百年成就在五到十年內完成」的框架，對神經科學而言，與對生物學一樣，出於相同的原因適用。就像在生物學中一樣，二十世紀神經科學的進展是巨大的——例如，我們甚至直到 1950 年代才理解神經元的放電機制與原因。因此，預期由人工智慧加速的神經科學，在短短幾年內將帶來快速的進展，似乎是合理的。

我們應該在這個基本圖像中加入一點補充，那就是過去幾年我們所了解（或正在了解）有關人工智慧（AI）本身的某些知識，很可能會促進神經科學的進展，即使這些研究仍然由人類來進行。可解釋性（Interpretability）就是一個明顯的例子：儘管生物神經元在表面上與人工神經元的運作方式截然不同（它們透過尖峰（spikes）和尖峰率（spike rates）進行通訊，因此存在時間元素，而這在人工神經元中並不存在，加上細胞生理和神經傳遞物質相關的許多細節，顯著影響其運作），但「分散式、經過訓練的由簡單單元組成的網路，如何共同運作以執行重要的計算任務」這個基本問題仍然相同，我強烈懷疑，個別神經元通訊的細節在大多數關於計算與電路的有趣問題中都會被抽象化。舉例來說，AI 系統中由可解釋性研究者發現的一種計算機制，最近在老鼠的大腦中也被重新發現。

在人工神經網路上進行實驗比在真實神經網路上更為容易（後者常常需要切割動物的大腦），因此可解釋性很可能成為提升我們對神經科學理解的工具。此外，強大的人工智慧本身也可能比人類更擅長開發和運用這項工具。

然而，除了可解釋性之外，我們從人工智慧（ AI ）中所學到的有關訓練智能系統的方法，應該（儘管我尚不確定是否已經如此）引發神經科學的革命。當我從事神經科學工作時，許多人專注於我現在認為是錯誤的學習問題，因為當時尚未出現擴展假說（ scaling hypothesis ）或苦澀教訓（ bitter lesson ）的概念。認為一個簡單的目標函數加上大量資料就能驅動極其複雜行為的想法，使得理解目標函數和架構偏差（ architectural biases ）變得更有趣，而對於理解新興計算的細節則較不感興趣。我近年來並未密切關注該領域，但模糊地感覺到計算神經科學家仍未完全吸收這個教訓。對於擴展假說，我一向的態度是「啊哈——這是一個高層次的解釋，說明了智慧如何運作以及它如此容易進化」，但我認為這並非一般神經科學家的看法，部分原因在於，擴展假說作為「智慧的祕密」尚未在人工智慧界完全被接受。

我認為神經科學家應該嘗試將這一基本洞見與人類大腦的特殊性相結合（包括生物物理限制、演化歷史、拓撲結構、運動與感覺輸入／輸出的細節），以期破解神經科學中的一些關鍵難題。這些可能是其中之一，但我懷疑僅靠此尚不足夠，我相信人工智慧神經科學家將能更有效地運用這一角度，促進研究的進展。

我預計人工智慧（AI）將沿著四條不同的路徑，加速神經科學的進展，這些路徑有望協同合作，治療精神疾病並改善功能：

傳統的分子生物學、化學與遺傳學。這基本上與第一部分所述的通用生物學相同，而人工智慧可能透過相同的機制加快進展。許多藥物能調節神經傳導物質，以改變大腦功能、影響警覺性或感知、改變情緒等，人工智慧也能協助我們發明更多此類藥物。人工智慧或許也能加速精神疾病遺傳基礎的研究。
細緻的神經測量與干預。這是指能夠測量大量個別神經元或神經迴路的活動，並進行干預以改變其行為的能力。光遺傳學（Optogenetics）與神經探針（neural probes）是能在活體中進行測量與干預的技術，此外，已提出多種非常先進的方法（例如用分子記錄帶（molecular ticker tapes）來讀取大量個別神經元的放電模式），在原則上似乎皆有可能實現。
先進的計算神經科學。如前所述，現代人工智慧（AI）不僅在特定見解上具有價值，其整體的整體觀（gestalt）也可能在系統神經科學的相關問題上得到富有成效的應用，包括或許能揭示精神病或情緒障礙等複雜疾病的真正成因與動態。
行為干預。由於本文主要聚焦於神經科學的生物層面，我較少提及此部分，但精神科與心理學在 20 世紀確實發展出豐富的行為干預策略；合理推測，人工智慧（AI）也能加速這些策略的發展，不僅在新方法的研發上，更在協助患者遵循既有治療方案方面。更廣泛而言，一個「AI 教練」的概念——它能時時幫助你成為最好的自己，研究你的互動並協助你學習如何更有效率，這看起來非常有前景。

我猜這四條共同進展的路徑，就像對抗身體疾病一樣，即使沒有人工智慧（ AI ），在未來一百年內也有望引領大多數精神疾病的治癒或預防——因此，這些目標或許可以在經過人工智慧加速的五到十年內合理完成。具體來說，我預估的發展情況大致如下：

大多數的精神疾病或許都能夠被治癒。雖然我並非精神科疾病的專家（我在神經科學領域的研究主要是開發用於研究少數神經元群的探針），但我猜測像是創傷後壓力症候群（PTSD）、憂鬱症、精神分裂症、成癮等疾病，可以透過上述四個方向的某種組合來破解並且非常有效地治療。答案很可能是「生化反應出了問題」（儘管可能非常複雜）與「神經網絡在高層次出了問題」的某種結合。也就是說，這是一個系統神經科學的問題——儘管如此，這並不否定前述行為干預措施的影響。用於測量與干預的工具，尤其是在活體人類中，似乎有望促使快速的迭代與進展。
非常「結構性」的條件可能較為困難，但並非不可能。有一些證據顯示，精神病態與明顯的神經解剖差異相關——某些腦區在精神病患者中較為小巧或發展較少。人們也相信，精神病患者從小就缺乏同理心；不論他們腦部有何不同，這種差異可能從一開始就存在。這一點或許也適用於某些智力障礙，甚至其他狀況。重塑大腦聽起來困難，但同時也似乎是一個對智慧回報豐厚的任務。或許有某種方法能夠引導成人的大腦進入一個較早或更具可塑性的狀態，使其得以重塑。我對此的可能性感到非常不確定，但我的直覺是對人工智慧在此處的創新抱持樂觀態度。
有效的遺傳預防精神疾病似乎已成為可能。大多數精神疾病具有部分遺傳性，基因組範圍關聯研究（GWAS）正開始逐步揭示相關因素，這些因素往往數量繁多。透過胚胎篩查，預防大多數這些疾病或許是可行的，類似於對身體疾病的篩查方式。不同之處在於，精神疾病更可能是多基因遺傳（多個基因共同作用），因此由於其複雜性，存在無意中排除與疾病相關的正向特徵的風險。然而，奇怪的是，近年來的 GWAS 研究似乎暗示這些相關性可能被高估了。無論如何，人工智慧加速的神經科學或許能幫助我們解開這些謎團。當然，對於複雜性狀的胚胎篩查也引發許多社會議題，將會引起爭議，儘管我猜大多數人會支持篩查嚴重或致殘的精神疾病。
我們日常生活中未被視為臨床疾病的問題，也將逐步獲得解決。大多數人都會遇到一些日常心理上的困擾，這些問題通常不會被認為已達到臨床疾病的程度。有些人容易動怒，有些人則難以集中注意力或經常昏昏欲睡，有些人則感到恐懼或焦慮，或對變化反應不佳。如今，已有一些藥物可以幫助改善警覺性或專注力（如咖啡因、莫達非尼、利他林），但正如在許多其他領域一樣，未來可能還有更多的可能性。或許還存在許多尚未被發現的藥物，也可能出現全新的干預方式，例如定向光刺激（見上文的光遺傳學）或磁場治療。考量到我們在 20 世紀開發出許多調節認知功能與情緒狀態的藥物，我對於「壓縮的 21 世紀」充滿樂觀——那時每個人都能讓自己的大腦表現得更好，並擁有更充實的日常體驗。
人類的基礎體驗可以更加豐富。更進一步地說，許多人曾經經歷過非凡的啟示時刻、創造力的激發、同情心、成就感、超越感、愛、美或冥想的寧靜。這些經驗的性質與頻率因人而異，甚至在同一個人不同時間也會有所不同，有時還可能受到各種藥物的觸發（儘管常伴有副作用）。所有這些都表明，「可體驗的範圍」非常廣泛，更多人的生命中或許可以包含這些非凡的瞬間。同時，也可能在整體上提升各種認知功能。這或許是神經科學版的「生物自由」或「延長壽命」。

在科幻作品中經常出現的一個主題，但我故意沒有在此討論的，是「意識上傳」（mind uploading），即將人類大腦的模式與動態捕捉並在軟體中實現的概念。這個議題本身可以成為一篇獨立的論文，但僅僅說明一下，儘管我認為上傳在原則上幾乎肯定是可行的，實務上仍面臨重大的技術與社會挑戰，即使有強大的人工智慧（AI），也可能使其超出我們討論的五到十年範圍。

總結來說，人工智慧加速的神經科學很可能大幅改善甚至治癒大多數精神疾病，並大幅擴展「認知與心理自由」以及人類的認知與情感能力。這將與前述身體健康的改善一樣具有顛覆性。或許外在世界並不會明顯改變，但人類所經歷的世界將變得更加美好、更具人性，也將提供更多自我實現的機會。我也懷疑，改善的心理健康將有助於緩解許多其他社會問題，包括那些看似政治或經濟的問題。

3. 經濟發展與貧困

前兩個部分談的是開發治療疾病、提升人類生活品質的新技術。然而，從人道主義的角度來看，一個明顯的問題是：「每個人都能獲得這些技術嗎？」

研發出治療疾病的方法是一回事，將疾病從全球根除則是另一回事。更廣泛而言，許多現有的健康干預措施尚未在全球範圍內普遍推行，事實上，非健康領域的科技進步亦是如此。換句話說，世界許多地區的生活水準仍然極為貧困：撒哈拉以南非洲的人均國內生產毛額約為 2,000 美元，而美國則約為 75,000 美元。如果人工智慧（AI）進一步促進發達國家的經濟成長與生活品質，同時對發展中國家的幫助卻微乎其微，我們應該將此視為一個可怕的道德失敗，以及對前兩節中所提到的真正人道主義勝利的瑕疵。理想情況下，強大的人工智慧應該幫助發展中國家追趕發達國家，即使它也在革新後者。

我並不如我對人工智慧能夠發明根本性技術的信心那樣，對它能解決不平等與經濟成長的能力充滿信心，因為技術在智慧方面具有明顯的高回報（包括繞過複雜性與資料不足的能力），而經濟則涉及許多來自人類的限制，以及大量的內在複雜性。我對人工智慧能解決那個著名的「社會主義計算問題」（socialist calculation problem）持有一些懷疑，也不認為政府會（或應該）將其經濟政策交由這樣的實體來掌控，即使它能做到。此外，還存在如何說服人們接受有效但他們可能存有疑慮的治療等問題。

發展中國家面臨的挑戰因為私營與公共部門普遍存在的貪腐而變得更加複雜。貪腐形成了一個惡性循環：它加劇貧困，而貧困又反過來滋生更多的貪腐。由人工智慧驅動的經濟發展計畫，必須正視貪腐、制度薄弱以及其他許多人性化的挑戰。

儘管如此，我仍看到一些值得樂觀的重大理由。疾病已被根除，許多國家也已從貧困轉變為富裕，顯而易見，這些任務所涉及的決策展現出高度的智慧回報（儘管受到人類的限制與複雜性影響）。因此，人工智慧（AI）很可能能比目前的方式做得更好。也可能存在一些針對性干預措施，能突破人類的限制，並成為 AI 可以專注的方向。然而，更重要的是，我們必須嘗試。無論是 AI 公司還是發達國家的政策制定者，都需要盡一份力，確保發展中國家不被遺忘；這是一項道德上的迫切責任。因此，在本段中，我將繼續提出樂觀的論點，但請時刻記住，成功並非保證，而是取決於我們的共同努力。

以下是我對在強大 AI 發展後，未來 5 至 10 年內，發展中國家可能走向的幾個猜測：

健康干預措施的分配。我最樂觀的領域或許是將健康干預措施推廣到全球各地。事實上，疾病已經透過自上而下的運動被根除：天花在 1970 年代已完全消除，脊髓灰質炎和瓜蟲病則幾乎被根除，每年病例數少於 100 例。數學上高度精密的流行病學建模在疾病根除運動中扮演著積極角色，而且很可能比人類更聰明的人工智慧系統能做得更好。分配的後勤工作也可能大幅優化。我早期捐助 GiveWell 時學到的一件事是，有些健康慈善機構的成效遠勝其他；希望透過人工智慧加速的努力能更為有效。此外，一些生物科技的進展實際上也讓分配的後勤工作變得更為容易：例如，瘧疾一直難以根除，因為每次感染都需治療；而只需一次接種的疫苗，則大大簡化了後勤工作（目前也確實正在研發這類瘧疾疫苗）。甚至更簡單的分配機制也是可能的：例如，某些疾病原本可以透過針對其動物載體來根除，比如釋放感染了能阻止其攜帶疾病的細菌的蚊子（然後傳染給其他蚊子），或是直接使用基因驅動技術來消滅蚊子。這只需一兩次的集中行動，而非需要逐一治療數百萬人的協調性運動。總體而言，我認為在五到十年內，AI 驅動的健康益處能夠傳播到全球甚至最貧困國家的比例（或許約五成）是一個合理的時間範圍。一個理想的目標是，發展中國家在強大 AI 技術出現後的五到十年內，至少能比今日的發達國家擁有更為健康的狀況，即使仍然落後於發達國家。要實現這一目標，當然需要在全球健康、慈善事業、政治倡議以及許多其他領域投入巨大努力，這些工作應由 AI 開發者與政策制定者共同協力推動。
經濟成長。發展中國家能否在短時間內追趕上發達國家，不僅在健康領域，還包括整體經濟？這方面已有一些先例：在 20 世紀最後幾十年，幾個東亞經濟體實現了持續約 10％的年度實質 GDP 成長率，使它們得以追趕上發達國家。人類的經濟規劃者做出了促成這一成功的決策，並非直接控制整個經濟，而是透過拉動幾個關鍵槓桿（例如出口導向的產業政策，以及抵抗依賴自然資源財富的誘惑）；因此，”人工智慧財政部長與中央銀行家” 有可能複製甚至超越這個 10％的成就。一個重要的問題是，如何讓發展中國家的政府在尊重自決原則的同時，採用這些策略——有些政府可能會熱衷於此，但也有可能持懷疑態度。樂觀的一面是，前述多項健康干預措施很可能會自然促進經濟成長：根除艾滋病／瘧疾／寄生蟲將對生產力產生轉型性影響，更不用說一些神經科學干預（如改善情緒與專注力）在發展中與已開發國家都能帶來的經濟利益。最後，非健康領域的人工智慧加速技術（例如能源技術、運輸無人機、改良建築材料、更佳的物流與配送等）或許會自然而然滲透全球；例如，即使在沒有慈善努力的情況下，手機也能透過市場機制迅速滲透撒哈拉以南非洲。較為悲觀的一面是，儘管人工智慧與自動化具有許多潛在好處，但它們也對經濟發展帶來挑戰，尤其是對尚未工業化的國家而言。在自動化日益普及的時代，尋找確保這些國家仍能持續發展與改善經濟的途徑，成為經濟學家與政策制定者亟需面對的重要課題。總體而言，一個理想的情境——或許也是一個值得追求的目標——是在開發中國家實現每年 20％的國內生產毛額（GDP）成長率，其中 10％來自人工智慧（AI）驅動的經濟決策，另 10％則來自 AI 技術的自然擴散，包括但不限於健康領域的應用。如果能達成，這將使撒哈拉以南非洲在 5 至 10 年內達到中國目前的人均 GDP 水準，同時使其他大部分開發中國家的經濟水準超越當前的美國 GDP。再次強調，這只是一個夢想的情境，而非必然的結果：這是我們所有人都必須共同努力，才能使之更有可能實現的目標。
糧食安全 ²⁴ 。作物技術的進步，如更佳的肥料與殺蟲劑、更高的自動化程度，以及更有效率的土地利用，在整個 20 世紀大幅提升了作物產量，挽救了數百萬人免於飢餓。基因工程目前正進一步改善許多作物。尋找更多方法來實現這些目標——以及使農業供應鏈更加高效——或許能帶來一場由人工智慧驅動的第二次綠色革命，幫助縮小開發中國家與發達國家之間的差距。
緩解氣候變遷。氣候變遷在發展中國家將感受到更為強烈的影響，阻礙其發展。我們可以預期，人工智慧（AI）將促使相關技術的進步，從大氣碳移除與清潔能源技術，到實驗室培育肉，這些都能減少我們對碳密集型工廠養殖的依賴。當然，如前所述，技術並非限制氣候變遷進展的唯一因素——正如本文討論的其他議題一樣，社會人文因素同樣重要。但有充分理由相信，人工智慧加持的研究將為我們提供降低緩解氣候變遷成本與破壞的方法，使許多反對意見變得無關緊要，並讓發展中國家能夠取得更多的經濟進步。
國內的不平等。我大多談論的是全球範圍內的不平等（我認為這是其最重要的表現形式），但當然，國內也存在不平等。隨著先進的健康干預措施，尤其是壽命的激增或認知增強藥物的出現，確實有人擔心這些技術“只屬於富人”。我對發達國家內部的不平等持較為樂觀的態度，原因有兩個。第一，發達國家的市場運作較為良好，市場通常能隨著時間降低高價值技術的成本。第二，發達國家的政治制度對公民的反應更為敏銳，且具有更強的國家能力來執行全民普及的方案——我預期公民會要求獲得能如此徹底改善生活品質的技術。當然，這些需求是否能成功，並非事先就已定局——這也是我們共同努力，確保社會公平的另一個重要方面。在財富不平等（與獲取救命和提升生活品質技術的不平等）方面，存在一個較為棘手的問題，我在第 5 節中將進行討論。
退出問題。無論是在發達國家還是發展中國家，人們選擇退出人工智慧（AI）所帶來的利益，都是一個令人擔憂的議題（類似於反疫苗運動，或更廣泛的反工業革命運動）。最終可能會形成一個惡性循環，例如，最難做出明智決策的人群選擇退出那些能提升其決策能力的技術，導致差距越拉越大，甚至形成一個反烏托邦式的底層階級（一些研究者認為，這將削弱民主制度，這個議題我會在下一節中進一步討論）。這再次為人工智慧的積極進展蒙上一層道德陰影。這是一個難以解決的問題，因為我認為強迫人們並不符合倫理，但我們至少可以努力提升大眾的科學素養——或許人工智慧本身也能幫助我們達成這個目標。一個令人振奮的跡象是，歷史上反科技運動多半是吠聲大於實質：反對現代科技固然受歡迎，但大多數人在最終還是會接受它，至少在個人選擇的範圍內。個人傾向於採用大多數的健康與消費科技，而那些真正受到阻礙的科技，例如核能，則往往是由集體政治決策所決定。

總體而言，我對於能夠迅速將人工智慧（AI）在生物科技方面的進展惠及發展中國家持樂觀態度。我抱持希望，雖然並不完全有信心，認為人工智慧也能促使前所未有的經濟成長率，並使發展中國家至少能超越目前的發達國家水平。我對於發達國家與發展中國家皆可能出現的「選擇退出」問題感到憂慮，但懷疑這種現象會隨著時間逐漸消退，而人工智慧或能協助加速這一過程。這個世界不會完美無瑕，落後者至少在短期內不會完全追上，但只要我們付出努力，或許能讓局勢朝著正確的方向快速前進。如果我們成功了，我們至少能為每一個地球上的人類，實現尊嚴與平等的承諾，邁出一大步。

4. 和平與治理

假設前面三個部分的情況都進展順利：疾病、貧困與不平等顯著減少，人類的基本經驗水準也大幅提升。這並不代表所有導致人類苦難的主要原因都已解決。人類仍然彼此構成威脅。儘管科技進步與經濟發展的趨勢促使民主與和平逐漸形成，但這是一個相當鬆散的趨勢，且經常（甚至近期）出現倒退。在 20 世紀初，人們曾以為戰爭已成過去；然而，隨之而來的是兩次世界大戰。三十年前，弗朗西斯·福山（Francis Fukuyama）曾談及「歷史的終結」與自由民主的最終勝利；但這一切尚未成真。二十年前，美國政策制定者相信與中國的自由貿易會促使中國隨著經濟富裕而走向自由化；然而，事實遠非如此，我們如今似乎正走向第二次冷戰，對抗一個復甦的威權主義集團。並且，有合理的理論指出，網路科技實際上可能有利於威權主義，而非最初所相信的促進民主（例如在「阿拉伯之春」期間）。似乎了解人工智慧（AI）將如何與和平、民主與自由這些議題交織，變得格外重要。

不幸的是，我並沒有充分的理由相信，AI 會像在促進人類健康與減輕貧困方面那樣，結構性地推動民主與和平。人類的衝突本質上具有對抗性，而 AI 原則上可以協助「善良的一方」與「惡劣的一方」。若說有什麼令人擔憂的結構性因素，那就是：AI 似乎更可能促成更為精良的宣傳與監控，這兩者都是獨裁者工具箱中的重要武器。因此，作為個人行動者，我們必須努力將局勢朝正確的方向傾斜：如果我們希望 AI 有利於民主與個人權利，我們就必須為此而奮鬥。這點我甚至比國際不平等問題更為堅定：自由民主與政治穩定的勝利並非理所當然，也許甚至不太可能實現，這將需要我們所有人付出巨大的犧牲與承諾，就像過去常常所經歷的那樣。

我認為這個議題可以分為兩個部分：國際衝突與國家的內部結構。在國際層面上，當強大的人工智慧（AI）被創造出來時，民主國家在國際舞台上佔據主導地位似乎非常重要。由人工智慧驅動的威權主義看起來過於可怕，難以想像，因此民主國家必須能夠設定引入強大人工智慧的條件，既是為了避免被威權主義者壓倒，也是為了防止威權國內的人權侵害。

我目前認為實現此目標的最佳方式是採取「和解策略」（entente strategy） ²⁶ ，即一個由民主國家組成的聯盟，旨在在強大的人工智慧（AI）方面取得明顯優勢（即使只是暫時的），方法是確保其供應鏈、快速擴展，以及阻止或延遲對手獲取關鍵資源，如晶片和半導體設備。這個聯盟一方面利用 AI 來達成堅實的軍事優勢（棒子），另一方面則提供將強大 AI 的利益（籤）分配給越來越多的國家，以換取它們支持聯盟推動民主的策略（這有點類似於「和平原子」（Atoms for Peace））。該聯盟的目標是獲得越來越多國家的支持，孤立我們最嚴重的對手，最終使他們處於一個更有利的位置，願意接受與其他國家相同的條件：放棄與民主國家的競爭，以獲得所有利益，並避免與更強大的對手作戰。

如果我們能做到這一切，我們將擁有一個民主國家在國際舞台上領先，並具備足夠的經濟與軍事實力，以避免被專制政權削弱、征服或破壞，甚至有可能將其在人工智慧（AI）方面的優勢轉化為持久的優勢。這或許樂觀地預示著一個「永恆的 1991」——一個民主佔上風、福山夢想得以實現的世界。再次強調，這將是非常困難的，尤其需要私營 AI 企業與民主政府之間的密切合作，以及在「胡蘿蔔與大棒」策略的平衡上做出極為明智的決策。

即使一切順利，也仍然留下每個國家內民主與專制之間鬥爭的問題。顯然，很難預測這裡會發生什麼，但我對此持有一些樂觀態度，即在全球環境中，民主國家掌控最強大的人工智慧（AI），AI 可能在結構上有利於全球的民主制度。尤其是在這樣的環境下，民主政府可以利用其優越的 AI 技術贏得資訊戰：他們能夠反制專制政權的影響力與宣傳行動，甚至可能通過提供資訊渠道與 AI 服務，創造一個全球自由的資訊環境，這些是專制政權缺乏技術能力去封鎖或監控的。或許不需要進行宣傳，只需反制惡意攻擊並解放資訊的自由流通。雖然這不是立即的，但如此公平的競爭環境有很大機會逐步將全球治理傾向於民主，原因有數。

首先，第一至第三部分中生活品質的提升，在其他條件相同的情況下，應該會促進民主：歷史上至少在某種程度上確實如此。尤其是我預期心理健康、福祉與教育的改善，將有助於增加民主，因為這三者與對威權領導人的支持呈負相關。一般而言，當人們的其他需求得到滿足時，他們會渴望更多的自我表達，而民主正是自我表達的一種形式。相反地，威權主義則依賴於恐懼與不滿情緒而繁榮。

第二，若獨裁者無法審查資訊，免費資訊確實有很大機率削弱威權體制。而未經審查的人工智慧（AI）也能為個人提供強大的工具，以破壞壓迫政府的統治。壓迫政府之所以能存續，是因為他們否認人民某種共同知識，讓民眾無法察覺「皇帝沒有穿衣服」的真相。例如，幫助推翻塞爾維亞米洛舍維奇政府的 Srđa Popović，曾廣泛撰寫有關心理剝奪威權者權力、打破迷信並凝聚反對獨裁者支持的技術。若每個人都能擁有一個超乎人類能力的 Popović（其技能似乎具有高回報的智慧），而這個版本的 AI 既有效又難以被獨裁者封鎖或審查，將能為全球的異議份子與改革者帶來一股助力。重申一次，這將是一場漫長且艱難的戰鬥，勝利尚未可知，但若我們以正確的方式設計與建構 AI，至少這將是一場讓自由倡導者在全球範圍內佔有優勢的戰鬥。

與神經科學和生物學一樣，我們也可以問：如何讓事情變得「比正常更好」——不僅僅是避免專制，還有如何讓民主制度比今天更完善。即使在民主國家，仍然時常發生不公正的事情。法治社會向其公民承諾，人人在法律面前平等，人人都有基本人權，但顯然，人們在實踐中並不總是能獲得這些權利。這一承諾即使只部分得以實現，也值得我們引以為傲，但人工智慧（AI）能否幫助我們做得更好？

例如，人工智慧（AI）是否能透過使決策與流程更為公正，來改善我們的法律與司法體系？如今，人們在法律或司法層面上多半擔心人工智慧系統會成為歧視的源頭，這些擔憂是重要的，且需要加以防範。同時，民主的生命力取決於善用新科技來強化民主制度，而非僅僅應對風險。真正成熟且成功的人工智慧應用，具有降低偏見並讓所有人都能享有更公平的潛力。

數百年來，法律制度一直面臨一個困境：法律旨在保持公正，卻本質上具有主觀性，因此必須由帶有偏見的人類來解釋。試圖讓法律完全機械化並未成功，因為現實世界繁雜多變，無法總是用數學公式來完整描述。取而代之的是，法律制度依賴一些眾所周知不夠精確的標準，例如「殘忍且不尋常的懲罰」或「完全沒有社會價值」，由人類來解讀——而且常常以偏見、偏袒或任意的方式來解讀。「加密貨幣」中的「智能合約」尚未徹底革新法律，因為普通的程式碼並不足以判斷所有重要的事項。但人工智慧（AI）或許已經足夠聰明：它是第一種能以可重複且機械化的方式，做出廣泛且模糊判斷的技術。

我並不是建議我們字面上用人工智慧系統取代法官，但將公正性與理解並處理紛繁複雜的現實情境的能力結合起來，似乎應該在法律與正義領域具有一些嚴肅且積極的應用。至少，這樣的系統可以與人類並行作業，作為決策的輔助工具。在任何此類系統中，透明度都將是重要的，而成熟的人工智慧科學或許能提供這一點：這些系統的訓練過程可以被廣泛研究，並且可以運用先進的解釋性技術來深入了解最終模型，評估其是否存在隱藏偏見，這是人類根本無法做到的。這樣的人工智慧工具也可以用來監控司法或警察行為中是否有違反基本人權的情況，使憲法更具自我執行力。

類似地，人工智慧（AI）可以用來匯聚意見並促進公民之間的共識，解決衝突、尋找共同點以及追求妥協。在這方面，一些早期的構想已由計算民主（computational democracy）計畫展開，包括與 Anthropic 的合作。更具知識與思辨能力的公民群體，顯然將有助於強化民主制度。

人工智慧（AI）在協助提供政府服務方面也存在明顯的機會，例如健康福利或社會服務，這些本質上對所有人皆開放，但在實務上卻常嚴重不足，且在某些地區甚至比其他地方更為匱乏。這包括醫療服務、駕照局（DMV）、稅務、社會安全、建築法規執行等等。擁有一個非常周全且具備豐富知識的人工智慧，能夠以你能理解的方式，將政府依法賦予你的所有權利一一傳達給你，並協助你遵守那些常令人困惑的政府規定，將是一件大事。提升國家能力，不僅有助於實現法律面前人人平等的承諾，也能增強對民主治理的尊重。目前，服務執行不佳已成為人們對政府產生犬儒態度的主要原因之一。

這些都只是模糊的想法，正如我在本節開頭所說，我對它們的可行性並沒有我對生物學、神經科學和貧困減緩進展的信心那麼大。它們可能過於理想化，甚至不切實際。但重要的是要有一個雄心壯志的願景，願意敢於夢想，勇於嘗試。將人工智慧視為保障自由、個人權利以及法律下平等的守護者，這樣的願景過於強大，不值得為之奮鬥。21 世紀，借助人工智慧的政治體系，既能更有力地捍衛個人自由，也能成為一盞希望的燈塔，幫助使自由民主成為全世界都渴望採用的治理模式。

5. 工作與意義

即使前面四個部分的一切都進展順利——我們不僅能緩解疾病、貧困與不平等，自由民主也成為主導的政體，現有的自由民主國家也變得更加完善——至少仍有一個重要的問題待解答。“我們生活在如此科技先進且公平正義的世界，這真是太好了”，有人可能會反駁，“但隨著人工智慧（AI）處理一切，人類的意義又將何在？更不用說，他們又將如何在經濟上生存下去？”

我認為這個問題比其他問題更為困難。我並不是說我對此的悲觀程度一定高於其他問題（儘管我確實看到一些挑戰）。我的意思是，這個問題較為模糊且難以事先預測，因為它牽涉到關於社會組織方式的宏觀問題，這些問題往往只能隨著時間推移並在去中心化的過程中逐步解決。例如，史前的狩獵採集社會可能曾經認為，沒有狩獵和各種與狩獵相關的宗教儀式，生活就毫無意義；他們也可能認為，我們這個飽食的科技社會是沒有目的的。他們或許也未能理解，我們的經濟如何能夠供應每個人，或者人在機械化社會中可以扮演哪些有用的角色。

儘管如此，至少值得說幾句話，同時要記住，這一部分的簡短並不代表我不重視這些議題——恰恰相反，這反映出缺乏明確的答案。

關於意義的問題，我認為認為自己所從事的任務毫無意義，僅僅因為人工智慧（AI）可以做得更好，這很可能是一個錯誤。大多數人並非在任何事情上都是世界第一，這似乎也並不會讓他們特別困擾。當然，今天他們仍然可以透過比較優勢來做出貢獻，並且可能從他們所產生的經濟價值中找到意義，但人們也非常喜歡那些沒有產生經濟價值的活動。我花很多時間玩電玩、游泳、在戶外散步，以及與朋友聊天，這些都不會產生任何經濟價值。我可能會花一天的時間，試著在電玩遊戲中變得更厲害，或是在騎山坡時更快，對我來說，某個地方有人比我更擅長這些事情並不重要。無論如何，我認為意義主要來自人際關係與連結，而非經濟勞動。人們確實渴望成就感，甚至是競爭感，在後人工智慧（AI）時代，花費數年時間嘗試完成某些極具挑戰性的任務，並採用複雜策略，將變得完全可能，就像人們今天從事研究項目、試圖成為好萊塢演員或創立公司一樣。事實上，（a）某個地方的人工智慧理論上可以比人類做得更好，以及（b）這些任務已不再是全球經濟中具有經濟回報的元素，這些都似乎並不太重要。

在我看來，經濟層面反而比意義層面更為困難。在本段中所指的“經濟”問題，是指大多數或所有人類可能無法對一個足夠先進的人工智慧驅動經濟做出有意義的貢獻的潛在問題。這是一個比不平等問題更宏觀的議題，尤其是關於獲取新技術的平等問題，這也是我在第 3 節中討論過的。

首先，在短期內，我同意比較優勢將持續使人類保持相關性，甚至在某些方面提升其生產力，並可能在某些層面上縮小人類與人工智慧之間的差距。只要人工智慧在某項工作中僅比人類優越 90%，剩下的 10% 將使人類變得高度杠杆化，提升薪酬，甚至創造出一系列與人工智慧互補、放大其優勢的新型人類工作，從而使那“10%”得以擴展，幾乎能僱用所有人。事實上，即使人工智慧能在 100% 的範疇內勝過人類，但若在某些任務上仍然效率低下或成本高昂，或人類與人工智慧的資源投入存在實質差異，比較優勢的邏輯仍然適用。一個人類可能在相當長一段時間內保持相對（甚至絕對）優勢的領域，是物理世界。因此，我認為，即使我們進入“資料中心中的天才國度”之後一點點，人類經濟仍可能繼續具有合理性。

然而，我認為從長遠來看，人工智慧（AI）將變得如此普遍且成本低廉，以至於這種情況將不再適用。屆時，我們目前的經濟體系將失去意義，社會也將需要展開更廣泛的討論，重新思考經濟應該如何組織。

儘管這聽起來可能很瘋狂，但事實上，人類文明在過去已成功度過多次重大的經濟轉型：從狩獵採集到農業，從農業到封建制度，再到工業化。我懷疑，未來可能需要一些全新且更奇特的事物，而這些事物目前尚未有人能夠充分想像。它或許可以像是為每個人提供一個普遍的基本收入，雖然我懷疑這僅僅是解決方案的一小部分。也有可能是一個由人工智慧系統運作的資本主義經濟，這些系統會根據某種次級經濟（基於人工智慧系統認為值得獎勵的人類行為，最終仍以人類價值作為判斷依據）向人類分配資源（數量巨大，因為整體經濟蛋糕將會非常龐大）。或許經濟會以「Whuffie」點數作為運作貨幣。又或者，人類最終仍會在某種未被傳統經濟模型預料到的方式下，保持經濟價值。這些解決方案都存在許多潛在問題，沒有大量的反覆試驗與調整，無法確定它們是否合理。與其他一些挑戰類似，我們很可能需要努力爭取一個良好的結果：剝削性或反烏托邦的方向顯然也是可能的，必須加以防範。關於這些問題還可以寫出更多內容，我希望在未來某個時候能夠進一步探討。

盤點現狀

通過上述多樣的議題，我試圖描繪一個既合理又令人振奮的未來願景：如果一切順利，這個世界將比今天更美好。我不確定這個世界是否現實，即使是，也不會在沒有許多勇敢且奉獻的人們付出巨大努力和奮鬥的情況下實現。每個人（包括 AI 公司！）都需要盡自己的一份力量，既要防範風險，也要充分發揮潛在的利益。

但這是一個值得為之奮鬥的世界。若這一切真的在五到十年內實現——大多數疾病的被擊敗、生物與認知自由的增長、數十億人脫離貧困，共享新科技、自由民主與人權的復興——我懷疑每個目睹此景的人都會對其產生的影響感到驚訝。我並不是指親身受惠於所有新科技的經歷，雖然那肯定會令人驚嘆；我指的是目睹一套長久堅持的理想在我們面前一瞬間成真的經歷。我認為，許多人會因此而感動得流淚。

在撰寫這篇文章的過程中，我注意到一種有趣的張力。一方面，這裡描繪的願景極為激進：它並非幾乎任何人預期在未來十年內會發生的事，且很可能被許多人視為荒謬的幻想。有些人甚至可能不認為這是可取的；它體現的價值觀與政治選擇並非所有人都會認同。但同時，這裡卻有一些明顯得過度確定的東西——就像許多不同的嘗試去想像一個美好的世界，最終都不可避免地走到這個方向。

在伊恩·M·班克斯（Iain M. Banks）的《遊戲之人》（The Player of Games）中，主角——一個屬於一個名為「文化」（the Culture）的社會成員，該社會的原則與我在此提出的理念類似——前往一個壓迫性、軍事化的帝國。在那裡，領導權由一場複雜的戰鬥遊戲中的競爭來決定。然而，這款遊戲的複雜程度使得玩家在其中的策略往往反映出他們自身的政治與哲學觀點。主角成功在遊戲中擊敗皇帝，展現出他的價值觀（即文化的價值觀）在一個建立在殘酷競爭與適者生存的社會中設計的遊戲中，仍然是一種取勝策略。一篇由史考特·亞歷山大（Scott Alexander）所著的知名文章也持相同觀點——競爭是自我毀滅的，並且傾向於導向一個以同情與合作為基礎的社會。「道德宇宙的弧線」（arc of the moral universe）是另一個類似的概念。

我認為文化的價值觀是一個贏得策略，因為它們是無數微小決策的總和，這些決策具有明確的道德力量，並且傾向於將所有人拉攏到同一陣線。基本的人類直覺——公平、合作、好奇心與自主權——難以反駁，且具有累積性，這點往往是我們較具破壞性的衝動所不具備的。很容易就能說，如果我們能預防，孩子不應該死於疾病，進而可以說，每個人的孩子都應該享有這樣的權利。由此推論，我們都應該團結一致，運用智慧來達成這個目標，也不難理解。幾乎沒有人會反對對不必要攻擊或傷害他人的人予以懲罰，從這點出發，將懲罰制度保持一致且系統化也是理所當然的。人們也直覺地認為，個人應該擁有自主權與對自己生命與選擇的責任。這些簡單的直覺，如果推向邏輯的極致，最終會導向法治、民主與啟蒙價值。如果不是不可避免的，至少作為一種統計趨勢，這正是人類早已朝著的方向。人工智慧（AI）僅僅提供了一個讓我們更快抵達的機會——使邏輯更加明確，目標更加清晰。

然而，這是一件具有超凡美感的事物。我們有機會在實現它的過程中扮演一個微小的角色。

感謝 Kevin Esvelt、Parag Mallick、Stuart Ritchie、Matt Yglesias、Erik Brynjolfsson、Jim McClave、Allan Dafoe 以及許多在 Anthropic 的人士，審閱了本文的草稿。

致 2024 年諾貝爾化學獎得主，感謝你們為我們指明了方向。

註腳

¹ https://allpoetry.com/All-Watched-Over-By-Machines-Of-Loving-Grace ↩
² 我預料少部分人的反應會是「這相當溫和」。我認為那些人需要，用 Twitter 的說法，就是「接觸一下現實」。但更重要的是，溫和從社會角度來看是好的。我認為人們一次能接受的變化是有限的，而我所描述的速度大概接近社會能吸收而不引發極端動盪的極限。↩
³ 我覺得「通用人工智慧」（AGI）是一個不夠精確的術語，已經累積了許多科幻包袱與炒作。我比較偏好用「強大人工智慧」或「專家級科學與工程」來表達我的意思，這樣比較不帶炒作意味。↩
在本文中，我使用「智慧」（”intelligence”）來指代一種可以應用於多個領域的通用問題解決能力。這包括推理、學習、規劃與創造力等能力。儘管我在整篇文章中以「智慧」作為簡略用語，但我也承認，智慧的本質在認知科學與人工智慧研究中是一個複雜且備受爭議的議題。一些研究者認為，智慧並非一個單一且統一的概念，而是由多種獨立的認知能力所組成；另一些則認為，存在一個支撐各種認知技能的「一般智力」（g 因子）。這個議題留待日後再詳談。↩
⁵ 這大致是目前人工智慧系統的速度——例如，它們可以在幾秒內讀完一頁文字，並在約 20 秒內寫出一頁文字，這是人類完成同樣任務速度的 10 到 100 倍。隨著時間推移，較大的模型往往會使速度變慢，但更強大的晶片則傾向於加快速度；迄今為止，這兩種效應大致相互抵消。↩
⁶ 這或許看起來像是稻草人論點，但像 Tyler Cowen 和 Matt Yglesias 這樣的慎重思考者已將其提出作為嚴肅的關切（儘管我不認為他們完全持有此觀點），我也不認為這是瘋狂的想法。↩
⁷ 我所知最接近解決這個問題的經濟學研究，是關於「通用技術」與作為通用技術補充的「無形投資」的相關工作。↩
⁸ 這種學習可以包括暫時的、在情境中的學習，或傳統的訓練；兩者都會受到物理世界的限制。↩
在一個混沌系統中，微小的誤差會隨時間呈指數級擴散，因此即使計算能力大幅提升，預測的提前程度也僅能略有改善，實務上測量誤差可能進一步削弱這種提升。↩
當然，另一個因素是強大的人工智慧（AI）本身也可能被用來創造更強大的人工智慧。我的假設是這種情況（實際上，很可能會）會發生，但其影響將比你想像的來得小，正是因為本文討論的「智力的邊際報酬遞減」現象。換句話說，人工智慧將持續快速變得更聰明，但其效果最終將受到非智力因素的限制，而分析這些因素正是推動科學進展的關鍵所在。↩
這些成就一直是我的啟發，也許是現存最有力的例子，展示了人工智慧在轉變生物學方面的應用。↩
“科學的進步取決於新技術、新發現與新想法，可能按此順序。” — Sydney Brenner↩
感謝 Parag Mallick 提出這個觀點。↩
我本來不想在文章中充斥著對未來由人工智慧驅動的科學可能取得的具體發現的猜測，但這裡是一些可能性的頭腦風暴：
— 設計更優秀的計算工具，例如 AlphaFold（AlphaFold）和 AlphaProteo（AlphaProteo）——也就是一個能加速我們開發專門化人工智慧計算生物學工具的通用人工智慧系統。
— 更高效且具有選擇性的 CRISPR。
— 更先進的細胞療法。
— 材料科學與微型化突破，帶來更佳的植入裝置。
— 對幹細胞、細胞分化與去分化的更佳控制，從而具備再生或重塑組織的能力。
— 對免疫系統的更佳掌控：選擇性激活以對抗癌症與傳染病，選擇性抑制以應對自身免疫疾病。↩
¹⁵ 人工智慧當然也可以協助我們更智慧地選擇要進行的實驗：改進實驗設計，從第一輪實驗中學習更多，以便第二輪能聚焦於關鍵問題，等等。↩
¹⁶ 感謝 Matthew Yglesias 提出這一點。↩
¹⁷ 快速演變的疾病，例如多藥抗性菌株，這些菌株基本上將醫院當作一個進化實驗室，不斷提升其抗藥性，可能特別難以對付，也可能是阻礙我們達到 100% 的原因之一。↩
¹⁸ 請注意，我們可能在 5 到 10 年內尚未能確定人類壽命已經翻倍。雖然我們可能已經達成了這個目標，但在研究的時間範圍內，我們可能還未察覺到。↩
¹⁹ 這是我願意接受的一個觀點，儘管治療疾病與延緩老化本身在生物學上有明顯差異，但我願意從更宏觀的角度來看待統計趨勢，並說：「即使細節不同，我認為人類科學可能會找到方法來持續這一趨勢；畢竟，任何複雜系統中的平滑趨勢，必然是由非常異質的組件相加而成。」↩
²⁰ 舉例來說，我被告知每年 1%甚至 0.5%的生產力成長率的提升，將在這些計畫的預測中帶來巨大變革。如果本文所討論的想法得以實現，生產力的提升可能遠超此數。↩
²¹ 媒體喜歡描繪高地位的精神病患者，但一般來說，精神病患者多半是經濟前景不佳、衝動控制能力較差，最終可能在監獄中度過相當長的時間的人。↩
我認為這在某種程度上類比於一個事實，即許多（但可能並非全部）我們從可解釋性中學到的結果，即使我們目前人工神經網路的某些架構細節，例如注意力機制，經過改變或取代，仍然會保持相關性。↩
我懷疑這有點像一個經典的混沌系統——充滿了不可約的複雜性，必須以大多是去中心化的方式來管理。儘管正如我在本節後面所說，更為溫和的干預或許是可能的。一個由經濟學家 Erik Brynjolfsson 提出的反駁意見是，大型企業（如沃爾瑪或 Uber）已經開始擁有足夠的集中知識，能比任何去中心化的過程更好地理解消費者，或許因此迫使我們修正哈耶克（Hayek）關於誰擁有最佳本地知識的見解。↩
我感謝 Kevin Esvelt 提出這一點。↩
例如，手機最初是富人的科技，但很快變得非常便宜，且每年的改進速度如此之快，以至於購買“奢華”手機的優勢已經不存在，如今大多數人都擁有品質相近的手機。↩
²⁶ 這是來自 RAND 即將發表的一篇論文標題，概述了我所描述的策略大致內容。↩
²⁷ 當一般人想到公共機構時，可能會聯想到他們與駕照局（ DMV ）、國稅局（ IRS ）、醫療保險（ medicare ）或類似功能的經驗。讓這些經驗變得比目前更積極，似乎是對抗過度憤世嫉俗的一個有力方法。↩
²⁸ 的確，在一個由人工智慧（ AI ）驅動的世界中，這類可能面臨的挑戰與項目範圍將遠比今日更為廣泛。↩
²⁹ 我打破了自己不談科幻的規則，但我發現很難不稍微提及它。事實上，科幻是我們少數能進行關於未來的宏觀思想實驗的來源之一；我認為，科幻與某個狹隘亞文化過度糾纏，這說明了一些不好的事情。

I edited the image with the prompt: ‘Dress the subject in a steampunk time traveler outfit with a top hat, goggles, and a clockwork vest.’

2025 年 8 月
一	二	三	四	五	六	日
				1	2	3
4	5	6	7	8	9	10
11	12	13	14	15	16	17
18	19	20	21	22	23	24
25	26	27	28	29	30	31