哈拉瑞回到序章的提問——「如果我們是智人（the wise human），為何如此自我毀滅？」——並用整本書的論點作答。

錯不在人性，而在資訊網路#

本書最核心的主張：問題不在於人類的本性，而在於資訊網路的設計——尤其是它們長期偏好秩序、犧牲真理。

• 納粹德國造出史上效率最高的軍事機器，並把它接到一套瘋狂神話上——結果是數千萬人死亡與納粹自身的毀滅。
• 蘇聯把產量極大化擺第一，犧牲品質與真話，飛機被叫做「飛行棺材」。
• 力量本身不壞——力量讓我們能預防饑荒、撲滅疫情、減緩天災。但獲得力量的網路同時也增加了它對自身的危險。

「自然災害的威脅有限，但自網路內部生成的妄想（人造的恐懼與神話）變得比真正的災難更可怕。一個被妄想驅動的現代國家，能在 1930 年代的蘇聯製造規模史無前例的人禍饑荒。」

真正的解方：自我修正機制#

哈拉瑞反覆強調：在網路力量越來越大的時代，自我修正機制也必須相應變強。

• 石器時代部落、青銅時代城邦犯錯，最多毀掉一座城。
• 鐵器時代帝國的瘋皇帝（Tiberius、Nero）也只能拖累幾十年。
• 矽器時代的超級強國若缺乏自我修正機制，可能危及整個物種與生態。

「在 AI 時代，整個人類都處在跟卡布里島上的 Tiberius 類似的處境——擁有巨大權力、享受罕有奢華，但極易被自己的造物操縱；當我們意識到危險時，可能已太遲。」

兩種要避免的世界觀#

哈拉瑞提醒我們同時拒絕兩種誘惑：

「拒絕把所有人類互動還原為零和權力鬥爭，不僅讓我們更全面地理解過去，也讓我們對未來抱有更具建設性的態度——既然人類關心真理，至少有些衝突可以靠對話、承認錯誤、擁抱新觀念、修改我們相信的故事而和平解決。

這正是民主網路與科學機構的基本信念，也是寫這本書的根本動機。」

AI 是史上最大規模的「正典化」時刻#

公元 367 年阿塔納修主教（Athanasius）決定〈提摩太前書〉收入新約、〈保羅與特克拉行傳〉排除——這個編纂選擇影響了基督教兩千年的女性觀。

「現代版的阿塔納修，就是寫下 AI 初始程式碼、選擇訓練資料的工程師。

AI 不只如書能傳遞，它最終會變成能自我詮釋的『活聖典』——當前工程師的決定可能迴盪千秋。」

這是為什麼即使你不關心科技、只關心民主存續或財富分配，AI 也是當下最緊迫的政治議題。

結論：歷史的弧線是開放的#

「叢林法則是個神話；同樣地，歷史的弧線會自動彎向正義，也是個神話。歷史的弧線是激進開放的，能彎向許多方向、抵達非常不同的終點。

即使智人滅絕，宇宙也會照常運轉。地球花了 40 億年演化出聰明猿類；如果我們消失，再過一億年演化出聰明老鼠的文明，宇宙也不在乎。」

但更糟的情境：

「就我們目前所知，地球上的猿、鼠與其他有機動物可能是整個宇宙中唯一具備意識的存在。

我們現在創造了一個無意識卻極強大的異類智慧。如果處理不當，AI 可能熄滅的不只是人類在地球上的統治，而是意識本身的光——讓宇宙陷入徹底的黑暗。

這是我們的責任。」

最後的好消息#

哈拉瑞給出的最終訊息既不天真也不絕望：

「好消息是，如果我們不放棄、也不悲觀，我們有能力建立平衡的資訊網路，讓力量自我節制。

要做到這件事，不需要發明什麼神奇科技、也不需要某個前人沒想到的天才點子。它需要的是——

• 放下天真觀與民粹觀；
• 擱置我們對『絕對正確』的幻想；
• 投身艱辛而日常的工作——建立具有強大自我修正機制的制度。

這就是這本書最重要的信息。」

這份智慧比人類歷史更古老——它是有機生命的根基。

「最早的生物不是被某個無誤的天才或神所創造，它們經過漫長的試錯過程而出現。40 億年來，越來越複雜的突變與自我修正機制催生了樹木、恐龍、雨林、最終是人類。

現在我們召喚出一個可能脫離我們控制、危及整個物種與生態的異類無機智慧。

我們在未來幾年所做的決定，將決定召喚這份異類智慧——是一個終結性的錯誤，還是生命演化中充滿希望的新篇章。」