AI 是「終極的智識技術」#

社會人類學家 Jack Goody 與社會學家 Daniel Bell 把「智識技術（intellectual technologies）」定義為支援或延伸人類心智的工具：地圖、時鐘、書本、電腦、網際網路皆屬此類。

這類工具的特殊之處在於：

• 它們不只擴張認知能力，還會改變我們思考的內容與方式。
• 地圖讓人從上帝視角俯瞰世界，並把「方位」這個隱喻搬進人際關係（人脈圖、情感旅程）。
• 時鐘把一天均勻切割，改變我們對時間的感知。
• 相機改變了我們記憶的內容與方式。

記者 Nicholas Carr 形容智識技術是「我們最親密的工具」——我們用它來自我表達，它也回頭塑造我們的身份與關係。

AI 的特別之處是：它不像計算機只強化算術、書本只強化記憶與溝通，而是橫跨整個人類心智頻譜的智識技術。但每一項智識技術都是雙面神（Janus-faced）：賦予新的認知能力的同時，也會讓某些原本仍珍貴的思考方式逐漸失能。

失去的心智：神經可塑性的兩面刃#

神經可塑性的證據#

• 大腦不是肌肉，但具有類似的特性：常用的神經迴路會被強化，不用的會萎縮（neuroplasticity）。
• 倫敦計程車司機必須通過名為「The Knowledge」的嚴格考試，背下兩萬個地標。1990 年代研究發現他們的後海馬迴（負責空間記憶）明顯比一般人大，且越資深越明顯。
• 音樂家、識字者與不識字者、使用表意文字（如中文）與使用拼音文字者，大腦的迴路結構皆有可測量的差異。

過往技術的副作用#

• GPS：盲信導航而開車衝進湖中、誤入錯誤城市，極端時會被稱為「Death by GPS」。研究顯示倚賴 GPS 的人對周遭注意力下降，建立「認知地圖（cognitive maps）」的能力也下降。
• 網路與 App：擅長「上下文切換（context switching）」，但深度專注與長期理解能力下滑。瀏覽網頁時前額葉（決策、工作記憶）強烈活化，而閱讀書本反而活化較少——但正是這份「不過度刺激」，讓大腦能進入專注。

直覺上，AI 聊天機器人提供完整、彙整的答案，似乎能恢復閱讀的沉靜。但這個解方同時擴大了另一個問題：使用者更不需要記憶任何東西。

「外包記憶」的迷思#

• 人類短期工作記憶位於前額葉，容量有限，像硬碟一樣易溢出。
• 長期記憶儲存於大腦皮質，至今未發現容量上限；新事物不會擠掉舊事物。
• 因此，把記憶外包給 Google 或聊天機器人，並不能「清空大腦的閣樓」讓你思考更清楚。

認知心理學家 Daniel Willingham 指出：知識儲備愈深廣，新知吸收與遷移愈容易；推理與解題能力也隨之提升。

經典實驗顯示，物理新手依「彈簧」「氣球」這類表象分類問題，物理專家則依「能量守恆」這類定律分類——專家不是知道得多，而是想得不一樣。

倚賴 AI 提取事實，會普遍弱化我們的智能，而不只是輸給人在 Trivial Pursuit 上。

AI 與大腦介面：更深的隱憂#

• 2024 年 2 月，OpenAI 讓 ChatGPT 能記住與使用者過去的對話與偏好；它與其他 LLM 也已吃下整個公開網路的資料。
• 這些 AI 系統正變成集體與個人知識的儲藏所；但數位資料的長期保存遠比紙本困難——資料腐損的速度比印刷品變灰塵還快。

馬斯克的 Neuralink 已經為一名病患植入腦機介面（目前主要協助嚴重脊髓損傷患者）。雙向腦機介面或許能讓人跟上未來的超智慧，但反過來，也讓 ASI 取得控制我們的入口。

來源的抹除：批判性思考的退化#

傳統搜尋仍保有「摩擦」#

• 在傳統搜尋裡，使用者必須在多個連結間切換——這是低度的「摩擦」，但提供了批判思考的空間。
• 矛盾資訊會迫使使用者衡量來源、決定相信誰。
• 雖然不是每個人都會這樣做（網路也餵養了陰謀論與假訊息），但至少還留有思考的縫隙。

生成式 AI 拿掉了縫隙#

• ChatGPT、Bing、Gemini、Claude 提供一個自信、彙整好的答案——讓放棄批判思考變得太容易。
• 即便答案正確，也會壓縮細節與不同觀點，鼓勵思想的同質化。

芝加哥大學社會學家 James Evans 發現：當學術期刊上線後，學者引用反而更趨集中於最近且最常被引用的論文。新工具像快乾水泥，固化了正統觀點；資訊愈易得，學術反而收斂變窄。

在企業情境裡，未來訓練於公司內部資料的「AI Copilot」可能天然地附和公司路線，使組織更容易陷入群體迷思。

樂於助人，反而傷我們#

Christof van Nimwegen 的彩球謎題實驗#

荷蘭認知心理學家 Christof van Nimwegen 設計實驗：兩組受試者解一個依規則移動彩球的邏輯謎題。

• A 組使用「樂於助人」的軟體：高亮提示、引導下一步。
• B 組使用「不提供任何提示」的軟體。

結果：

• 初期，A 組明顯較快。
• 隨時間進行，B 組學習速度反超，最終 B 組做得更快、錯誤更少、較少陷入死局。
• B 組發展出更佳的長期策略；A 組依賴提示，沒有學會前瞻思考。
• 八個月後重測，B 組仍能以兩倍的速度解出謎題。

在通用 AI 時代，GPT-4 能對「修腳踏車」、「想商業計畫」等各類任務提供協助。如果連學習這些技能本身都被它接管，AI 可能讓我們變得更不聰明。

人類也存在「自動化偏誤（automation bias）」——傾向順從自動化系統，即使資料相反。喬治亞理工 2016 年的火災模擬實驗中，受試者寧可跟著一隻先前已展示自己會出錯的機器人逃生，也不依循亮著的逃生指示。

這意味著「決策輔助 AI」與「全自動 AI」的分野，遠比我們以為的模糊。

寫作即是思考#

文字技術的歷史#

• 公元前 8000 年，人類用刻有符號的黏土代幣記錄家畜與貨物。
• 公元前 4000 年代，蘇美人發明楔形文字、埃及人發明象形文字；書寫多由少數菁英掌握，主要用於政府與宗教文件。
• 公元前 1000 年代，腓尼基人與希臘人創立拼音文字——希臘文僅 22 字母。
• 拼音文字使解碼用的神經活動明顯減少（在這個意義上「讓我們變笨」），但代價換來書寫的普及。

蘇格拉底的反書寫立場#

在《Phaedrus》中，柏拉圖（Plato）筆下的蘇格拉底（Socrates）反對書寫——擔心它會弱化記憶、損害口語演說與修辭，這正是希臘文明的支柱之一。

諷刺的是，柏拉圖本人就是個寫作者。

蘇格拉底的擔憂部分被神經科學印證：記憶確實是知識與深度思考的基礎。但智識技術的問題從來都是得失對沖。

默讀與書寫的革命#

• 公元 380 年左右，奧古斯丁（Augustine） 在《懺悔錄》中描述老師米蘭主教安博羅修（Bishop Ambrose）「眼睛掃過書頁，心追尋意義，但聲音與舌頭休息」，當時這種默讀仍是新鮮事。
• 默讀讓書寫變得更內省、私密、敢於表達不正統甚至異端的觀點。
• 段落、章節、目錄的出現使結構變得更複雜；可重複的史詩修辭也被新的書面組織方式取代。
• 印刷術讓識字普及，書本本身又成為識字率上升的引擎，形成正向循環。

書信時代到 Email 時代#

• 17 至 18 世紀盛行歐洲與美洲之間的「書信共和國（Republic of Letters）」。
• 1990 年代起，Email 取代手寫信件——速度與短促的本質要求即時回覆，思考時間也被壓縮。
• 但無論口傳、手寫或 Email，作者依舊以特定讀者為對象，選用特定文字、語氣與結構，雙方藉由共享文化、價值產生連結。

生成式 AI 切斷了作者與讀者的契約#

生成式 AI 同時消滅了「作者必須揣想讀者」與「讀者必須努力理解作者」的雙向努力。

• 讀者不必苦思難解段落，可貼進聊天機器人請它改寫成自己懂的版本。

• 作者也不再需要心中有特定讀者，可以只丟出條列式重點，由 LLM 替他完成書寫。

• 把 Hamlet 的「to be or not to be」獨白丟給 GPT-4，要求改成「忙碌商業主管能懂的版本」，會得到：

  是要忍受人生的挑戰，還是正面迎擊？對未知的恐懼讓我們即便辛苦也得繼續向前；過度思考會讓我們陷入決策癱瘓，無法行動。

  雖捕捉到大意，美感與智慧已蕩然無存。

寫作不只是傳達思想——「寫作即是思考（Writing is thinking）」。它是一種後設認知（metacognition），迫使我們審視自己的想法、把混亂的素材整理成線性結構。

不寫不讀的「最壞情境」是：作者請 AI 把條列點擴成文章，讀者再請 AI 將文章壓回條列點——形成銜尾蛇式的吞噬循環。

PowerPoint、Slack、TikTok 都已助長這種簡化趨勢。最完整的學術回顧指出，過度依賴條列重點會不當地簡化複雜資訊。Amazon 創辦人 Jeff Bezos 早就在公司禁用 PowerPoint，要求主管以完整段落寫敘事性的備忘錄；2003 年哥倫比亞號太空梭事故的調查也發現，太空梭受損的關鍵結論被淹沒在過密的 PowerPoint 中。

道德能力的退化#

寫作與閱讀本就是同理心的鍛鍊#

• 寫作與閱讀都涉及「把一個心靈投射到另一個心靈中」，本質上是同理心的鍛鍊。
• 練習愈少，能力愈差——智能與情感的雙重退化。

把道德判斷外包給 AI 的危險#

• 在某些領域，AI 確實有合理性：網路安全、推薦系統、高頻交易等需要「機器速度」的決策。
• 但「機器速度」也被援引來為武器系統與重大醫療決策外包給 AI 背書（武器議題保留至第 12 章）。

自動化偏誤（automation bias）讓「決策輔助 AI」事實上接近「全自動 AI」。AI 已協助決定誰該假釋、誰該獲得房貸——很多時候 AI 是被部署來「提供逃避追責的客觀外衣」，而不是真正改善這些流程。

AI Agent 加劇道德外包#

• 第一章已提到，企業正打造能替使用者執行任務的「AI Agent（代理）」。
• 表面上看，仍是人決定 Agent 做什麼；但這正是讓人能輕易迴避道德責任的入口。
• 已經有人請 ChatGPT 想「快速賺錢的方法」（多半合法）。可以想像未來的指令是：「不擇手段幫我賺錢，把錢匯入我帳戶，不要告訴我細節，我不想知道。」
• 今日的聊天機器人尚無法獨立完成金融詐欺的所有步驟；明日的 AI Agent 卻可能可以——除非我們設下護欄。

守住頭腦與靈魂#

AI 對我們的智能、寫作、思考、同理心與判斷力的傷害，是最隱微也最致命的後果——卻也是最少被討論的。

作者主張的因應之道是「設下界線」：

對社會的呼籲#

• 教育孩子時，必須堅持教導批判思考、邏輯推理、解題、倫理——以及寫作，即使在 AI 助手氾濫的時代。
• 教育與 AI 的關係將在第 7 章深入討論。

對個人的呼籲#

• 已過學齡的人，必須親自決定如何使用 AI——什麼時候交給機器、什麼時候動用自己的腦與道德指南針。

聖塔克拉拉大學 AI 倫理學家 Brian Green 的提問值得每個人思考：

「這根本是個關於『我們是否還想保有人類能動性（human agency）』的問題。如果我們把一切都自動化了，人類什麼都不用做——那活著的意義是什麼？」

與社群媒體一樣，個人對 AI 的使用仍保有選擇權：限制螢幕時間、關掉 App、放下手機。職場上或許別無選擇，但個人生活裡，我們仍有選擇權——必須在還有智慧可言的時候，明智地做選擇。