莊子的寓言#
《莊子》裡有一個故事：子貢看到一位老翁用手抱著瓦罐打水澆菜，非常費力。子貢告訴他有一種叫桔槔的杠桿裝置，打水很方便。老翁回答說：「我聽說過那個技術，我是故意不用的。那東西會讓人有機巧之心，破壞人的淳樸天性。」
這個故事告訴我們兩件事：
- 早在古代，最簡單的農業技術就已經被人擔心了
- 終極的擔心不是人的工作會不會被技術取代，而是技術會不會讓人變得不再像人
對賽博格的兩個擔心#
唐娜·哈拉維（Donna Haraway）1985 年就發明了「賽博格」（Cyborg）的概念。華東師範大學的吳冠軍教授進一步提出：拿著手機的你，跟春秋隱者眼中用桔槔的人一樣，都是賽博格了。
擔心一：不平等#
會不會少數賽博格在 AI 賦能之下變得過於強大，而其他人則成為無用之人？
反方論據：
- 有意識的個體怎麼會被淘汰呢？有意識就有尊嚴，有尊嚴就有人權
- 有人權就必須有事兒做——你可以決定流行潮流、贊助藝術、影響社會
- 隨著中國老齡化發展，大量的人已經不工作了，你不能說這些人被淘汰了
擔心二：AI 會操縱民主政治#
反方論據：
- 所謂 AI 傳播虛假信息干預選舉，有據可查的案例只有 2018 年劍橋分析（Cambridge Analytica），規模極小、沒有起到什麼作用、而且沒有重複
- 人沒有那麼容易被操控——說服和預測人們喜歡什麼，是世界上最難的事情之一
- 大模型有時候會說胡話，但用戶終究會察覺到。人會抗議，「知道自己吃虧、自己的自由受到限制」並不需要很高的智能
AI 讓人更不像人？恰恰相反#
作者至少從兩個方面論證 AI 很不像人：
第一：AI 沒有痛覺，不能承擔風險責任#
如果一個 AI 犯了法，你能把它關起來嗎？AI 不在乎懲罰。僅僅由於這個原因，人類醫生就不會被 AI 替代——診斷書上簽字的必須是人，手術的決定必須由患者本人或家屬同意。AI 再厲害，大事也必須由人類拍板，核按鈕必須掌握在人類手裡。
第二：AI 沒有真正的主動性，不能做發起者#
AI 可以做很多工作、做很好的研究，但它不會生成「為什麼」要做那些工作。我們為什麼偏偏生產熊貓形狀而不是河馬形狀的玩具？AI 必須服從人的偏好。
正如吳冠軍所言，愛不能算法化。Stephen Wolfram 最喜歡的意識定義是：意識是一個「連貫的體驗脈絡」（coherent thread of experience）——單憑這一點，你考察一下大模型的訓練方法，就知道 AI 不可能擁有真正的意識。
科技讓人更像人#
技術的演化有它自身的能動性，但正如生物演化要遵循「自然選擇」，技術的演化也會受到「人的選擇」的限制：
- 為什麼很多公司在研發人形機器人？因為這個世界的基礎設施——馬路、房子、樓梯、廚房——都是為人定制的
- 正如鍵盤上的字母只能這麼排列，火車軌道只能這麼寬——這就是歷史路徑依賴的力量
- 哪怕只是出於路徑依賴，「科技以人為本」也必須繼續成立
科技不但沒有讓人異化，而且讓人更像人#
- 正因為有了桔槔那樣的設備，像孔子那樣的「閒人」才能專門思考哲學問題
- 如果沒有洗衣機、電冰箱、電飯鍋，世間絕大多數人不會有高質量的閒暇時間
- 民生話題的確變得低俗了，但那恰恰是因為時代進步了，以至於不那麼聰明的人也出來討論政治了
AI 給人賦能，而不是讓人失能。 春秋時代的君子們之所以有精力談論仁義禮智信，是因為底層民眾包辦了所有的工作。將來就算人人都不必工作，那也是件好事——那將是一個人人是貴族、人人有機會做聖賢、人人如龍的時代。