人的本質是信息#

• 控制論之父維納（Norbert Wiener）早在 1950 年就出了《人有人的用處》（The Human Use of Human Beings），認為生命的本質其實是信息，我們的使命是給系統提供額外的信息
• 維納的觀點直接影響了克勞德·香農（Claude Shannon），後者發明了信息論——信息含量的數值就是在多大的不確定性中做出了選擇
• 人生的價值在於爭取選擇權、多樣性、不確定性和自由度

人的最根本作用，是選擇未來發展的方向。人必須確保自己有足夠多的選項和足夠大的選擇權。

約束 AI 的困難#

機器人三定律的問題：

阿西莫夫（Isaac Asimov）的三定律看似合理，但可操作性太低：

• 什麼叫「不傷害」人類？很多道德難題連人都沒搞清楚
• 更大的問題是把判斷權交給了 AI——AI 應該專注於預測，判斷權應該屬於人類
• 最根本的問題還是計算不可約性：凡是能寫下來的規則都不可能真正限制住 AI

正確的態度：

• 沃爾夫勒姆的結論：人根本不可能永遠掌控 AI，正確的態度是認可 AI 有自己的發展規律
• 把 AI 當成大自然——我們至今不能完全理解大自然，但我們適應了跟大自然相處，這就是共存
• 我們希望人的力量和 AI 的力量能始終保持大體上的平衡，AI 和 AI 之間也能互相制衡

AI 會搶走工作嗎？#

至少從工業革命以來的歷史經驗看，不會：

• 電話交換機自動化後，電話行業就業人數不但沒減少，反而大大增加了
• 會計工作自動化後，會計師人數也沒有減少——金融服務更為普及，業務更複雜
• 經濟學家的規律：自動化程度越高 → 生產力越高 → 產品越便宜 → 市場越大 → 消費者越多 → 需要雇傭更多員工
• 自動化程度最高的行業正是就業增加最多的行業

AI 時代人應該學什麼？#

人必須確保做的都是高端工作，把低端的留給 AI：

• 調用力：知道幹什麼事情最適合調用什麼工具，要掌控感就多掌握一些工具
• 批判性思維：區分事實和觀點，明辨是非
• 計算機思維：善於結構化、邏輯化地思考（不是說非得會編程）
• 藝術和哲學：提高判斷力，善於理解他人，想像出新的需求
• 領導力：至少需要對 AI 的領導力——制定戰略目標、安排工作步驟、設置檢驗手段
• 傳播能力和說服力：把複雜想法解釋清楚，讓人接受你的觀點

沃爾夫勒姆的觀點：人最核心的一個能力，是自己決定自己關心什麼、想要什麼。這是只有你才能決定的，因為這些決定的答案來自你的歷史和你的生物結構。

做 AI 時代的「君子」#

• 這些都是古代貴族學的「自由技藝」（liberal arts）
• 不妨把 AI 想成是小人和奴隸，咱們都是君子和貴族
• 春秋時代人們對君子的期待不是智商高、幹活多，而是信用、聲望和領導力
• 我們要學的不是幹活的技能，是處理複雜事物的藝術，是給不確定的世界提供秩序的智慧
• 將來的社會必定是個人人如龍的社會，AI 來得太好了，我們正好回歸軸心時代，個個學做聖賢