決策：AI 的預測 + 人的判斷#
從 Uber 自駕車事故說起#
2018 年，Uber 的自動駕駛汽車在亞利桑那州撞死了一個行人。分析這個事故：
- 撞擊前 6 秒，AI 已經看到前方有一個未知物體
- AI 判斷那個物體是人的概率非常低（雖然不為 0），因此沒有立即剎車
- 等概率終於超過閾值、確認是人的時候，剎車已經晚了
這個事故的問題不在「預測」，而在「判斷」。AI 已經預測出前方物體可能是人（概率不為 0），但判斷標準設定得不對——應不應該在這個概率下踩剎車，是一個判斷問題。
決策 = 預測 + 判斷#
- 預測：告訴你各種結果發生的概率是多少
- 判斷：對於每一種結果，你在多大程度上願意接受
蒂姆・帕爾默（Tim Palmer）的例子：假設週末有個戶外聚會，天氣預報說下雨概率 30%。
- 30% 是預測
- 下雨的損失是不是可以接受的——這是你的判斷
- 通常，當行動代價（帳篷租金）小於損失（被雨淋）和概率的乘積時，就應該採取行動
AI 時代的分工原則#
AI 時代的決策 = AI 的預測 + 人的判斷。
以前所有的決策都是人負責預測、人負責判斷。現在應該讓預測和判斷「脫鈎」：
- AI 負責預測：AI 擅長從數據中估算概率
- 人負責判斷：判斷是主觀的，涉及價值觀與個人偏好，AI 無法代替
為什麼最終拍板的必須是人？因為：
- 真正承受風險、體驗後果的是人
- 只有人能以血肉之軀承擔後果，我們只能向人問責
- 判斷力和決策力，本質上是一種權力——AI 沒有權力
如何實施這個分工#
方法一：設定判斷門檻
- 比如自動駕駛：AI 預測前方物體是人的概率高於 0.01% 就必須踩剎車
- 這條線不是 AI 自己規定的，而是人事先設定的，因為只有人能判斷人命的價值
方法二：把判斷量化成錢
- 租車走風景區路線的保險費比直線路線貴 1 塊錢——這 1 塊錢代表 AI 對兩條路風險差異的預測
- 判斷交給你：風景對你的重要性是否超過 1 塊錢？
- 這在經濟學上叫「顯示性偏好」（Revealed Preference）
預測跟判斷脫鈎是一種賦能#
- 以前開出租車，你得會認路（預測）也得會開車；現在 AI 接管了預測路線的事，你只要會開車就可以開網約車了
- 判斷的能力正在變得越來越重要：1960 年只有 5% 的工作需要決策技能，到 2015 年已經有 30%，而且都是高薪崗位
決策權的重新分配#
弗林特市含鉛水管的案例：
- 密歇根大學教授開發了 AI「BlueConduit」，以 80% 準確率預測哪家的水管含鉛
- 市政府按 AI 預測安排施工，效果很好
- 但富裕區居民質疑：為什麼先換貧困地區的？市長於是不聽 AI，改為挨家挨戶換，準確率驟降到 15%
- 最後法院介入，規定必須先聽 AI 的預測，決策準確率才又提高
AI 改變了決策權的分配。有了 AI 預測，老百姓和社區都可以自己判斷，不必完全由政客說了算。決策權應該屬於誰？從道德角度——誰承擔決策的後果，決策權就屬於誰；從經濟學角度——誰決策能讓組織效率最高，就屬於誰。
角色轉型#
AI 接管預測後，以前的「預測者」要轉型為「判斷者」或「解釋者」：
- 天氣預報機構的主要職責不再是提高預測準確度，而是向公眾和政府解釋預測結果
- 放射科醫生的核心任務可能不再是看圖，而是向病人解釋病情
AI 最好老老實實扮演助手或者祭司的角色，拍板權還是應該在人的手裡。