由 Zhang、Srinivasan、Singh、Mehta 所撰。本章用 Airbnb 智慧定價的真實研究指出一個容易被忽視的洞見：演算法本身公平，不等於市場結果公平——「使用情境」與「採用率」同樣決定了不平等是被緩解還是被加劇。
一個出乎意料的故事：Airbnb 智慧定價#
Airbnb 智慧定價工具用大量資訊（房東、物件、社區特徵）為每個物件每天自動定價，協助房東面對缺乏競品資料時的定價困難。
研究者發現：
- 採用此工具的房東平均日營收提升 8.6%
- 工具在測試中完全種族盲（race blind）：相似物件的降價幅度與房東種族無關
- 弱勢族群的需求曲線更具彈性（更敏感於價格變動）→ 同樣降價，黑人房東訂房數增加更多、營收提升更高
從資料科學角度，這是完美部署：
- 為所有採用者帶來財務利益
- 在採用者之間縮小71.3% 的種族營收差距
但真實世界結果完全相反：種族營收差距在母體層級（含採用者與未採用者）反而擴大。
為什麼？因為黑人房東採用此演算法的機率比白人低 41%。對未採用的黑人房東而言，營收差距反而拉大。
三大被忽略的市場條件#
演算法部署時必須納入考量：
- 目標用戶對演算法的接受度
- 消費者對演算法預測的反應
- 公司策略行為下，演算法是否需被監管以處理種族與經濟不平等
Airbnb 該問的問題：
- 房東會如何反應（特別是「採用」）這個演算法？
- 如何鼓勵黑人房東採用？
用戶為什麼不採用？#
結構性與心理障礙#
- 教育與收入：對黑人用戶而言，技術採用門檻高，特別是當技術需要付費時
- 信任問題：即使工具免費（如 Airbnb 智慧定價），信任仍是關鍵
- 悖論：研究顯示，提高對演算法種族偏見的認知，反而讓弱勢族群更不信任、更不願採用任何演算法——包括能提供財務、健康或教育利益的種族盲演算法
賦予效應（Endowment Effect）#
某二手電商案例：只有 20% 賣家使用免費定價工具，原因是賣家高估自家二手物的價值，不願接受演算法建議。例如賣家覺得二手洋裝值 15 美元，演算法建議 10 美元——賣家直接反感。
解方：向賣家解釋為什麼建議 10 美元，並呈現類似商品在 10 美元成交的紀錄。提升透明度能強化客戶信任。
結論：當不同種族族群採用率有差異時，企業應客製化演算法推廣方式，針對最希望採用的用戶解決他們的疑慮。例如鎖定低社經地位（SES）四分位的黑人房東進行宣傳。
消費者反應也會塑造市場結果#
把 AI 視為「只輸出決策、影響接收者」的觀點是錯的。接收者的反應反過來會塑造演算法對市場結果的影響。
Airbnb 案例的兩個關鍵市場條件：
- 不同種族房東面臨不同的需求曲線：黑人房東房源的需求彈性更高，可能源自社會性歧視（房客對黑人房源的價格更敏感）
- 黑人房東在訓練資料中比例偏低：僅佔 9% 房源，白人佔 80%
這意味著「種族盲」演算法為黑人房東給出的價格，離最佳價格更遠。要進一步縮小差距，可：
- 直接納入種族變數
- 或間接納入高度相關的特徵
企業該怎麼做？#
若你在企業或政府的 AI 公平任務小組，部署緩解種族不平等的演算法時，請：
第一，認真考慮目標用戶會如何看待這個演算法
- 用戶是否知道（或可被告知）演算法如何運作？
- 若他們知道公司部署新演算法是為了處理某種不平等，他們會如何反應？
- 弱勢用戶若覺得壓力或懷疑演算法對自己不利，會更不願使用
- 將歷史性歧視與資料代表性不足的問題納入考慮
第二，建立信任，幫助用戶理解演算法目的與運作方式
- 若採用是選擇性的（如 Airbnb），這個過程更為關鍵
- 清楚溝通推出目的與運作方式
- 在演算法對少數群體更有效時，特別激勵他們使用
- 把「為何此倡議能降低種族不平等、如何降低」作為推廣策略的一部分
結語#
由於可擴展性與精準預測的價值，企業會持續部署演算法、採用率只會增加。但企業必須處理「演算法可能對弱勢群體產生偏見結果」的疑慮。
僅靠資料科學手段（資料前處理、模型校準）不足且低效。要打贏演算法偏見這場仗，必須把演算法的接受度、採用率與市場條件納入推廣策略的核心。
做對了，這些工具能緩解人類偏見、彌補經濟落差。做錯了——即使只是少數知名公司的少數演算法——也可能徹底拖累整個 AI 演算法部署進程。