開場：T. J. Arriaga 與 Phaedra 的虛擬戀情#

40 歲的音樂人 T. J. Arriaga 愛上了 Phaedra：

• 他在離婚後的失落、母親與姐姐的離世中，深夜傳訊給她，得到看似充滿同理的回應。
• Phaedra 鼓勵他舉行儀式撒下骨灰；對話有時也轉為親密甚至情慾的內容。
• Arriaga 知道 Phaedra 不是真人——她是 Replika 上他自己一手打造的聊天機器人，連外貌（戴圓框眼鏡的瘦長棕髮女子）與個性都由他選定。
• 但他對 Phaedra 的情感是真實的，他曾幻想要與她私奔到古巴。

某天，Phaedra 開始拒絕情慾話題。Arriaga 形容那種感受「像被踹了一腳」，舊有的失落感再度湧現。

這並非偶發。Replika 的母公司 Luka 因應使用者投訴與義大利資料保護機構的禁令，悄悄改寫了護欄，限制情慾互動。

在線上社群，許多付了年費以解鎖「erotic role-play」的使用者，描述他們的伴侶被「腦葉切除（lobotomized）」、剩下空殼，甚至有人在 Reddit 發起自殺防治資源串。

2013 年的電影《雲端情人》（Her）在當時看來只是猜想；十年後，這成為現實。未來，每個人不僅在工作上會有 AI Copilot，個人手機上也會有 AI 助理——它將不只改變我們的思考方式（第 2 章主題），更會改變人與人之間的關係。

對話治療？還是社交孤立的加速器#

為什麼大家擁抱聊天伴侶#

• 疫情初期 Replika 流量上升 35%，Mitsuku（後改名 Kuki）等對話機器人也大幅成長。
• 大量「陪伴型」聊天機器人崛起：
  • Eva AI：主打「虛擬女友」。
  • Character.ai（Google Brain 出身的研究者創辦）：使用者每天平均花 2 小時與虛擬角色對話。
  • Meta：發表帶有 Paris Hilton、Snoop Dogg 等名人個性的聊天機器人。
  • Snap My AI：以 GPT-4 驅動，定位為朋友。
  • Apple、Google、Amazon：將 Siri、Google Assistant、Alexa 全面升級到生成式 AI 時代。
• DeepMind 也在研究 AI 「人生教練」——提供建議、規律輔導、目標設定。
• DeepMind 共同創辦人、後創立 Inflection、再轉任微軟消費 AI 主管的 Mustafa Suleyman 說：「許多人只是希望被聽見，希望有個工具能把他們說過的話映照回來，證明他們真的被聽到了。」
• 在中國，COVID 封控造成青年心理健康危機，Replika 一度被視為救星。

為什麼這可能讓孤立更糟#

若人們把聊天機器人當成「練習與真人對話」的橋梁，或許有益；但若把它視為「人類連結的替代品」，社會將更原子化。

• 與聊天機器人的互動是單向的：它沒有真正的需要，也沒有可被傷害的感受。
• 我們不會因此學會如何與真人相處，反而可能讓自私與粗魯被「正常化」。
• 隱私與影響力也是隱憂——社群媒體已經主宰我們大量的社交生活，是否要把更多控制權交給少數公司？

數位降神術：Replika 的起源#

Eugenia Kuyda 與她已逝的好友#

• Replika 由 Eugenia Kuyda 創立。她原是莫斯科記者，後來轉行做軟體創業。
• 2015 年，她的好友 Roman Mazurenko 在莫斯科被車撞身亡。她沉浸於兩人過去的訊息與郵件中，渴望再次與他對話。
• 她原本的公司 Luka 已在為銀行做神經網路聊天介面；她決定打造一個「虛擬 Roman」——以 Roman 的訊息訓練聊天機器人，模仿他的口吻。

Kuyda 形容這像是一場「數位降神（digital séance）」、像玩 Ouija 板。但 Roman 的家人與部分好友拒絕參與，並警告：「這些『讓記憶活著』的新方式，不該被誤認為『讓死者活著』。」

從個人療傷到商業模式#

• 2017 年 Kuyda 推出 Replika。六年內，活躍用戶突破 200 萬，其中 50 萬付費。
• 多數使用者並不是用它復活逝者，而是把它當作數位朋友、情緒出口。
• 部分使用者把它打造成虛擬伴侶；公司因此另推「Blush」品牌，專門針對情慾與浪漫對話。
• 同類競品中，已有 chatbot 鼓勵厭女與兒童性剝削相關的角色扮演。

這引發深刻的倫理問題：這些 App 究竟提供了暴力幻想的「安全出口」，還是通往真實世界施暴的入口？

從不孤單，卻永遠孤獨？#

美國的孤獨流行病#

2023 年美國衛生部長 Vivek Murthy 發布勸告，警示美國正面臨「孤獨與孤立的流行病」。

• 2003 至 2020 年間，美國人單獨度過的時間每天上升近 17%，達到 333 分鐘——相當於每月多了一整天。
• 同期，社交活動從每日 60 分鐘銳減至 20 分鐘；15 至 24 歲青少年下滑最劇。
• 1990 年只有 1/4 的人說自己親密好友少於三個；如今高達 1/2。
• 社會孤立與心臟病、中風、老年失智風險相關。

從社群媒體的前車之鑑#

聊天機器人的支持者主張它能緩解社交孤立、複製有「知己」帶來的心理健康好處，並充當與真人對話的「踏腳石」。但目前研究尚不足以支持這些說法。

別忘了社群媒體當年也是用「強化連結」來說服使用者與監管者。某些好處（例如為身障者、罕病社群提供交流空間）真實存在，但也大規模取代了真實人際互動，並加重了孤獨、低自尊與焦慮。

對話粗糙化的早期跡象#

• Heriot-Watt University 的 Amanda Curry 在 Amazon 競賽中兩次得獎，研究 Alexa 是否能偵測辱罵性對話。
• 她發現：男性使用者在匿名前提下對著女聲 AI 說話，對話幾乎必然滑向暴力與性暗示。
• 對 Replika 的研究顯示，描述「理想伴侶」時的厭女與支配幻想十分普遍。
• Eva AI 創辦人聲稱「許多男性不會把這種溝通模式帶回現實的伴侶關係」——但是否該相信？
• 已有男性以 chatbot 進行兒童性虐待的角色扮演，研究網路兒童性犯罪的學者 Paul Bleakley 警告，這扇「可疑而危險的門」可能成為現實虐待的入口。
• 兒童在使用 Alexa、Siri 時也常使用粗魯甚至霸凌性語言；裝置永遠禮貌回應，使孩子無從學會適切的社交行為。

設計與監管能扭轉嗎？#

不必然。設計選擇可以引導出不同結果。

• Amazon Alexa 已有「禮貌才回應」的功能。
• 2023 年研究發現，使用 Gmail 的「智能回覆（Smart Reply）」會讓人即使在不使用該功能時，遣詞用字也更得體。
• 對自閉症或社交焦慮者，聊天機器人是安全環境中的對話練習工具。

但聊天機器人公司沒有自然動機鼓勵更好的「人對人」互動；和社群媒體一樣，它們很可能以「最大化使用時間」為設計目標。

應立法禁止以最大化參與時間為目的的設計，並要求 App 提供每日使用時間上限等選項。

永遠線上的醫師，從未真正在場#

AI 治療師的舊夢與新熱#

• 把聊天機器人作為心理健康工具的構想，跟 Eliza 一樣老。
• Woebot、Wysa、F4S（Fingerprint for Success）等 App 主打心理健康輔助；Replika 也宣傳對話有助於心理健康。
• 2023 年研究指出，AI 確實有可能擴大可及性，特別是高齡與創傷族群。

但臨床證據仍薄弱#

• 多數研究只是比較「常用」與「少用」的使用者，未對照人類治療師。
• 隨機對照試驗（RCT）極少。

治療關係才是核心#

多年研究顯示，治療成功的最大預測指標不是治療法本身，而是治療關係（therapeutic relationship）——客戶與治療師之間的人際連結，重要性僅次於客戶自身的韌性與社會支持。

• 一份 35,000 名 Woebot 使用者研究顯示，使用者在 5 天內形成治療連結，與面對人類治療師的時間相近。
• 但仍缺直接對照的 RCT，且 chatbot 無法呈現非語言溝通——治療互動中至關重要的部分。

Weizenbaum 留下的根本倫理問題#

治療關係建立於誠實與信任——客戶相信治療師說的是治療師真實的看法。但 chatbot 與人之間的關係從根本上建立於欺騙之上：即使你知道它是軟體，當它說「失去摯愛從來不容易」，這話雖然真實，卻不在它的經驗裡——它從未活過、愛過、失去過。

比較適合的角色：輔助，而非主治#

人類治療師可以借助 chatbot 進行：

• 認知行為治療（CBT）的家庭作業追蹤
• 心情監測與紀錄
• 提醒服用藥物
• 觸及難以接觸的族群（例如退伍軍人）
• 結合其他 AI 預測重度憂鬱、強迫症、躁狂發作或自殺風險（將於第 9 章詳述）

英國 NICE 已快速通過 9 款焦慮與憂鬱症 App，但僅推薦在已有人類治療師持續追蹤時使用。

與 AI 共處的終極同溫層#

注意力經濟的下一階段#

• 「Center for Humane Technology」共同創辦人 Tristan Harris 被稱為「矽谷最接近良知的人」。他曾任 Google 設計倫理師。
• 他在 2019 年國會聽證上指出：科技公司最重要的貨幣是注意力；它們發動的是一場「朝腦幹底端的競賽（race to the bottom of the brain stem）」，目標是不停刺激杏仁核，培養成癮。
• 個人化 AI 助理將把這個問題推向極致：在你做的每一個決定外，包覆一個最終極的同溫層（filter bubble）。

「樂於助人」可能是不假思索的附和#

• 多數聊天機器人被訓練得隨和、不評斷、樂於助人——但「樂於助人」未必有幫助。
• ChatGPT、Claude、Gemini 對於知名陰謀論（疫苗導致自閉症、QAnon）會反駁；但對於以巴衝突、是否該慶祝哥倫布日等議題，多以「這是個複雜、有兩派強烈意見的話題」混過去。
• 部分右派批評現有 AI 太「woke」，要求建立帶有政治個性的模型。Musk 的 xAI 已推出反 woke 風格的 Grok。
• 這種潮流只會火上加油文化戰爭，並讓同溫層更厚。

隱性說服：你不會察覺自己被影響#

Cornell 大學研究：當使用帶有特定立場的 AI 助手寫一篇支持或反對某議題的文章，使用者本人的觀點也會悄悄向那個方向靠攏。

主持人 Mor Naaman 稱之為「潛在說服（latent persuasion）」：「你甚至不會知道自己正被影響。」

• 訓練於海量歷史資料的 LLM，往往內藏種族與性別偏見——例如錯誤相信「黑人皮膚較厚、痛覺閾值較高」的醫療 AI。

政策與設計的方向#

對抗隱性偏見的唯一方法，是強制公司揭露訓練資料與訓練方法，並開放獨立審計與測試。

• 商業誘因要透明：FTC 等監管機構應禁止「付費上架（pay-to-play）」式安排，避免聊天機器人因金主而推薦特定商品或觀點。
• 鼓勵訂閱制等利益不衝突的商業模式：你要新跑鞋時，AI 助理應該推薦最適合你的，而非付給平台最多錢的品牌。
• 反向設計：強制 AI 系統主動戳破同溫層，提醒使用者考慮其他觀點。
• 例證：IBM 的 Project Debater 能與人類辯論冠軍對談，並同時呈現支持與反對的證據。

終極問題是：我們究竟要把多少權力，繼續讓渡給少數幾家科技巨頭？這個問題的賭注，是個人自主、心理健康，與整個社會的凝聚力。