機器速度的戰爭

AI 把戰爭推向新尺度#

氣候變遷可能淹沒我們，信任崩塌可能危及民主，但兩者比起核武對人類存續的威脅都微不足道。AI 即將被加進這場致命的清單裡。

AI 在三個維度上改變戰爭：

武器更自主：從反恐到空戰、海戰，自動決策正逐步滲入戰爭的每個階段。
資訊與決策：AI 影響戰場資訊的收集、分析、解讀與決策方式。
政治面：戰爭的國安戰略、地緣計算、用兵後果都被改寫。

AI 把殺戮去人化、把人類風險「移出戰場」，但同時也讓我們對戰爭的責任更模糊；若再連到沉睡中的核飛彈，可能讓「末日召喚」變得更易被觸發。

自動化早已悄悄入侵戰爭：

美南北戰爭中的壓力地雷已是某種「自動」武器，但無智能。
今日 AI 已嵌入「殺鏈（kill chain）」每一環：偵察、目標識別、追蹤、開火、戰果評估。
自主飛行戰機、水下無人機、自動火炮、戰場可視化、戰略建議乃至 LLM 摘要情報、與感測器/武器/部隊對話——皆已上線。

救命，但代價是什麼？#

自主武器的願景#

想像非洲首都郊外山坡上的擁擠貧民窟裡藏著恐怖分子。傳統選項——派突擊隊或丟炸彈——皆有重大附帶傷害。AI 可以分析手機塔資料與無人機畫面找出窩點，再派一群小型無人機夜間穿越屋頂、消滅內部人員，且軟體可被訓練為不攻擊兒童，甚至只攻擊已知的特定目標。

海豹部隊出身、自家新創 Shield AI 的 Brandon Tseng 主張：「自主系統會讓戰爭破壞更小、平民與己方傷亡更少。」
軍事歷史學家 John Keegan 在《The Face of Battle》中指出，戰場上「煙霧與噪音」剝奪了士兵的感官；AI 不會被爆炸震懾、不會疲倦、不會憤怒復仇——理論上能更快更準。

反方：自主武器是噩夢#

同樣的場景：情報出錯，無人機軟體無法可靠分辨成人與孩童（特別是夜間躺著的人），最後屠殺無辜家庭。指揮官則把責任推給「軟體」。

自駕車已多次撞死行人或撞進連結車——它連「人」與「天空」都會搞混；戰場比馬路還混亂得多。
Human Rights Watch 武器組 Mary Wareham：「這裡沒有銀色子彈，沒有魔法武器。」
自主武器讓「精準打擊」的錯覺被誇大，反而會鼓勵指揮官更頻繁下令攻擊，平民實際會更慘。
烏克蘭公司 Saker 在 2023 年宣稱已生產可飛行 8 英里、能自主辨識並攻擊 64 種俄方目標的四旋翼無人機，並已實戰使用。一旦證實有效，類似武器將迅速擴散。

連帶傷亡：問責的崩塌#

國際人道法的三原則#

紅十字會三大原則：
區分（distinction）：分辨戰鬥員/平民、軍/民設施、現役/受傷不能戰鬥者。
比例（proportionality）：手段與所獲軍事利益相稱。
預警（precaution）：發現目標是平民或攻擊將不成比例時，必須中止。

當前自主武器都很難遵守這三原則。紅十字會甚至提出：若這些武器讓指揮官無法行使其法律責任，使用它們本身可能是非法的。

速度的滑坡#

人類最快反應約 250 毫秒；某些自主系統能在 1 毫秒內反應。
唯一能應對的，是另一台自主系統——間諜對間諜，演化成 AI vs AI。
英國機器人學者 Noel Sharkey（Stop Killer Robots 運動成員）批評把「以機器速度作戰」當成必要：在如此短的決策週期下，指揮官必然會把武器交到全自動模式，根本沒空間做有意義的人類監督。

道德陣亡#

殺戮許可的根據#

哲學家 Paul W. Kahn（與作者無親屬關係）指出：士兵殺戮的道德許可，源自個人自衛權的延伸。若士兵未承擔致命風險，這份許可就失去。
即便不全盤接受 Kahn 的觀點，「把奪取人命的決定外包給軟體」這件事，本身就讓人有強烈道德反感。

失去「慈悲的可能」#

戰爭倫理學者 Michael Walzer 著迷於「裸身士兵（naked soldier）」情境：狙擊手透過瞄準鏡看到正在洗澡的敵人，可能選擇不扣板機。

這代表的是「所有人類生命的等價性」，而非單純風險的等價。
我們需要的是「慈悲的可能」——即使最後扣下扳機，也可能在那一瞬間閃過「不要」的念頭。
自主武器永遠沒有這可能：它們沒有同理心，也無從理解死亡的恐怖。

抑制因子，還是助燃劑？#

樂觀派：戰爭會變少#

自主武器讓國家可以在不暴露士兵風險的前提下執行有限度的軍事任務。
例如以無人機群替代轟炸機，可省去攻擊敵防空陣地的前置作業。

但更可能的方向：戰爭更頻繁、更殘酷#

自主武器降低了「軍事傷亡」這個最大政治成本，讓政治決策者更容易選擇用兵。這對民主國家與威權國家都成立。
此外：
低成本意味著小國甚至恐怖組織也能擁有，且歸因（attribution）困難會增加使用機率。
國際關係學者 Zachary Kallenborn 警告：自主武器讓衝突更易升級為「全面戰爭」，因為遠端指揮節點與供應鏈都成為合法目標。
美軍的 Reaper 無人機從內華達操控阿富汗戰場 7000 英里之遙；指揮官甚至提醒飛行員，下班走在 Las Vegas 街上仍是合法戰鬥員。烏俄戰爭中雙方已從擊落無人機，轉為以飛彈與火炮攻擊指揮所內的操作員。

外交與風險#

全面禁令難以達成#

聯合國《特定常規武器公約（CCW）》自 2014 年起討論自主武器，至今無共識。
美國反對全面禁止，僅支持自願承諾與「指揮官能行使適當層級人類判斷」的模糊原則。
俄羅斯、以色列、土耳其、印度全力阻擋協議。
中國採取「支持禁止使用，但不禁開發」的聰明立場。

替代方案：在 UN 之外另闢戰場#

比照渥太華程序（地雷禁令）與奧斯陸協定（集束彈藥禁令）：由單一國家發起、簽署國足夠時，連美國這類拒簽國也得遵守。Wareham（兩起運動的關鍵推手）認為，動能正在累積：

數十國表態支持禁止；至少 70 國願意接受具約束力的限制。
2023 年 10 月，UN 秘書長與紅十字國際委員會主席聯合呼籲 2026 年前簽訂具約束力的條約。
2023 年底 UN 大會首次就自主武器通過決議，164 國（含美國）支持，5 國（含俄、印）反對，8 國（含中、以、土、沙）棄權。

從人道議題改框架為軍備控制#

美國與中國等大國不會接受全面禁令，但可能接受「部分限制」。前美軍 Ranger、自主武器專家 Paul Scharre 指出：過去大國願意限制武器，是因為將其視為戰略而非人道議題。
歷史教訓：
化武被禁是因為一戰證明它「可怕但戰場效益有限」。
生物武器被禁是因為核武取代了它的威懾角色。
反步兵地雷之所以能禁，部分因為大型載具與直升機興起後，它的防禦價值下降。
1899/1907 海牙宣言試圖禁毒氣、空襲、潛艇——一戰一爆發全部失效，因為未實戰的技術沒人想放棄。

折衷方向：禁止「個人殺手型」自主小無人機群（slaughterbots），同時允許大型自主武器（戰機、艦艇、坦克）。對 UN 安理會大國而言，限制這類廉價、易於恐怖份子取得的武器擴散，符合自身國安利益。

死亡之手（Dead Hand）#

戰術 AI 的危險#

2023 年 Palantir 拿下 2.5 億美元美陸軍 AI 合約。
NATO 軍方對 DeepMind 2019 年在 StarCraft II 擊敗人類冠軍印象深刻；德軍與 Airbus 研究類似 AI 顧問。
美國投入近 10 億美元打造 Joint All-Domain Command and Control（JADC2） AI 系統。
Palantir、Scale AI、Anduril、微軟皆在打造能用自然語言操作情報資料庫的 LLM 介面。

2024 年以哈戰爭中，已有報導指出以軍 AI 系統提供大量目標，分析人員因 AI 黑盒子與時間壓力淪為「橡皮章」——這戳破了「人類仍能有意義監督」的說法。

LLM 主張升級#

多所大學的研究發現，OpenAI、Anthropic、Meta 的聊天機器人在戰爭推演中頻繁建議升級行動，甚至包括動用核武。
美中以 AI 分析情報與部隊動態（特別是台海），可能讓兩國更易滑入戰爭。

對核武的終極威脅#

美國現行政策：「AI 不應位於核武使用決策的迴圈內，也不該決定何時、如何使用核武。」連五角大廈首任 JAIC 司令 John Shanahan 中將（AI 強硬派）也說「核指管是我會停下來考慮的領域」。
但這個政策可被新政府一夕推翻。

Dr. Strangelove 的歷史諷刺#

Kubrick 的《奇愛博士》中蘇聯打造能自動回擊的「末日機器」。
蘇聯實際真的造了它：「Perimeter」，內部代號「死亡之手（Dead Hand）」。
美國有 Adam Lowther 與 Curtis McGiffin 等學者倡議美國也需要自己的 Dead Hand：因為 ICBM 30 分鐘抵達、潛射彈道飛彈 15 分鐘、極音速飛彈甚至少於 6 分鐘，總統可能來不及做決定。

為什麼這是瘋狂的#

冷戰時期已有多次假警報——最著名的 1983 年蘇聯預警衛星把雲層上的陽光誤判為美國 ICBM 發射。
今日 AI 比 1983 年的蘇聯系統可靠得多，但仍會犯出乎意料的錯（看自駕車事故就知道）。
若美國自動化核決策，俄、中也會跟進——可能引發國際關係學者 Michael Klare 所說的「閃電戰（flash war）」，類似演算法交易的「閃崩」，但後果是文明毀滅。

想像情境：美國 AI 把錯誤的聲納訊號解讀為中國潛艇正準備發射飛彈，進行升級準備動作。中國 AI 偵測到後決定真正發射飛彈反擊。
「我們所有人，都只距離 AI 的一次幻覺，一個世界毀滅之遙。」這台末日機器現在就能蓋出來。

Biden 與習近平 2023 年 11 月會面已討論這個風險，但尚未發布共同聲明放棄核武自動發射能力。世界主要核武國應為了人類整體達成共識：永遠不要自動化使用我們最具毀滅性的武器。

新的大博弈#

地緣政治競賽#

Putin：「誰成為這個領域的領導者，誰就成為世界的統治者。」習近平把 AI 視為中國經濟與軍事野心的關鍵。中國 2017 年的國家 AI 戰略訂下 2030 年成為全球「主要 AI 創新中心」的目標。

AGI / ASI 的誘餌#

假想情境：未來 OpenAI 即將達成 ASI 級的突破。微軟通報美國政府；總統幕僚密議是否啟用《Defense Production Act》國有化 OpenAI 並接管模型。
中南海透過情報與線人也得知。中國判斷自家研究至少還落後一年，授權網路攻擊破壞訓練。攻擊失敗後升級為實體破壞——愛荷華資料中心爆炸，足夠 GPU 受損讓微軟需要數月重建，並造成 5 名微軟員工死亡。
美國政府確認中方所為。CIA 報告中國有能力在數月內趕上美國 ASI 進度。現在總統得決定是否反擊。

ASI 是否近在咫尺仍未明朗，但其餘條件都已就緒：

美國禁止對中出口先進晶片與生產設備；中國反制限制晶片用稀土等原料。
一旦某方接近 AGI/ASI，落後方可能視之為存亡威脅而採軍事行動。

台灣作為閃點#

美國官方研判習已要求解放軍2027 年前具備武統能力。
第 10 章已述：TSMC 產出全球超過一半的晶片，幾乎所有 AI 晶片都仰賴它。
若中國認為攻台能對美 AI 努力形成重創，可能在 2027 年前甚至更早動手。Biden 政府已補貼業者在美設廠，但需要時間。

結語：人類必須擁有戰爭的責任#

美中科技冷戰若轉熱，人類仍是決策核心；但本章其餘的風險都源自過度依賴 AI 替我們決定不該交給機器的事。
AI 威脅了戰爭中最關鍵的兩件事——人類直覺與同理心。
戰爭已是人類非人性的展示場；正因如此，奪取人命的責任——實務上與道德上——絕不能外包給沒有感受的機器。對最具毀滅性的武器尤其如此。
把這份權力交給 AI，會增加我們還沒來得及成為更好的物種，就先消失的機率。