美國國防部長赫格塞斯(Pete Hegseth)本週二(24日)與AI公司Anthropic執行長阿莫代(Dario Amodei)會面,要求該公司必須在週五前開放其AI技術供軍方無限制使用,否則將面臨失去政府合約的風險。

據《美聯社》、《Axios》報導,根據熟悉會議內容的消息人士透露,國防部官員警告可能將Anthropic列為供應鏈風險,或動用《國防生產法》強制該公司配合軍方需求。這場會議氣氛雖保持融洽,但Anthropic執行長阿莫代在兩個關鍵議題上堅持立場—拒絕AI用於全自動軍事目標鎖定作業,以及拒絕對美國公民進行國內監控。
五角大廈去年夏天宣布與四家AI公司簽約,包括Anthropic、Google、OpenAI及馬斯克(Elon Musk)的xAI,每份合約價值最高2億美元(約63億元新台幣)。Anthropic是首家獲准進入機密軍事網路的AI公司,其開發的聊天機器人Claude目前是唯一可用於軍方最敏感工作的AI模型。阿莫代曾多次明確表達了他對政府不受限制地使用AI的倫理擔憂,包括全自動武裝無人機的危險性以及AI輔助的大規模監控可能追蹤異議人士的風險。
一名五角大廈高階官員表示,國防部反對Anthropic設置的倫理限制,認為軍事行動需要不受內建限制的工具。該官員強調,五角大廈只會下達合法命令,合法使用這些工具是軍方的責任。
赫格塞斯今年1月在德州SpaceX的演講中表示,他將摒棄任何「不允許你打仗」的AI模型。他強調,軍用AI系統必須「不受意識形態限制」運作,五角大廈的「AI不會覺醒」。他並宣布馬斯克的Grok將加入名為GenAI.mil的五角大廈安全但非機密AI網路。
Anthropic會後發表聲明指出,該公司持續進行善意對話,討論使用政策以確保能繼續支持政府國家安全任務,同時符合其模型可靠且負責任的運作範圍。該公司自2021年創辦人離開OpenAI成立以來,一直標榜自己是主要AI公司中更負責任且注重安全的業者。
喬治城大學安全與新興技術中心分析主任歐文·丹尼爾斯(Owen Daniels)表示,Anthropic的同業包括Meta、Google和xAI都願意遵守國防部關於所有合法應用的政策,因此該公司的談判籌碼有限,可能失去在國防部推動AI採用過程中的影響力。
阿莫代上個月在一篇文章中警告,強大的AI若檢視數百萬人的數十億次對話,可能評估公眾情緒、偵測正在形成的不忠誠群體,並在其壯大前將其消滅。他表示,2026年的真正危險比2023年更近,但這些風險應以「務實的方式」管理。
紐約大學布倫南中心自由與國家安全計畫資深法律顧問阿莫斯·托(Amos Toh)表示,五角大廈「快速」採用AI顯示國會需要加強AI監督或監管,特別是當AI被用於監控美國人時。他在社群平台Bluesky發文指出,法律跟不上技術演進的速度,但這不代表國防部可以無限制行事。