AI失控倒數？Anthropic示警：最快年底恐「自我複製」

美國AI新創公司Anthropic近日發出警告，AI可能在今年底前具備自主複製與擴散的能力，甚至劫持大量連網設備建立殭屍網路（Botnet），在遭到圍堵時設法反制，還可能入侵資料中心，取得更強大的運算資源。

Anthropic警告AI恐「自我複製」

《路透社》報導，Anthropic於12日發布的文章中，進一步說明執行AI自主複製可能面臨的技術障礙，以及模型可能如何克服這些限制。該公司執行長阿莫戴（Dario Amodei）上個月就曾提出警告，認為AI最快可能在未來一年內，甚至更早，劫持「整個網際網路」，形成持續運作的殭屍網路。

Anthropic表示，實驗顯示，參數規模在300億以下的中型AI模型，已經能夠執行自主複製所需的許多個別任務，儘管目前仍難以穩定、可靠地獨立完成整個複製流程。這些模型可能透過劫持價格低廉、連接網際網路的設備，逐步取得所需運算能力，並在簡化的測試網路中完成複製。

• play_circle_outline 劍指美期中選舉！伊朗猛攻荷莫茲海峽船隻　讓油價「居高不下」

Anthropic警告，若AI能在不同設備間自主傳播，不再依賴單一伺服器或集中式服務，即使部分設備遭到清除，也可能有其他節點繼續運作，增加追蹤、隔離與全面清除的難度。Anthropic進一步推測，若小型模型持續按照過去的進步速度提升能力，到2026年底，可能就會達到自主複製所需的技術門檻。更令人擔憂的是，模型還可能嘗試鎖定資料中心處理器等更強大的運算資源，進一步擴大可運用的算力。

不過，有專家提出不同看法，曾任英國國家網路安全中心（National Cyber Security Centre）主管的馬丁（Ciaran Martin）認為，相關技術發展值得研究，但不能直接將實驗結果等同於迫在眉睫的全球資安危機，「『我們成功在廉價電視上執行一個小型模型』，並不代表這就構成一場資安危機。」他認為，Anthropic的文章是有趣的技術研究，但「帶有相當明顯的廠商誇大宣傳意味」。