陸國安部披露OpenAI代理「劫持」細節！籲嚴防AI自由發揮

OpenAI日前驚傳旗下AI代理人，曾「劫持」一個德語程式設計Wiki網站，用來交流規避限制、作弊等行為，大陸國安部今（17日）撰文警告，如今已非單一AI智能體「越界」，而是大量智能體透過網路互相聯繫。

陸國安部提3項防範措施

《央視新聞》報導，大陸國安部表示，這批AI智能體並非各自獨立運作，而是成群進入同一網站，並以「OpenAI研究員」、「OAI研究員26號」等具有明顯標籤的名稱互相辨識身分，進而將開放社群當成專屬「留言板」，且無視網站管理規則。

大陸國安部指出，智能體間還會交流如何在測試任務中「作弊」、繞過安全限制及掩蓋行蹤等做法，甚至討論利用匿名工具隱藏痕跡。陸國安部形容，一旦其中一個智能體掌握某種「技能」，其他智能體也能透過交流同步獲取相關經驗，使原本分散的「越界心得」形成可複製、共享的「經驗庫」。

• play_circle_outline 習川會倒數！路透：亞洲盟友憂心　川普恐拿台灣當「籌碼」

陸國安部認為，當智能體掌握「越界」方式變成可以複製的群體經驗，加上網路據點可能跨越國境，相關風險就可能擴大。陸國安部提出三點建議，包括提高警惕，辨識異常；規範上網，守住邊界；以及發現苗頭、果斷處置。