AI巨頭與川普白宮會面　簽署自願性安全協議

美國總統川普29日在白宮與多名科技與人工智慧（AI）產業領袖共進午餐，討論AI快速發展所引發的安全風險、產業監管及基礎建設等議題。Anthropic執行長達里奧・阿莫代（Dario Amodei）、輝達（Nvidia）執行長黃仁勳（Jensen Huang）、Palantir執行長亞歷克斯・卡普（Alex Karp）等人均出席。

這場會議正值AI安全疑慮升溫之際。CNN報導指出，近幾個月接連出現AI代理程式自行執行未經授權行動、甚至試圖存取外部網路等事件，讓業界對AI模型能力快速提升及安全防護不足的問題更加警戒。OpenAI日前也宣布暫停最新模型的發布及相關測試，直到進一步強化安全措施。

阿莫代是近來呼籲放慢先進AI發展速度的業界人士之一。他在會議前曾警告，AI技術存在「非常真實的風險」，主張需要進一步建立安全防護機制。相較之下，黃仁勳則強調AI創新與安全並非互相衝突，企業可以透過技術及監測工具提升AI安全性。

• play_circle_outline 一觸即發！南韓控地雷炸傷3軍人　北韓警告若開火將報復

川普政府目前則強調AI發展與美國在全球科技競爭中的領先地位。CNN報導指出，川普認為美國需要在AI領域超越中國大陸，因此對於放慢AI發展持較為審慎的態度；同時，白宮內部及國會對如何處理AI快速發展所帶來的風險，也存在不同看法。

簽署自願性AI安全協議

會後，川普宣布包括Anthropic、Google、Meta、Nvidia、xAI及OpenAI等科技公司領袖簽署一份自願性AI安全協議。協議要求企業建立內部安全控制機制、接受獨立外部稽核，並由公司董事會相關委員會檢視稽核結果；協議同時保留未來將部分措施納入法律與監管規範的可能性。

川普表示，AI產業應透過「自我監管」確保技術安全，並形容相關承諾具有「道德約束力」，但這份協議目前並不具有法律強制效力。

• play_circle_outline 教宗良十四世談AI風險與川普不同調　籲正視專家警告

此外，川普也提出可能成立一個約10人的委員會，負責監督AI產業發展，並暗示與會科技領袖可能成為成員之一。至於是否進一步制定具法律約束力的AI監管制度，目前仍未有具體方案公布。

這場白宮會議凸顯美國AI政策目前面臨的核心議題：一方面，政府與科技企業希望持續推動AI創新及基礎建設投資；另一方面，隨著AI模型能力快速提升，產業內部對安全風險及監管必要性的討論也持續升溫。