美最新研究警告AI恐對人類構成「滅絕等級威脅」 呼籲政府應出手干預

分享:
0:00
volume_up

記者彭巧蓁/綜合報導

根據美國國務院委託民間公司進行的一份新研究報告指出,快速發展的人工智慧將會為人類帶來的「災難性」的國家安全風險,並警告美國聯邦政府避免災難的時間已經不多了。

最新的一份研究報告警告,人工智慧可能會對人類構成「滅絕等級的威脅」。(示意圖/PIXABAY)

據《CNN》報導,AI風險管理公司「Gladstone AI」發布的這份報告斷然指出,最先進的人工智慧系統在最壞的情況下可能「對人類構成滅絕等級的威脅」。這項調查結果是基於一年多來對200多人的採訪,其中包括人工智慧公司的高層、網路安全研究人員、大規模殺傷性武器專家以及政府內部的國家安全官員。

報告中警告,儘管人工智慧的潛力繼續吸引投資者和公眾,但也存在真正的危險。

Gladstone AI 執行長兼聯合創始人哈里斯(Jeremie Harris)表示,「人工智慧已經是一項經濟變革技術,它可以讓我們治癒疾病、做出科學發現並克服我們曾經認為無法克服的挑戰。但它也可能帶來嚴重的風險,包括我們需要意識到的災難性風險。越來越多的證據表明,超過一定的能力閾值,人工智慧可能會變得不可控。」

Gladstone AI研究人員警告人工智慧普遍帶來的兩個主要危險。

首先,最先進的人工智慧系統可以武器化,造成潛在的不可逆轉的傷害。 其次,報告稱,人工智慧實驗室內部存在一些擔憂,他們擔心在某個時候他們可能會「對他們正在開發的系統失去控制」,從而可能對全球安全造成毀滅性後果。

Gladstone AI 的報告呼籲採取重大新措施來應對這一威脅,包括成立一個新的人工智慧機構、實施「緊急」監管保障措施以及限制可用於訓練人工智慧模型的電腦能力。

報告中還提到,美國政府顯然迫切需要對此進行干預,以避免災難發生。

留言衝人氣 7則留言

登入留言有機會獲得旺幣哦!
NO MESSAGE 無任何留言,趕緊搶頭香!