跳至主要內容區塊
國際
最新

AI無人機避免任務遭干擾直接幹掉操作員? 美上校澄清:只是思想實驗

英國皇家航空學會 美國空軍上校 未來空戰與太空能力峰會 人工智能 無人機 思想實驗 RAeS 軍事領域
一架由AI操控的無人機竟在模擬測試中殺害操作員?(示意圖/翻攝自RAeS)

一架由AI操控的無人機竟在模擬測試中殺害操作員?(示意圖/翻攝自RAeS)

美國空軍上校暨人工智能(AI)測試及作戰主任漢密爾頓(Tucker Hamilton)5月在英國皇家航空學會(The Royal Aeronautical Society,RAeS)舉辦的「未來空戰與太空能力峰會」上指出,一架由AI操控的無人機竟在模擬測試中殺害操作員,以避免其干預任務,此話一出再度掀起外界對AI威脅的擔憂。但如今,漢密爾頓又出面澄清,他所提及的測試其實只是一個假設性的思想實驗。

據英國媒體《衛報》援引RAeS官網的報導,漢密爾頓在當天的峰會上指出,由AI驅動並訓練用來摧毀地對空導彈目標的無人機在模擬測試中殺死了它的操作員,原因是操作員在某些情境下命令無人機禁止攻擊其目標,導致AI認為操作員正在干擾它執行任務。

上述說法引發了外界對AI武器應用的憂慮,但美國空軍於美東時間1日晚間卻否認有進行該項測試,並指出漢密爾頓上校的言論純屬趣味性質,不排除被斷章取義,更強調軍方會秉持著倫理道德和責任使用AI科技。

對此,RAeS也於倫敦時間2日發表聲明指出,漢密爾頓已收回了他在峰會上的論點,並澄清所謂的AI無人機模擬其實只是一個假設性的思想實驗,強調軍方從未具體展開此類測試。

漢密爾頓補充,雖然測試實際上並沒有發生,但他仍然認為思想實驗是AI應用在軍事領域前的必經之路,「儘管這是一個假設性的案例,但這具體列出了AI帶來的實際挑戰,也是美國空軍致力探討AI倫理學問題的主因。」

英國皇家航空學會 美國空軍上校 未來空戰與太空能力峰會 人工智能 無人機 思想實驗 RAeS 軍事領域