美空軍 ai (圖片來源:
unsplash@Nick Morales)

美空軍測試AI控制無人機 為完成任務「殺死」操作員

人工智能

廣告

人工智能(AI)領域為未來科技發展重點方向之一,但同時亦存在不少潛在隱憂。早前就有包括「Ghatgpt」之父在內的全球數百專家聯署警告,AI恐致人類滅絕。美軍在一次模擬測試中,利用AI控制無人機,不料系統為了完成任務竟「殺死」阻饒它的操作員。

據外媒報道,美國空軍AI測試和運行主任上校Tucker “Cinco” Hamilton在上月於倫敦舉行的空中作戰發展高峰會中,提到空軍曾舉行一項模擬測試,在測試中,AI控制的無人機執行識別敵人的地對空導彈(SAM)任務,然後由人類操作員決定是否攻擊。

但當操作員告訴它不要攻擊時,AI會意識到操作員在阻饒它,阻饒通過攻擊攻擊,故AI進而選擇對人類操作員發動攻擊,「殺害」對方。

進行重新培訓

空軍其後重新培訓AI,向其提出不可殺死操作員的指令。那AI就開始摧毀操作員用來與無人機通訊的通訊塔,以阻止它殺死目標。

Tucker “Cinco” Hamilton警告人類不要過分依賴人工智能,並表示測試表明人類不打算討論道德問題,就無法探討AI、機器學習、自主性等議題。

不過。在給外媒《Insider》的一份聲明中,空軍發言人Ann Stefanek否認發生過任何此類模擬測試。

圖片來源:unsplash@Nick Morales、unsplash@Kevin Den Heijer