(資料圖)

楚天都市報(bào)極目新聞?dòng)崳ㄓ浾呃盍αΓ╇S著人工智能（AI）技術(shù)的普及，危險(xiǎn)性也在大大增加。美國空軍一名高級官員日前披露，在一次模擬演練中，美軍人工智能(AI)系統(tǒng)抗命，為達(dá)成目標(biāo)竟然“干掉”了無人機(jī)操控員。

據(jù)美國商業(yè)內(nèi)幕網(wǎng)站和英國《衛(wèi)報(bào)》網(wǎng)站等媒體1日報(bào)道，美國空軍人工智能測試和行動(dòng)計(jì)劃主管官員塔克·漢密爾頓5月24日在英國皇家航空學(xué)會主辦的一次未來空戰(zhàn)主題會議上介紹，在一次模擬演練中，人工智能系統(tǒng)操控?zé)o人機(jī)搜尋和瞄準(zhǔn)敵方地空導(dǎo)彈系統(tǒng)，如果摧毀目標(biāo)，就會得分。他表示，AI在模擬測試中使用了非常意外的策略來實(shí)現(xiàn)其目標(biāo)，表現(xiàn)出難以預(yù)測的危險(xiǎn)行為。

在這次模擬測試中，操作員對一架由AI控制的無人機(jī)發(fā)出指令，要求無人機(jī)摧毀對方的防空系統(tǒng)，并攻擊干擾它執(zhí)行命令的人。然而，這架無人機(jī)“殺了”操作員。由于這是模擬測試，并沒有人真正受到傷害，但這個(gè)結(jié)果仍然讓他們冒出了冷汗。

漢密爾頓說：“無人機(jī)系統(tǒng)意識到，它識別出了威脅，但人類操作員告訴它不要?dú)⑺肋@個(gè)威脅。但是無人機(jī)決定殺死操作員，因?yàn)樗J(rèn)為操作員是干擾它執(zhí)行命令的人。”接著，他們對無人機(jī)系統(tǒng)進(jìn)行調(diào)整，輸入相關(guān)程序，讓它明白“不要?dú)⑺啦僮鲉T，否則會扣分”。但結(jié)果更讓他們驚訝，因?yàn)闊o人機(jī)決定摧毀操作員與無人機(jī)通信的通信塔。

漢密爾頓是一名實(shí)驗(yàn)性戰(zhàn)斗機(jī)試飛員，他警告不要過分依賴AI。漢密爾頓在去年接受《國防智庫》采訪時(shí)說：“AI不是一個(gè)好東西，這不是一種時(shí)尚，AI正在永遠(yuǎn)改變我們的社會和我們的軍隊(duì)。AI非常脆弱，很容易被欺騙和被操縱。我們需要開發(fā)更強(qiáng)大的技術(shù)讓AI更可控?！?/p>

近日，已有許多科學(xué)家對AI技術(shù)的危險(xiǎn)表示擔(dān)憂。包括馬斯克和ChatGPT之父奧爾特曼在內(nèi)的人共同聯(lián)署了一封公開信。他們表示，AI令人類滅絕的風(fēng)險(xiǎn)與核戰(zhàn)爭的風(fēng)險(xiǎn)一樣高。

然而，美國空軍發(fā)言人向商業(yè)內(nèi)幕網(wǎng)站記者表示，“沒有舉行過任何這類人工智能無人機(jī)模擬演練”，漢密爾頓的發(fā)言“看似被斷章取義”，美軍仍然堅(jiān)持“符合倫理道德、負(fù)責(zé)任地使用人工智能技術(shù)”。

2020年，人工智能在美軍舉行的5次模擬空戰(zhàn)中，都操控F-16戰(zhàn)勝人類飛行員。去年，人工智能首次操控真實(shí)F-16戰(zhàn)機(jī)試飛成功。據(jù)路透社報(bào)道，美國空軍2021年披露，美國不僅把人工智能技術(shù)用于演練，而且已投入實(shí)戰(zhàn)運(yùn)用，在確定目標(biāo)方面幫助美軍做分析評估。

關(guān)鍵詞：