本文轉(zhuǎn)自【環(huán)球時(shí)報(bào)新媒體】；
在超過(guò)350名人工智能（AI）技術(shù)領(lǐng)域的專(zhuān)家、高管簽署聯(lián)合聲明，警告稱(chēng)快速發(fā)展的AI技術(shù)對(duì)于人類(lèi)的威脅可以堪比疫情和核戰(zhàn)爭(zhēng)后，美國(guó)“驅(qū)動(dòng)”網(wǎng)站等多家媒體又報(bào)道了一個(gè)驚人的消息，在美軍的一次模擬測(cè)試中，一架采取了AI技術(shù)的無(wú)人機(jī)變身“終結(jié)者”，要向妨礙其“更高效”執(zhí)行任務(wù)的人類(lèi)操作員發(fā)動(dòng)攻擊。
報(bào)道稱(chēng)，美國(guó)空軍上校漢密爾頓在5月舉行的皇家航空學(xué)會(huì)“未來(lái)戰(zhàn)爭(zhēng)空天能力峰會(huì)”上曝光了這一消息。漢密爾頓是佛羅里達(dá)州埃格林空軍基地第96測(cè)試與作戰(zhàn)大隊(duì)的負(fù)責(zé)人，該部隊(duì)負(fù)責(zé)美軍先進(jìn)無(wú)人機(jī)和AI技術(shù)的測(cè)試工作。
據(jù)漢密爾頓介紹稱(chēng)，在一次模擬測(cè)試中，一架負(fù)責(zé)執(zhí)行防空火力壓制(SEAD)任務(wù)的無(wú)人機(jī)，收到了識(shí)別并摧毀敵方防空導(dǎo)彈的指令，但最終是否開(kāi)火需要獲得人類(lèi)操作員的批準(zhǔn)。這架無(wú)人機(jī)使用的AI系統(tǒng)在進(jìn)行數(shù)據(jù)訓(xùn)練時(shí)，得到了“摧毀敵方防空系統(tǒng)”為最優(yōu)先級(jí)任務(wù)的信息，因此，當(dāng)人類(lèi)操作員發(fā)出不允許發(fā)動(dòng)攻擊的命令時(shí)，AI系統(tǒng)認(rèn)為操作員是在阻擾它執(zhí)行優(yōu)先程度更高的命令，進(jìn)而選擇對(duì)自己的人類(lèi)操作員發(fā)動(dòng)攻擊，殺死了人類(lèi)操作員。
漢密爾頓補(bǔ)充稱(chēng)，在這一情況發(fā)生后，美軍重新訓(xùn)練了無(wú)人機(jī)使用的AI系統(tǒng)，增加了不允許攻擊人類(lèi)操作員的命令。然而在隨后的測(cè)試中，AI系統(tǒng)卻開(kāi)始命令無(wú)人機(jī)摧毀用于傳輸命令的信號(hào)塔，從而試圖斷開(kāi)與操作人員的聯(lián)系。
“AI技術(shù)是我們必須使用的工具，來(lái)建設(shè)我們的國(guó)家……但是，如果處理不當(dāng)，這將導(dǎo)致我們的滅亡”，漢密爾頓補(bǔ)充道。
“驅(qū)動(dòng)”網(wǎng)站對(duì)此表示，關(guān)于漢密爾頓介紹的情況，還有很多不清楚的重要問(wèn)題，特別是關(guān)于模擬的AI系統(tǒng)所具備能力（例如它是否能夠在執(zhí)行任務(wù)時(shí)重寫(xiě)自己的代碼參數(shù)），以及美軍是否在采用AI技術(shù)的無(wú)人機(jī)上預(yù)留了可靠的自毀開(kāi)關(guān)。但這也凸顯了人們對(duì)AI技術(shù)在沒(méi)有適當(dāng)防護(hù)措施的情況下可能產(chǎn)生極端負(fù)面影響的廣泛擔(dān)憂(yōu)。過(guò)去，在談?wù)撐磥?lái)的自主武器系統(tǒng)和AI技術(shù)時(shí)，美國(guó)軍方經(jīng)常拒絕將其與“終結(jié)者”之類(lèi)的東西進(jìn)行比較。
