Bayraktar TB2無人機(jī)可以自動(dòng)起飛和降落,，但需要由人類操作人員發(fā)起攻擊,。圖片來源：NINA LIASHONOK—UKRINFORM/FUTURE PUBLISHING/GETTY IMAGES

位于烏克蘭基輔（Kyiv）的街頭，裝有爆炸物的無人機(jī)像死魚一般肚皮朝上躺在地上,，發(fā)出刺耳的噪音,，尾部的螺旋槳已經(jīng)變形。這架無人機(jī)攜帶的致命爆炸物并未引爆,，墜毀原因可能是故障或者被擊落,。

這架無人機(jī)的照片很快被上傳到社交媒體，有武器專家確認(rèn)這是由俄羅斯的武器制造商卡拉什尼科夫集團(tuán)（Kalashnikov）的無人機(jī)部門扎拉航空（Zala Aero）生產(chǎn)的KUB-BLA“巡飛彈”,。這類巡飛彈俗稱“自殺式無人機(jī)”,，可以自動(dòng)飛到指定區(qū)域，巡航最長30分鐘。

無人機(jī)的操作員能夠遠(yuǎn)程監(jiān)控其拍回的視頻,，等到地面出現(xiàn)敵軍的士兵或者坦克時(shí)發(fā)起攻擊,。在某些情況下，無人機(jī)會(huì)安裝人工智能軟件,，使其可以根據(jù)輸入到機(jī)載系統(tǒng)的圖像獵殺指定目標(biāo),。無論在哪種情況下，只要無人機(jī)發(fā)現(xiàn)敵人并且操作人員選擇攻擊,，這種無人機(jī)就會(huì)朝目標(biāo)俯沖而下,，然后爆炸。

俄烏戰(zhàn)場(chǎng)成為日益先進(jìn)的巡飛彈的重要試驗(yàn)場(chǎng),。這引起了人權(quán)活動(dòng)家和技術(shù)人員的警惕,。他們擔(dān)心，這代表戰(zhàn)場(chǎng)上利用“殺手機(jī)器人”的時(shí)代即將來臨,。這些由人工智能控制的武器有可能會(huì)在沒有人類決策的情況下自動(dòng)獵殺人類,。

隨著這項(xiàng)技術(shù)的快速完善和成本下降，它引起了各國軍隊(duì)的密切關(guān)注,。小型半自動(dòng)無人機(jī)的賣點(diǎn)在于,，它的價(jià)格只有體型更大的“捕食者”（Predator）無人機(jī)的幾分之一，而且不需要由經(jīng)驗(yàn)豐富的飛行員遠(yuǎn)程操控,?！安妒痴摺睙o人機(jī)的價(jià)格可能高達(dá)數(shù)千萬美元。步兵只要接受一點(diǎn)培訓(xùn),，就能夠輕松使用這些新型自動(dòng)化武器,。

美國海軍海豹突擊隊(duì)（Navy SEAL）的前隊(duì)員、美國Shield AI公司的聯(lián)合創(chuàng)始人及首席增長官布蘭登·曾（Brandon Tseng）說：“‘捕食者’無人機(jī)的價(jià)格過于昂貴,，因此各國開始思考：‘能否用體積更小,、價(jià)格更低的無人機(jī)實(shí)現(xiàn)98%的作戰(zhàn)效果？’”Shield AI公司致力于生產(chǎn)小型無人偵察機(jī),，使用人工智能進(jìn)行導(dǎo)航和圖像分析,。

但人權(quán)組織和一些計(jì)算機(jī)科學(xué)家擔(dān)心，這項(xiàng)技術(shù)將給戰(zhàn)區(qū)的平民甚至整個(gè)人類帶來新的嚴(yán)重威脅,。

國際特赦組織（Amnesty International）的高級(jí)顧問維里蒂·科伊爾（Verity Coyle）稱：“目前的巡飛彈還有人類操作人員負(fù)責(zé)決定攻擊目標(biāo),，但取消人類操作并不難。一個(gè)巨大的威脅在于,，如果沒有清晰的法規(guī),，也就無法明確使用無人機(jī)的紅線在哪里?！眹H特赦組織參與了“停止殺手機(jī)器人”（Stop Killer Robots）活動(dòng),。

聯(lián)合市場(chǎng)研究公司（Allied Market Research）預(yù)測(cè),，全球人工智能驅(qū)動(dòng)的各類致命武器市場(chǎng)發(fā)展迅速，其規(guī)模將從今年的近120億美元,，增長到這個(gè)十年底的300億美元,。Grand View Research公司表示，僅美國目前每年在巡飛彈方面的支出就高達(dá)約5.8億美元,，到這個(gè)十年底將增加到10億美元,。

從事巡飛彈生產(chǎn)的以色列國防公司UVision的國際銷售與營銷總監(jiān)達(dá)干·勒夫·阿里（Dagan Lev Ari）表示，最初巡飛彈需求增長緩慢,，直到2020年亞美尼亞與阿塞拜疆爆發(fā)沖突,。當(dāng)時(shí)阿塞拜疆使用先進(jìn)無人機(jī)和巡飛彈摧毀了亞美尼亞的大量坦克和火炮，幫助其取得了決定性的勝利,。

勒夫·阿里指出,，那場(chǎng)戰(zhàn)爭(zhēng)讓許多國家對(duì)巡飛彈產(chǎn)生了興趣。美國開始大規(guī)模采購,，包括UVision的“英雄”（Hero）系列自殺式無人機(jī),，以及由美國公司AeroVironment生產(chǎn)的“彈簧刀”（Switchblade）無人機(jī),，也推動(dòng)了該市場(chǎng)的增長,。勒夫·阿里補(bǔ)充道，俄烏沖突加快了需求增長速度,。他說：“人們突然發(fā)現(xiàn)歐洲可能爆發(fā)一場(chǎng)戰(zhàn)爭(zhēng),，國防預(yù)算不斷增加?！?/p>

巡飛彈的價(jià)格雖然低于某些武器,，但實(shí)際上并不便宜。例如,，有報(bào)告稱,，一架“彈簧刀”無人機(jī)包括發(fā)射控制系統(tǒng)和彈藥在內(nèi)的價(jià)格高達(dá)7萬美元。

據(jù)稱,，美國將向?yàn)蹩颂m提供了100架“彈簧刀”無人機(jī),。這些“彈簧刀”無人機(jī)將作為烏克蘭現(xiàn)有的土耳其造Bayraktar TB2無人機(jī)的補(bǔ)充。Bayraktar TB2無人機(jī)可以自動(dòng)起飛,、降落和巡航,，但需要由人類操作人員尋找目標(biāo)和發(fā)出發(fā)射機(jī)載火箭或投彈的命令。

巡飛彈并不是新鮮事物,。最早的巡飛彈能夠追溯到20世紀(jì)60年代,，當(dāng)時(shí)的飛航式導(dǎo)彈可以飛到指定區(qū)域搜索敵軍防空系統(tǒng)的雷達(dá)信號(hào)。區(qū)別在于現(xiàn)在的巡飛彈技術(shù)更復(fù)雜,、更準(zhǔn)確,。

理論上,，人工智能武器系統(tǒng)能夠減少戰(zhàn)場(chǎng)上的平民傷亡。計(jì)算機(jī)處理信息的速度比人類更快,，并且不會(huì)受到戰(zhàn)斗帶來的生理和情緒壓力的影響,。在激烈交火中，計(jì)算機(jī)還可以更準(zhǔn)確地判斷房子后面突然出現(xiàn)的是敵軍士兵還是一名兒童,。

但人權(quán)活動(dòng)家和許多人工智能研究者卻警告,，面對(duì)是否要扼殺一個(gè)人的生命這個(gè)對(duì)所有人而言都最重要的決定，今天基于機(jī)器學(xué)習(xí)的算法在實(shí)踐中并不值得信任,。圖像識(shí)別軟件在某些測(cè)試中雖然能夠媲美人類的能力,，但在許多現(xiàn)實(shí)場(chǎng)景中，比如雨天或雪天環(huán)境,，或者在光影對(duì)比明顯的環(huán)境下,，這類軟件有明顯的不足。

它經(jīng)常會(huì)犯一些人類從來不會(huì)犯的稀奇古怪的錯(cuò)誤,。例如在一次試驗(yàn)中,，研究人員成功欺騙了一個(gè)人工智能系統(tǒng)，通過微調(diào)圖像的像素圖案,，使系統(tǒng)把一只烏龜識(shí)別成一把步槍,。

即使目標(biāo)識(shí)別系統(tǒng)可以做到完全精確無誤，自動(dòng)武器依舊會(huì)帶來嚴(yán)重的威脅,，除非它能夠理解整個(gè)戰(zhàn)場(chǎng)上的細(xì)微差別,。比如，人工智能系統(tǒng)可以準(zhǔn)確識(shí)別敵軍坦克,，卻無法理解它?？康牡攸c(diǎn)在一家幼兒園旁邊，為避免平民受傷不應(yīng)該發(fā)動(dòng)攻擊,。

支持禁止使用自動(dòng)武器的人們還強(qiáng)調(diào)了“殺戮機(jī)器人”的危險(xiǎn),，例如大量?jī)r(jià)格相對(duì)低廉的小型無人機(jī)群經(jīng)過改造能夠投放具有殺傷性的手榴彈，或者改造為巡飛彈,。理論上,，這類無人機(jī)群可以用于殺死某個(gè)區(qū)域內(nèi)的所有人，或者實(shí)施種族滅絕,，殺死具有某類種族特征的所有人,，甚至能夠利用面部識(shí)別技術(shù)來執(zhí)行暗殺。

麻省理工學(xué)院（MIT）的物理學(xué)教授,、生命未來研究所（Future of Life Institute）的聯(lián)合創(chuàng)始人馬克思·泰格馬克（Max Tegmark）表示,，成群結(jié)隊(duì)的殺戮機(jī)器人將成為“窮人的大規(guī)模毀滅性武器?！鄙磥硌芯克铝τ诮鉀Q人類面臨的“生存風(fēng)險(xiǎn)”,。這類自動(dòng)化武器可能動(dòng)搖現(xiàn)有的世界秩序,，因此他希望美國和俄羅斯等大國至少可以同意禁用這類殺戮機(jī)器人無人機(jī)和巡飛彈，盡管這些國家一直在研發(fā)從機(jī)器人潛艇到無人駕駛戰(zhàn)機(jī)等各種人工智能武器,。

聯(lián)合國（United Nations）希望出臺(tái)禁令,，限制致命自動(dòng)化武器的開發(fā)和銷售，但到目前為止以失敗告終,。聯(lián)合國下屬的一個(gè)委員會(huì)已經(jīng)用八年多時(shí)間,，討論如何處理這類武器，但始終未能達(dá)成任何共識(shí),。

雖然現(xiàn)在有66個(gè)國家支持出臺(tái)相關(guān)禁令,，但該委員會(huì)需要達(dá)成共識(shí)才能夠運(yùn)行，而美國,、英國,、俄羅斯、以色列和印度均持反對(duì)立場(chǎng),。中國雖然也在開發(fā)人工智能武器,，但已經(jīng)表態(tài)支持禁令，只是在各國沒有簽署條約的情況下,，中國不會(huì)單方面放棄研發(fā),。

對(duì)于殺戮機(jī)器人帶來的反烏托邦未來，生產(chǎn)巡飛彈和其他人工智能武器的公司表示,，這些武器只是為了增強(qiáng)人類在戰(zhàn)場(chǎng)上的能力,，而不是要取代人類,。勒夫·阿里稱：“我們不希望武器自動(dòng)攻擊,。”但他承認(rèn)其公司正在武器中添加基于人工智能的目標(biāo)識(shí)別系統(tǒng),，以提高其自主性,。他說：“這是為了協(xié)助人類做出必要決策?！?/p>

勒夫·阿里指出,，即使武器可以找到目標(biāo)，比如發(fā)現(xiàn)一輛敵軍坦克,，這并不意味著它是最佳攻擊目標(biāo),。他說：“那輛坦克可能已經(jīng)無法行駛，而附近可能還有一輛更具有威脅性的坦克,?！?/p>

英國謝菲爾德大學(xué)（University of Sheffield）的計(jì)算機(jī)科學(xué)專業(yè)榮譽(yù)教授諾埃爾·夏基（Noel Sharkey）是“停止殺手機(jī)器人”活動(dòng)的發(fā)言人。他表示,，自動(dòng)化正在加快戰(zhàn)場(chǎng)的節(jié)奏,，人類沒有人工智能協(xié)助識(shí)別目標(biāo)可能很難做出有效響應(yīng),。一種人工智能創(chuàng)新必然會(huì)增加需求，演變成軍備競(jìng)賽,。夏基稱：“這將導(dǎo)致大規(guī)模人道主義災(zāi)難,。”

*****

致命的科技

人工智能武器已經(jīng)被投入使用,，但大多數(shù)武器未經(jīng)人類同意無法選擇和攻擊目標(biāo),。這樣的例子不勝枚舉。

?

Orca潛水艇

美國海軍（U.S. Navy）正在與波音公司（Boeing）合作開發(fā)一款長51英尺（約15.54米）的潛水艇Orca,。其目標(biāo)是使這款潛水艇能夠自動(dòng)巡航6,500海里（約12,038千米）,，可以使用聲吶探測(cè)敵軍船只和水雷。這款潛水艇的初始版本未配備武器,，但美國海軍表示最新款能夠發(fā)射魚雷,。

?

Kargu 2無人機(jī)

聯(lián)合國曾經(jīng)得出結(jié)論，稱由土耳其公司STM生產(chǎn)的一架小型四旋翼飛行器,，在2020年自動(dòng)攻擊了一個(gè)利比亞軍閥的武裝,，這讓其名聲大噪。據(jù)稱這是第一次有自殺式無人機(jī)自行選擇攻擊目標(biāo),。但STM否認(rèn)其無人機(jī)具備這一功能,。

?

SGR-A1自動(dòng)機(jī)槍

由韓國的韓華航空航天公司（Hanwha Aerospace）與高麗大學(xué)（Korea University）聯(lián)合開發(fā)的自動(dòng)機(jī)槍SGR-A1，旨在幫助韓國守衛(wèi)與朝鮮之間的邊界,。據(jù)媒體報(bào)道,，這款機(jī)槍使用紅外熱成像技術(shù)偵測(cè)邊境附近的人員。如果目標(biāo)沒有說出預(yù)先設(shè)定的密碼,，這款機(jī)槍就會(huì)發(fā)出警報(bào),，或發(fā)射橡皮子彈或致命性子彈。

?

KUB-BLA巡飛彈

俄羅斯正在將這款小型巡飛彈應(yīng)用到烏克蘭戰(zhàn)場(chǎng),。據(jù)其制造商扎拉航空透露,，這款無人機(jī)的操作人員可以在發(fā)射前向系統(tǒng)上傳目標(biāo)圖像。之后,，這款無人機(jī)將自動(dòng)定位戰(zhàn)場(chǎng)上的類似目標(biāo),。

?

忠誠僚機(jī)（Loyal Wingman）

波音公司生產(chǎn)的“忠誠僚機(jī)”無人機(jī)長38英尺（約11.58米），會(huì)自動(dòng)伴飛由飛行員駕駛的戰(zhàn)機(jī)和其他飛行器,，提供警報(bào)和監(jiān)控,，以及預(yù)警導(dǎo)彈襲擊和其他威脅。

譯者：Biz

?