當(dāng)前，信息化戰(zhàn)爭形態(tài)正由“數(shù)字化+網(wǎng)絡(luò)化”的初級階段，向“智能化+類人化”的高級階段加速演進(jìn)，以戰(zhàn)斗機(jī)器人為典型代表的智能武器將主宰未來戰(zhàn)場。我國著名人工智能專家李德毅院士，把智能機(jī)器人比作是集汽車、新能源、移動通信、衛(wèi)星定位導(dǎo)航、移動互聯(lián)網(wǎng)、云計算、大數(shù)據(jù)、自動化、人工智能、認(rèn)知科學(xué)，乃至人文藝術(shù)等多個學(xué)科、多種技術(shù)于一身的人造精靈，是人類走向智慧生活的重要伴侶。依此類推，未來的戰(zhàn)斗機(jī)器人則可視為將軍們麾下無懼死亡、勇往直前的人造忠誠戰(zhàn)士。

正如聰明的孩子往往更加調(diào)皮和不聽話一樣，武器智能化一旦超過一定程度，“聰明過了頭”，就會存在自作主張、失去控制，甚至危及人類自身安全的危險。人類面臨著既要利用武器高度智能化帶來的可以替人打仗的無比好處，又要回避武器高度智能化帶來的巨大失控風(fēng)險，軍事技術(shù)和武器發(fā)展由此陷入一個兩難困境。

智能武器的失控風(fēng)險

據(jù)稱“Robot”（機(jī)器人）一詞，是由捷克作家卡雷爾·恰佩克在1921年的科幻作品《羅薩姆的機(jī)器人萬能公司》中首創(chuàng)，原意是“農(nóng)奴式被強(qiáng)迫的勞動者”，用來稱呼那些造反的機(jī)器仆人。可以說，從一開始，機(jī)器人失控對人類的威脅，就成為人類心中揮之不去的心理陰影。

人類對機(jī)器人失控的擔(dān)心，不僅反映在科幻小說和影視作品中，還反映在很多學(xué)者嚴(yán)肅認(rèn)真的學(xué)術(shù)探討中。《機(jī)器人戰(zhàn)爭——機(jī)器人技術(shù)革命與21世紀(jì)的戰(zhàn)爭》的作者彼得·W·辛格就認(rèn)為，機(jī)器人控制世界需要四個基本條件：第一，機(jī)器人必須獨(dú)立，能夠不依賴人類而自我補(bǔ)充能量、修復(fù)和再造；第二，機(jī)器人必須在智力上勝過人類，但不具有人類好的品質(zhì)（如同情心或道德觀念）；第三，機(jī)器人必須具有生存本能，以及控制其周圍環(huán)境的某種興趣和意志；第四，人類必須不能有介入機(jī)器人決策的有效控制界面，人類必須沒有能力決定、干涉，甚至影響機(jī)器人的決策與行動。從發(fā)展趨勢來看，這四個基本條件在技術(shù)上都沒有不可逾越的紅線。因此，從理論上講，如果不采取有效措施，智能武器失控是完全有可能的。

與民用機(jī)器人相比，軍用機(jī)器人失控的危害性更大，有人甚至擔(dān)心，軍用機(jī)器人會不會成為“人類終結(jié)者”。早在1991年，美國學(xué)者史蒂文·謝克和艾倫·懷斯合著的《無人戰(zhàn)爭——未來戰(zhàn)場上的機(jī)器人》，是一本較早系統(tǒng)介紹和論述軍用機(jī)器人及其影響的專著，書中最后嚴(yán)肅地提出了這個問題。未來戰(zhàn)爭中，武器高度智能化后，戰(zhàn)場上大多數(shù)的戰(zhàn)術(shù)行動將交由戰(zhàn)斗機(jī)器人來完成，人退出戰(zhàn)術(shù)級“觀察-判斷-決策-行動”循環(huán)，人授予智能武器開火權(quán)，智能武器按照預(yù)編程序自行作戰(zhàn)，“人不在回路”了。讓一群冷酷無情、不知疲倦的“殺人機(jī)器”沖上戰(zhàn)場，對方的人類士兵自然會心驚膽戰(zhàn)，一旦這些智能武器出現(xiàn)問題失去控制，會不會濫殺無辜，甚至?xí)粫蝗坏艮D(zhuǎn)槍口對準(zhǔn)自己人呢？!這一擔(dān)心，不是杞人憂天，更不是天方夜譚。人是萬物之靈，靈就靈在“有腦子”。人之所以能控制老虎，不是人比老虎強(qiáng)壯，而是人比老虎聰明。機(jī)器人的體能、技能超過人類并不可怕，但如果機(jī)器人的智能超過人類，人類還能不能控制這種比人類還“聰明”的機(jī)器人，那就不好說了。

智能武器失控的可能形式

不同自主程度的智能武器失控的可能形式是不一樣的，造成的危害也不盡相同。大致分析，智能武器失控的情況可能主要有以下幾種。

智能武器因發(fā)生故障而失控。在民用機(jī)器人方面，因機(jī)器人故障而出人命的事早有發(fā)生。1985年，蘇聯(lián)發(fā)生了一起家喻戶曉的智能機(jī)器人棋手殺人事件。全蘇國際象棋冠軍古德柯夫同機(jī)器人棋手下棋連勝3局，機(jī)器人棋手突然向金屬棋盤釋放強(qiáng)大的電流，在眾目睽睽之下將這位國際大師擊倒，這應(yīng)該是智能機(jī)器人發(fā)生故障導(dǎo)致的。

隨著機(jī)械制造水平和智能化程度的提高，未來智能武器出現(xiàn)機(jī)械故障的可能性減小，但出現(xiàn)軟件故障的可能性大增。

武器系統(tǒng)因軟件故障而導(dǎo)致的事故并不鮮見。20O5年，美國空軍幾架戰(zhàn)斗機(jī)在一次編隊飛行時，一架戰(zhàn)斗機(jī)突然自動向地面重要設(shè)施發(fā)射了一枚導(dǎo)彈，并造成嚴(yán)重事故。經(jīng)查明，事故原因是飛機(jī)的火控系統(tǒng)電腦出了故障。2011年，在美軍幾次軍演和值勤過程中，三軍通用戰(zhàn)場態(tài)勢分析系統(tǒng)多次發(fā)生軟件故障不能正常工作，出現(xiàn)黑屏、無法顯示友軍信息、無法完成態(tài)勢合成，甚至出現(xiàn)運(yùn)行中斷、死機(jī)等故障，導(dǎo)致戰(zhàn)場態(tài)勢無法及時更新、融合，作戰(zhàn)打擊方案無法按時生成。

轉(zhuǎn)載請注明：北緯40° » 智能武器是人類的福祉還是災(zāi)難？