根據(jù)墨菲定律，凡是可能出錯的事必定會出錯。武器的智能化程度越高，其內(nèi)部電腦控制軟件的規(guī)模就越大、越復(fù)雜，出現(xiàn)故障的概率也就越大。在成千上萬條命令代碼中，即使搞錯一個符號，在特定條件下一旦觸發(fā)這個錯誤，整個系統(tǒng)就可能要么停止運行，要么出現(xiàn)意外舉動。試想一下，智能武器一旦“腦子”出了問題，就像人發(fā)了瘋一樣，拿著武器不分青紅皂白地一頓狂掃，那會是一幅多么可怕的場景！

智能武器受到復(fù)雜電磁環(huán)境干擾而失控。據(jù)一名剛從伊拉克歸來的美軍軍士描述，他的“魔爪”機(jī)器人如果受到無線電干擾，就會出現(xiàn)“行為異常”。另一名軍士講述，如果他的機(jī)器人沒有信號，就會“變得古怪”。按理說，如果由于某種原因使得信號受到干擾或被中斷，機(jī)器人應(yīng)該停止行動才對。當(dāng)追問軍士“古怪”究竟是什么意思，他回答說：“它會偏離道路，沖你而來，四面旋轉(zhuǎn)等等?！蔽磥響?zhàn)爭中，戰(zhàn)場電磁環(huán)境只會變得越來越復(fù)雜，智能武器能不能適應(yīng)復(fù)雜電磁環(huán)境，能不能在強烈電子干擾條件下，實時接收人類指令并精準(zhǔn)執(zhí)行作戰(zhàn)任務(wù)，這都需要經(jīng)過大量的試驗和實戰(zhàn)檢驗后才能得出結(jié)論。

智能武器也可能因為判斷失誤而出現(xiàn)失控。戰(zhàn)場上的敵我識別不僅對于人類士兵來說是件難事，對于智能武器來說同樣也不好解決。美國軍方一位機(jī)器人項目負(fù)責(zé)人說：“機(jī)器人戰(zhàn)士可以發(fā)現(xiàn)一個人并確定他的位置，然后殺死他。但問題是，怎樣才能不誤傷自己人。對于人類來說，區(qū)分?jǐn)橙撕妥约憾己茈y，更何況機(jī)器人?！?/p>

事實上，人工智能控制的武器由于判斷失誤，已經(jīng)造成巨大慘案。1988年7月3日的波斯灣，美國海軍“文森尼斯”號巡洋艦正在海上游弋執(zhí)行巡邏任務(wù)。該艦因裝備了自動化程度極高的新型“宙斯盾”防空系統(tǒng)，綽號為“機(jī)器人巡洋艦”。這時，該艦突然發(fā)現(xiàn)一架伊朗民航的A300客機(jī)將飛過上空。雖然艦上防空系統(tǒng)處于半自動模式，但電腦系統(tǒng)將客機(jī)識別為伊朗空軍的F-14戰(zhàn)斗機(jī)，結(jié)果艦長授權(quán)開火，發(fā)射“標(biāo)準(zhǔn)”防空導(dǎo)彈擊落了客機(jī)，造成機(jī)上290人全部遇難，包括60多名12歲以下的兒童。無獨有偶，發(fā)生在伊朗客機(jī)身上的悲劇，在近20年后的2003年伊拉克戰(zhàn)爭中又再次復(fù)現(xiàn)。當(dāng)時，美軍“愛國者”導(dǎo)彈把兩架盟軍飛機(jī)，當(dāng)成伊拉克的“飛毛腿”導(dǎo)彈擊落。

智能武器因無限自我繁殖而失控。自我繁殖可能是未來納米級智能武器的一種高級功能。納米機(jī)器人借助陽光、塵土、海水等物質(zhì)和能量，可像細(xì)菌一樣自我繁殖。殺不絕的納米機(jī)器人軍團(tuán)自然是威力無窮，但一旦失去控制，后果也是不堪設(shè)想的。據(jù)專家估計，一個失去控制的正在自我復(fù)制的納米機(jī)器人，完成130個復(fù)制周期只需要3個半小時，考慮到納米機(jī)器人向外移動擴(kuò)張等因素，最多只需數(shù)周時間就可以摧毀地球上的一切生物。

智能武器因具備獨立意識反叛人類而失控。從目前來看，普通電腦的運算結(jié)果仍然是明確和可以預(yù)見的，因而是可控的，但未來隨著人工智能水平的持續(xù)提高，特別是具備自學(xué)習(xí)和自進(jìn)化能力后，電腦的“智商”不斷提高，極可能出現(xiàn)類似人類“思想”的高級思維活動，以及只有人類才具備的喜怒哀樂、自我認(rèn)同、妒忌羨慕、征服欲望等復(fù)雜情感。那么，運算結(jié)果就可能是不確定和不可預(yù)測的，正是這種隨機(jī)的不確定性思維，潛伏著機(jī)器人威脅人類安全的危險因素。這就是未來高級智能武器可能失控的內(nèi)在技術(shù)原理。目前，科學(xué)家正在制造可以產(chǎn)生類似人類無意識反應(yīng)的機(jī)器人，機(jī)器人在緊張時會出汗，聽到恐怖故事時甚至?xí)痣u皮疙瘩，這或許是機(jī)器人邁向具備人類思想意識的第一步。

科幻電影《終結(jié)者》中的“天網(wǎng)”，原本是軍方的作戰(zhàn)網(wǎng)絡(luò)，后來由于具備自我意識，演變?yōu)槲磥硎澜鐧C(jī)器人的首領(lǐng)，指揮著機(jī)器人到處消滅人類。據(jù)媒體報道，美國科學(xué)家公布了一項“機(jī)器人大腦”計劃，擬制造巨型中央知識處理器以支持世界各地的無數(shù)機(jī)器人。研究人員稱，“機(jī)器人大腦”是一套大型計算系統(tǒng)，可以將互聯(lián)網(wǎng)資源、計算機(jī)模擬以及機(jī)器人試驗中得到的機(jī)器人知識，積累成一套全面互聯(lián)的知識庫。世界各地的機(jī)器人可以與之聯(lián)網(wǎng)，學(xué)習(xí)如何倒飲料、如何收拾餐具等一些機(jī)器人基本技能。設(shè)想一下，一旦這臺“機(jī)器人大腦”通過不斷進(jìn)化，功能越來越強大，具備了獨立的自我意識，以及戰(zhàn)術(shù)設(shè)計和戰(zhàn)略決策能力，完全有可能將與之相聯(lián)的其他機(jī)器人控制并組織起來，形成強大的機(jī)器人軍事力量，一起反叛人類。

需要指出的是，智能武器的全面失控，首先應(yīng)該是由局部失控開始的，有一個漸變過程，這就為人類覺察和控制失控局面提供了機(jī)會。如果人類及時采取各種措施，如啟用機(jī)器人自毀程序，或用其他機(jī)器人“鎮(zhèn)壓”反叛機(jī)器人，就可以避免全面失控的出現(xiàn)?？苹米髌访枋龅娜祟愒诔鞘袕U墟中到處被機(jī)器人追殺的世界末日場景，成為現(xiàn)實的可能性不大。

轉(zhuǎn)載請注明：北緯40° » 智能武器是人類的福祉還是災(zāi)難？