根據墨菲定律，凡是可能出錯的事必定會出錯。武器的智能化程度越高，其內部電腦控制軟件的規模就越大、越復雜，出現故障的概率也就越大。在成千上萬條命令代碼中，即使搞錯一個符號，在特定條件下一旦觸發這個錯誤，整個系統就可能要么停止運行，要么出現意外舉動。試想一下，智能武器一旦“腦子”出了問題，就像人發了瘋一樣，拿著武器不分青紅皂白地一頓狂掃，那會是一幅多么可怕的場景！

智能武器受到復雜電磁環境干擾而失控。據一名剛從伊拉克歸來的美軍軍士描述，他的“魔爪”機器人如果受到無線電干擾，就會出現“行為異?！?。另一名軍士講述，如果他的機器人沒有信號，就會“變得古怪”。按理說，如果由于某種原因使得信號受到干擾或被中斷，機器人應該停止行動才對。當追問軍士“古怪”究竟是什么意思，他回答說：“它會偏離道路，沖你而來，四面旋轉等等?！蔽磥響馉幹校瑧饒鲭姶怒h境只會變得越來越復雜，智能武器能不能適應復雜電磁環境，能不能在強烈電子干擾條件下，實時接收人類指令并精準執行作戰任務，這都需要經過大量的試驗和實戰檢驗后才能得出結論。

智能武器也可能因為判斷失誤而出現失控。戰場上的敵我識別不僅對于人類士兵來說是件難事，對于智能武器來說同樣也不好解決。美國軍方一位機器人項目負責人說：“機器人戰士可以發現一個人并確定他的位置，然后殺死他。但問題是，怎樣才能不誤傷自己人。對于人類來說，區分敵人和自己都很難，更何況機器人?！?/p>

事實上，人工智能控制的武器由于判斷失誤，已經造成巨大慘案。1988年7月3日的波斯灣，美國海軍“文森尼斯”號巡洋艦正在海上游弋執行巡邏任務。該艦因裝備了自動化程度極高的新型“宙斯盾”防空系統，綽號為“機器人巡洋艦”。這時，該艦突然發現一架伊朗民航的A300客機將飛過上空。雖然艦上防空系統處于半自動模式，但電腦系統將客機識別為伊朗空軍的F-14戰斗機，結果艦長授權開火，發射“標準”防空導彈擊落了客機，造成機上290人全部遇難，包括60多名12歲以下的兒童。無獨有偶，發生在伊朗客機身上的悲劇，在近20年后的2003年伊拉克戰爭中又再次復現。當時，美軍“愛國者”導彈把兩架盟軍飛機，當成伊拉克的“飛毛腿”導彈擊落。

智能武器因無限自我繁殖而失控。自我繁殖可能是未來納米級智能武器的一種高級功能。納米機器人借助陽光、塵土、海水等物質和能量，可像細菌一樣自我繁殖。殺不絕的納米機器人軍團自然是威力無窮，但一旦失去控制，后果也是不堪設想的。據專家估計，一個失去控制的正在自我復制的納米機器人，完成130個復制周期只需要3個半小時，考慮到納米機器人向外移動擴張等因素，最多只需數周時間就可以摧毀地球上的一切生物。

智能武器因具備獨立意識反叛人類而失控。從目前來看，普通電腦的運算結果仍然是明確和可以預見的，因而是可控的，但未來隨著人工智能水平的持續提高，特別是具備自學習和自進化能力后，電腦的“智商”不斷提高，極可能出現類似人類“思想”的高級思維活動，以及只有人類才具備的喜怒哀樂、自我認同、妒忌羨慕、征服欲望等復雜情感。那么，運算結果就可能是不確定和不可預測的，正是這種隨機的不確定性思維，潛伏著機器人威脅人類安全的危險因素。這就是未來高級智能武器可能失控的內在技術原理。目前，科學家正在制造可以產生類似人類無意識反應的機器人，機器人在緊張時會出汗，聽到恐怖故事時甚至會起雞皮疙瘩，這或許是機器人邁向具備人類思想意識的第一步。

科幻電影《終結者》中的“天網”，原本是軍方的作戰網絡，后來由于具備自我意識，演變為未來世界機器人的首領，指揮著機器人到處消滅人類。據媒體報道，美國科學家公布了一項“機器人大腦”計劃，擬制造巨型中央知識處理器以支持世界各地的無數機器人。研究人員稱，“機器人大腦”是一套大型計算系統，可以將互聯網資源、計算機模擬以及機器人試驗中得到的機器人知識，積累成一套全面互聯的知識庫。世界各地的機器人可以與之聯網，學習如何倒飲料、如何收拾餐具等一些機器人基本技能。設想一下，一旦這臺“機器人大腦”通過不斷進化，功能越來越強大，具備了獨立的自我意識，以及戰術設計和戰略決策能力，完全有可能將與之相聯的其他機器人控制并組織起來，形成強大的機器人軍事力量，一起反叛人類。

需要指出的是，智能武器的全面失控，首先應該是由局部失控開始的，有一個漸變過程，這就為人類覺察和控制失控局面提供了機會。如果人類及時采取各種措施，如啟用機器人自毀程序，或用其他機器人“鎮壓”反叛機器人，就可以避免全面失控的出現?？苹米髌访枋龅娜祟愒诔鞘袕U墟中到處被機器人追殺的世界末日場景，成為現實的可能性不大。

轉載請注明：北緯40° » 智能武器是人類的福祉還是災難？