應(yīng)對(duì)智能武器失控的措施

未來(lái)高度智能化的機(jī)器，可能為人類帶來(lái)巨大福祉，也可能為人類帶來(lái)滅頂之災(zāi)，人類即將進(jìn)入歷史上可能最好也可能最壞的時(shí)代。對(duì)于高度智能化的武器會(huì)不會(huì)成為“人類終結(jié)者”，人們或許還存在分歧，但對(duì)于必須采取各種措施限制和避免智能武器濫用武力這一點(diǎn)，各方意見高度一致。

著名科幻小說(shuō)家艾薩克·阿西莫夫1940年在其經(jīng)典小說(shuō)《我，機(jī)器人》中，首先提出了“機(jī)器人三原則”，即：機(jī)器人不應(yīng)傷害人類；機(jī)器人必須聽從人類的命令，除非該命令與第一定律相悖；機(jī)器人必須保護(hù)自己，除非這種保護(hù)與以上兩條相矛盾。“機(jī)器人三原則”雖然有預(yù)見性地制定了機(jī)器人與人類相處的基本準(zhǔn)則，但主要適應(yīng)于民用的服務(wù)型機(jī)器人，如果應(yīng)用到戰(zhàn)斗機(jī)器人身上，還需要做很大的修改才能適應(yīng)。例如，戰(zhàn)斗機(jī)器人應(yīng)該在達(dá)成作戰(zhàn)目的的前提下，以最小傷害程度殺傷敵人，能不奪人性命解決問題就不要使用致命性武器；戰(zhàn)斗機(jī)器人必須堅(jiān)決聽從己方指令去消滅敵人，不能聽從敵方指令，或受外部環(huán)境干擾而改變己方指令；戰(zhàn)斗機(jī)器人必須保護(hù)自己，但接到己方要求其自毀指令時(shí)除外。為努力做到上述幾點(diǎn)，始終把智能武器關(guān)在人類“控制圈”內(nèi)，研究人員還真想出了不少點(diǎn)子。

首要和保底的手段，就是在智能武器中嵌入獨(dú)立于其自身控制系統(tǒng)的自毀模塊。在智能武器走出生產(chǎn)線即將正式啟動(dòng)之前，就要設(shè)置好這種“后門”式的自毀模塊。一旦智能武器失去控制，人類可以不受外部環(huán)境或智能武器自身干擾，實(shí)時(shí)啟動(dòng)自毀程序，實(shí)現(xiàn)智能武器不可逆轉(zhuǎn)的徹底死機(jī)或主機(jī)殉爆。這一辦法，對(duì)于“低智商”的智能武器是可行的。將來(lái)一旦出現(xiàn)更加“聰明”的智能武器，能夠“意識(shí)”到這一自毀模塊的存在，它可能就會(huì)想方設(shè)法地去除或干擾自毀模塊，因此必須確保自毀模塊的隱蔽性和可靠性。

在智能武器控制軟件中加入倫理控制程序。智能武器的指揮控制中樞是電腦，而電腦的“智商”全靠預(yù)編軟件來(lái)實(shí)現(xiàn)，在智能武器控制軟件中加入倫理控制程序來(lái)限制智能武器的行為，從理論上講，可以避免其“胡來(lái)”。美國(guó)佐治亞理工學(xué)院移動(dòng)機(jī)器人實(shí)驗(yàn)室的羅納德·阿金，設(shè)計(jì)了名為“潛在行動(dòng)的多維數(shù)學(xué)決策空間”的控制程序，作為戰(zhàn)斗機(jī)器人的“道德適配器”。這套融合了人類悔恨、同情、內(nèi)疚等情緒的控制程序，將機(jī)器人攜帶的武器系統(tǒng)根據(jù)殺傷力分組，每組武器都有特定的愧疚臨界值。“道德適配器”可根據(jù)傳感器接收到的數(shù)據(jù)和情報(bào)，把機(jī)器人所有可能的行動(dòng)分為“道德的”和“不道德的”兩種，并根據(jù)需要選擇適當(dāng)?shù)奈淦飨到y(tǒng)。機(jī)器人在使用大威力武器前，必須經(jīng)過(guò)“道德適配器”的審核，只有當(dāng)使用武器的愧疚臨界值低于標(biāo)準(zhǔn)值才可使用。這一設(shè)計(jì)思路很好，但問題的難點(diǎn)不是以何種愧疚臨界值來(lái)控制何種殺傷力的武器，而是如何精確判斷當(dāng)前事態(tài)的愧疚臨界值，既不能因臨界值設(shè)置過(guò)小造成毀傷不夠而達(dá)不成作戰(zhàn)目的，又不能因臨界值設(shè)置過(guò)大而造成不必要的過(guò)度殺傷。在瞬息萬(wàn)變的交戰(zhàn)態(tài)勢(shì)中，要做到這一點(diǎn)，人類士兵都很難，戰(zhàn)斗機(jī)器人恐怕更難。

2014年9月2日，在英國(guó)召開的“邁向自主機(jī)器人系統(tǒng)”會(huì)議上，英國(guó)布里斯托爾機(jī)器人實(shí)驗(yàn)室的機(jī)器人專家溫菲爾德，演示了一個(gè)關(guān)于機(jī)器人倫理道德的試驗(yàn)，他為機(jī)器人設(shè)定了一個(gè)阻止其他擬人機(jī)器人掉進(jìn)洞里的程序。當(dāng)一個(gè)擬人機(jī)器人向洞口移動(dòng)時(shí)，救人機(jī)器人可沖上前去將其推開，但當(dāng)兩個(gè)擬人機(jī)器人同時(shí)向洞口移動(dòng)時(shí)，救人機(jī)器人就因?yàn)椤斑x擇”先救誰(shuí)而陷入困境，有時(shí)他救起了一個(gè)，另一個(gè)掉進(jìn)洞里；有時(shí)他兩個(gè)都想救。在33次測(cè)試中有14次因?yàn)椴恢谰饶囊粋€(gè)而浪費(fèi)了時(shí)間，以至于兩個(gè)“人”都掉進(jìn)了洞里。溫菲爾德認(rèn)為，雖然根據(jù)設(shè)定的行為程序，它可以對(duì)他人施救，但它根本不理解這種行為背后的原因，因此他的機(jī)器人是“道德僵尸”。溫菲爾德的試驗(yàn)證明，要給機(jī)器人賦予“道德感”是比較困難的。

精確選擇智能武器的目標(biāo)打擊部位。2006年，美國(guó)國(guó)防部長(zhǎng)辦公室下屬機(jī)構(gòu)——國(guó)防安全工作小組，研究討論了如何通過(guò)允許“武裝自主系統(tǒng)”“開火摧毀敵方武器系統(tǒng)而非疑似作戰(zhàn)人員”的做法，以減輕人們對(duì)潛在“機(jī)器人殺手”的種種擔(dān)憂。換言之，機(jī)器人應(yīng)該朝坦克或吉普車開火，而不是朝里面的人開火。約翰·S·坎寧是美國(guó)海軍水面作戰(zhàn)中心的首席工程師，也是該小組成員之一。他說(shuō)：“我們的武裝無(wú)人系統(tǒng)的設(shè)計(jì)，要能自動(dòng)識(shí)別、瞄準(zhǔn)我們的敵人所用的武器，并能使武器而不是使用這些武器的敵人失效或者遭到摧毀。這樣，我們就有可能解除對(duì)我們構(gòu)成威脅的部隊(duì)的武裝，卻不必殺死相關(guān)人員。”隨著人工智能的發(fā)展，電腦的模式識(shí)別能力將有極大提高，智能武器完全可以把單獨(dú)的武器和作戰(zhàn)人員區(qū)分開來(lái)。

“打武器不打人”這一做法，對(duì)于作戰(zhàn)目標(biāo)是無(wú)人武器的情況確實(shí)可行，但作戰(zhàn)目標(biāo)是載人武器平臺(tái)時(shí)，實(shí)際操作起來(lái)會(huì)大大增加作戰(zhàn)難度。例如，要想把坦克打癱，又要保證里面的乘員毫發(fā)無(wú)損，打履帶是最好的辦法，但打履帶對(duì)打擊時(shí)機(jī)、打擊角度、打擊手段等方面的要求都比較苛刻，在“發(fā)現(xiàn)即摧毀”的未來(lái)戰(zhàn)爭(zhēng)中，一味強(qiáng)調(diào)打履帶可能會(huì)導(dǎo)致延誤戰(zhàn)機(jī)。根據(jù)以往的實(shí)際作戰(zhàn)經(jīng)驗(yàn)，對(duì)于“人裝合一”的敵方目標(biāo)，即使智能武器能夠精心選擇目標(biāo)打擊部位，附帶損傷也是在所難免的。

只給智能武器配備非致命性武器。把殺人武器交到機(jī)器人手中始終讓人不放心，因此有人認(rèn)為，如果要給機(jī)器人配備武器，那也應(yīng)該配備非致命性武器。這些武器不是用來(lái)摧毀或者殺戮，而是用來(lái)讓目標(biāo)失去戰(zhàn)斗力但并不對(duì)其造成永久性傷害。正如美國(guó)陸軍戰(zhàn)爭(zhēng)學(xué)院教授史蒂文·梅茨所講的那樣，“機(jī)器人技術(shù)和非殺傷性手段，這兩者的結(jié)合極其重要。這樣，你可以命令系統(tǒng)只是制服目標(biāo)，剩下的事情交給警察，而不是‘將目標(biāo)全部殺死，后事交由上帝處理’。”這一辦法應(yīng)該說(shuō)是完全可行的，未來(lái)戰(zhàn)爭(zhēng)中失能性武器的可選擇范圍很大，對(duì)人員可使用“控腦武器”“嘔吐射線”武器、次生波武器、被稱為“痛苦射線”的定向能“主動(dòng)拒止系統(tǒng)”、網(wǎng)罩武器，甚至發(fā)射橡皮子彈的警用武器等非致命性武器，對(duì)裝備可使用電磁脈沖武器、網(wǎng)絡(luò)攻擊武器、高功率微波武器、致發(fā)動(dòng)機(jī)熄火的阻燃泡沫彈等非爆炸性武器。從某種意義上說(shuō)，新機(jī)理、新概念武器為智能武器的失控問題提供了很好的解決方案。

文/袁藝 原載于《軍事文摘》雜志2015年第11期

轉(zhuǎn)載請(qǐng)注明：北緯40° » 智能武器是人類的福祉還是災(zāi)難？