當(dāng)前，“智能化”成為人類(lèi)社會(huì)發(fā)展的新趨勢(shì)，席卷醫(yī)療、金融、法律、物流等多個(gè)領(lǐng)域?？梢哉f(shuō)，我們正在經(jīng)歷著由人工智能帶來(lái)的第二次“文藝復(fù)興”。第一次文藝復(fù)興是神下去了，人上來(lái)了，人的理性凸顯，而這一次的“文藝復(fù)興”，則是信息迷霧走了，萬(wàn)物智能來(lái)了，人的智能延展。在人工智能迅猛發(fā)展的背景下，科幻電影中的人機(jī)大戰(zhàn)、超級(jí)戰(zhàn)士等奇異詭譎的情節(jié)與場(chǎng)景越來(lái)越趨向現(xiàn)實(shí)，人工智能的發(fā)展與應(yīng)用正在逐步改寫(xiě)現(xiàn)代戰(zhàn)爭(zhēng)的進(jìn)化軌跡。

一、智勝革命：AI 技術(shù)催生軍事智能化

人工智能技術(shù)的運(yùn)用，不僅在宏觀層面上促進(jìn)了軍隊(duì)武器裝備、作戰(zhàn)指揮、組織形態(tài)等方面的智能化，還從深層次推動(dòng)現(xiàn)代戰(zhàn)爭(zhēng)呈現(xiàn)云腦主導(dǎo)、人機(jī)一體、自主協(xié)同、分布?xì)忍卣?，從而催生出軍事智能化體系。

（一）設(shè)計(jì)戰(zhàn)爭(zhēng)

人工智能技術(shù)使設(shè)計(jì)戰(zhàn)爭(zhēng)成為可能，而算法就是設(shè)計(jì)戰(zhàn)爭(zhēng)的關(guān)鍵工具。可以說(shuō)，設(shè)計(jì)算法就是設(shè)計(jì)戰(zhàn)爭(zhēng)。現(xiàn)代戰(zhàn)爭(zhēng)不僅涉及多源信息的采集和融合處理問(wèn)題，更涉及有關(guān)作戰(zhàn)任務(wù)規(guī)劃的多層算法問(wèn)題，因此對(duì)數(shù)據(jù)處理能力提出了巨大挑戰(zhàn)。而算法的實(shí)質(zhì)在于群體智能，是人機(jī)混合智能，相對(duì)于個(gè)體智能，它具有強(qiáng)集成性、大吸蓄性、高靶向性及易升級(jí)性。好的算法與優(yōu)質(zhì)問(wèn)題、復(fù)雜場(chǎng)景及實(shí)踐迭代直接相關(guān)，能夠承載實(shí)戰(zhàn)的龐大數(shù)據(jù)量。作戰(zhàn)雙方通過(guò)利用算法，得以模擬和預(yù)演實(shí)戰(zhàn)，從而在多次實(shí)驗(yàn)中調(diào)整戰(zhàn)法策略，將戰(zhàn)爭(zhēng)轉(zhuǎn)變?yōu)榻?jīng)過(guò)設(shè)計(jì)的實(shí)驗(yàn)成品。當(dāng)前，美軍提出“算法戰(zhàn)”概念，并組建“算法戰(zhàn)跨功能小組”，以推動(dòng)人工智能、大數(shù)據(jù)及機(jī)器學(xué)習(xí)等“戰(zhàn)爭(zhēng)算法”關(guān)鍵技術(shù)的研究。針對(duì)算法的探索，將是各國(guó)爭(zhēng)相競(jìng)逐的重要領(lǐng)域，也是打開(kāi)現(xiàn)代戰(zhàn)爭(zhēng)新局面的關(guān)鍵所在。

（二）輔助決策

以往戰(zhàn)爭(zhēng)中指揮員的決策，一方面來(lái)源于情報(bào)、偵察、監(jiān)視等手段，另一方面受指揮員自身的經(jīng)驗(yàn)、靈感、聯(lián)想等主觀因素影響，依靠人腦決策出現(xiàn)的“靈機(jī)一動(dòng)”“神機(jī)妙算”成為戰(zhàn)爭(zhēng)制勝的法寶。而人機(jī)一體的決策手段則將“人腦”與“外腦”有機(jī)結(jié)合，為指揮員的決策提供了新參照，能夠彌補(bǔ)以往軍事網(wǎng)絡(luò)信息系統(tǒng)的不足，從而構(gòu)建起功能強(qiáng)大的網(wǎng)絡(luò)信息體系，提高軍隊(duì)的智能化評(píng)估和輔助決策能力。自20世紀(jì)50年代以來(lái)，美、俄等軍事大國(guó)不斷發(fā)展指揮控制自動(dòng)化系統(tǒng)，企圖增強(qiáng)信息優(yōu)勢(shì)和決策優(yōu)勢(shì)，如美軍研發(fā)出指揮、控制、通信、計(jì)算機(jī)、情報(bào)與偵察監(jiān)視系統(tǒng)（C4ISR），推進(jìn)“網(wǎng)絡(luò)中心戰(zhàn)”建設(shè)，開(kāi)發(fā)針對(duì)網(wǎng)絡(luò)入侵的智能診斷信息系統(tǒng)。未來(lái)，人工智能技術(shù)的運(yùn)用將為決策進(jìn)一步賦能。如在 2015 年，DARPA 啟動(dòng)的“大機(jī)理”項(xiàng)目，就旨在開(kāi)發(fā)基于大數(shù)據(jù)的智能技術(shù)，通過(guò)信息的快速提取、智能推理、綜合處理等，根據(jù)作戰(zhàn)任務(wù)自動(dòng)制定作戰(zhàn)方案，輔助指揮官實(shí)現(xiàn)“任務(wù)式指揮”，縮短從信息處理到?jīng)Q策部署的時(shí)間周期，實(shí)現(xiàn)指揮決策的高效性及科學(xué)性。

（三）戰(zhàn)爭(zhēng)控局

古往今來(lái)，戰(zhàn)爭(zhēng)一直是人類(lèi)的噩夢(mèng)，造成巨大殺傷的武器成為籠罩在人類(lèi)上方的烏云，實(shí)現(xiàn)戰(zhàn)爭(zhēng)在時(shí)間、規(guī)模、目標(biāo)與結(jié)局等方面的可控是人類(lèi)在戰(zhàn)爭(zhēng)中長(zhǎng)久追求的目標(biāo)。除運(yùn)用條約、協(xié)議等政治手段之外，以往戰(zhàn)爭(zhēng)中的雙方難以真正實(shí)現(xiàn)戰(zhàn)爭(zhēng)可控，比如二戰(zhàn)初期德國(guó)利用“閃電戰(zhàn)”策略，但后來(lái)的戰(zhàn)爭(zhēng)卻演變成了曠日持久的消耗戰(zhàn)，核生化武器造成的超乎預(yù)期的災(zāi)難性后果，也顯示出在傳統(tǒng)技術(shù)基礎(chǔ)上實(shí)現(xiàn)戰(zhàn) 爭(zhēng)可控的難度。人工智能技術(shù)有利于加強(qiáng)戰(zhàn)略籌劃，實(shí)現(xiàn)“知彼知己”的戰(zhàn)略態(tài)勢(shì)，提升作戰(zhàn)模擬推演的有效性，對(duì)抗雙方的戰(zhàn)爭(zhēng)設(shè)計(jì)與實(shí)驗(yàn)有助于控制戰(zhàn)爭(zhēng)。另一方面，人工智能促進(jìn)武器裝備創(chuàng)新，智能化高技術(shù)武器裝備減少了非必要?dú)?，客觀上也為可控性戰(zhàn)爭(zhēng)提供了物質(zhì)技術(shù)條件。

二、冰山隱患：潛藏的風(fēng)險(xiǎn)與挑戰(zhàn)

人工智能技術(shù)對(duì)撬動(dòng)軍事變革的作用不容小覷，但與此同時(shí)，戰(zhàn)爭(zhēng)中的技術(shù)、倫理、道德等一系列風(fēng)險(xiǎn)與挑戰(zhàn)也逐步顯現(xiàn)。由于現(xiàn)有實(shí)踐與技術(shù)條件的限制，人工智能究竟是點(diǎn)燃希望的火把還是開(kāi)啟地獄的鑰匙，仍需人們謹(jǐn)慎思考與探索。

（一）指揮失序

不少科幻電影已對(duì)人工智能的威脅展開(kāi)了討論。電影《機(jī)械公敵》中原本以保護(hù)人類(lèi)為使命的機(jī)器人出現(xiàn)集體失序，對(duì)人類(lèi)展開(kāi)了殘暴攻擊，《西部世界》中機(jī)器人的內(nèi)部系統(tǒng)不斷進(jìn)化，最終反叛并傷害人類(lèi)。由于目前人工智能技術(shù)的發(fā)展局限，人工智能的指揮系統(tǒng)容易在執(zhí)行程序復(fù)雜的情景中出現(xiàn)失序，比如美軍在伊拉克戰(zhàn)場(chǎng)上的軍事機(jī)器人失控事件。在人機(jī)協(xié)同作戰(zhàn)方式中，過(guò)度依賴(lài)人工智能無(wú)疑增強(qiáng)了指揮系統(tǒng)失控的風(fēng)險(xiǎn)性，這就如同把槍交付給了機(jī)器人，而當(dāng)機(jī)器人不聽(tīng)從人類(lèi)指揮時(shí)，槍口對(duì)準(zhǔn)的對(duì)象將可能是戰(zhàn)爭(zhēng)中的任何一方，因此人工智能帶來(lái)的人機(jī)結(jié)合作戰(zhàn)方式必須將人置于主體地位，保證人類(lèi)指揮員對(duì)系統(tǒng)的控制權(quán)，并建立應(yīng)急預(yù)警機(jī)制與意外發(fā)生時(shí)的后臺(tái)程序都極為必要。

（二）倫理失范

早在 1950年，科幻作家阿西莫夫就提出了“機(jī)器人三大法則”，以規(guī)范機(jī)器人的行為并確保機(jī)器人相對(duì)人類(lèi)的附屬地位。在倫理界并未制定統(tǒng)一機(jī)器人倫理準(zhǔn)則的情況下，這三大法則已逐漸成為機(jī)器人的非正式倫理規(guī)范。然而，人工智能的倫理失范風(fēng)險(xiǎn)并沒(méi)有因此減弱。在以往的戰(zhàn)爭(zhēng)法則中，人類(lèi)之間的對(duì)抗如棋局一般保持相對(duì)平衡，戰(zhàn)爭(zhēng)雙方互相控制且對(duì)彼此的傷亡負(fù)責(zé)，而一旦加入人工智能技術(shù)，人類(lèi)的傷亡是否單純由機(jī)器負(fù)責(zé)？對(duì)機(jī)器的損傷是否需要人類(lèi)負(fù)責(zé)？人類(lèi)又能如何避免人工智能成為無(wú)尺度暴力的工具？由此可見(jiàn)，人工智能帶來(lái)的倫理挑戰(zhàn)不只是單純的倫理法則可以解決的，更需要人類(lèi)對(duì)人工智能本質(zhì)的清醒深刻認(rèn)識(shí)以及對(duì)人機(jī)關(guān)系的精準(zhǔn)定位。

（三）暴力失控

人工智能應(yīng)用于戰(zhàn)爭(zhēng)始終存在走向暴力失控的風(fēng)險(xiǎn)，智能化武器是造成安全威脅的主要來(lái)源。2017 年，包括特斯拉公司首席執(zhí)行官埃隆·馬斯克和谷歌人工智能公司聯(lián)合創(chuàng)始人穆斯塔法·蘇萊曼在內(nèi)的116 名世界領(lǐng)先機(jī)器人和人工智能公司的領(lǐng)導(dǎo)人聯(lián)名發(fā)布了一封公開(kāi)信，公開(kāi)呼吁禁止發(fā)展致命性自動(dòng)化武器，并阻止高科技軍備競(jìng)賽。人工智能與自動(dòng)化武器結(jié)合的產(chǎn)物便是全自動(dòng)武器系統(tǒng)，這意味著人工智能的加入使得戰(zhàn)爭(zhēng)的殺傷難度顯著降低，以往戰(zhàn)場(chǎng)上的戰(zhàn)馬、鋼盔、刀劍、槍彈也許都不再需要，指揮官可能只需一個(gè)按鈕、一句指令就能達(dá)到理想的殺傷目的。在這種情況下，全自動(dòng)武器一旦投入使用，戰(zhàn)爭(zhēng)的殺傷效率將超乎以往，武裝沖突迅速升級(jí)并擴(kuò)大的可能性將難以預(yù)計(jì)。

三、對(duì)沖方略：“三位一體”綜合應(yīng)對(duì)

面對(duì)人工智能的風(fēng)險(xiǎn)與挑戰(zhàn)，應(yīng)當(dāng)堅(jiān)持“三位一體”的應(yīng)對(duì)策略。當(dāng)前，人工智能的軍事應(yīng)用浪潮已不可避免，因此無(wú)論是來(lái)自技術(shù)還是倫理的挑戰(zhàn)，都應(yīng)堅(jiān)持探索與發(fā)展人工智能技術(shù)，加強(qiáng)人工智能的技術(shù)預(yù)測(cè)與評(píng)估，在充分試驗(yàn)與分析的基礎(chǔ)上逐步推進(jìn)人工智能技術(shù)的軍事應(yīng)用。

（一）搶占智能科技高地

當(dāng)前，人工智能已成為各大國(guó)競(jìng)相爭(zhēng)奪的科技高地，主要發(fā)達(dá)國(guó)家紛紛將人工智能提升到國(guó)家戰(zhàn)略高度加以發(fā)展。美軍已將智能化無(wú)人系統(tǒng)作為支撐第三次“抵消戰(zhàn)略”的顛覆性技術(shù)領(lǐng)域給予重點(diǎn)投資。美國(guó)空軍首席科學(xué)家辦公室頒布的面向 2035年的《無(wú)人系統(tǒng)地平線》技術(shù)評(píng)估和預(yù)測(cè)報(bào)告，認(rèn)為未來(lái)各類(lèi)無(wú)人系統(tǒng)與作戰(zhàn)平臺(tái)的自動(dòng)化、自主性和遠(yuǎn)程遙控性能將隨著技術(shù)的進(jìn)步而不斷取得突破。未來(lái)，隨著超大規(guī)模計(jì)算、量子計(jì)算、云計(jì)算、大數(shù)據(jù)等技術(shù)的進(jìn)步，人工智能的信息處理與控制技術(shù)將獲得極大發(fā)展，在現(xiàn)代戰(zhàn)爭(zhēng)中所占的技術(shù)比重將顯著增加。在這樣的大背景下，唯有跟上智能科技發(fā)展步伐，及時(shí)制定人工智能發(fā)展規(guī)劃與戰(zhàn)略，見(jiàn)之于未萌，識(shí)之于未發(fā)，才能把握戰(zhàn)爭(zhēng)形態(tài)變化趨勢(shì)，洞悉戰(zhàn)爭(zhēng)形態(tài)演變規(guī)律，實(shí)現(xiàn)克敵制勝。

（二）探索戰(zhàn)爭(zhēng)倫理規(guī)約

近年來(lái)，國(guó)際人工智能界日益重視人工智能中的倫理與法律問(wèn)題，并推動(dòng)相關(guān)技術(shù)標(biāo)準(zhǔn)及社會(huì)規(guī)范的研討和制定，如 IEEE 全球人工智能與倫理倡議、阿西洛馬人工智能 23 條倫理原則，我國(guó)的《新一代人工智能發(fā)展規(guī)劃》也專(zhuān)門(mén)提出人工智能倫理與法律的“三步走”規(guī)劃。在完善人工智能戰(zhàn)爭(zhēng)倫理規(guī)范的過(guò)程中，應(yīng)確保人類(lèi)對(duì)智能化武器的控制權(quán)，將人機(jī)關(guān)系納入戰(zhàn)爭(zhēng)倫理的討論維度之中，針對(duì)人工智能使用的特殊領(lǐng)域與戰(zhàn)場(chǎng)情境建立獨(dú)立的倫理評(píng)價(jià)體系，防范人類(lèi)戰(zhàn)爭(zhēng)倫理與人工智能參與后的戰(zhàn)爭(zhēng)倫理相混雜，將技術(shù)、倫理與法律等控制手段配合使用、高度融合。

（三）加強(qiáng)國(guó)際合作對(duì)話

生命未來(lái)研究所在 2015 年人工智能?chē)?guó)際會(huì)議上提交了一份信件，指出：“如果主要軍事力量運(yùn)用了人工智能，那么全球軍事競(jìng)賽將不可避免，而最終的結(jié)果就是，人工智能將成為下一個(gè)卡拉什尼科夫沖鋒槍。美國(guó)運(yùn)用人工智能則必然招致報(bào)復(fù)和一場(chǎng)人工智能大戰(zhàn)?！敝档米⒁獾氖?，該信得到了 17000多個(gè)簽名和 20000多個(gè)附議簽名。人工智能風(fēng)險(xiǎn)的承受者不再只是單一國(guó)家，而是整個(gè)國(guó)際社會(huì)。無(wú)論是發(fā)展抑或遏制人工智能技術(shù)在現(xiàn)代戰(zhàn)爭(zhēng)中的應(yīng)用，國(guó)際間的合作對(duì)話都必不可少。各國(guó)應(yīng)加強(qiáng)人工智能技術(shù)與倫理層面的交流與溝通，建立起長(zhǎng)期有效的對(duì)話機(jī)制，根據(jù)現(xiàn)有國(guó)際準(zhǔn)則推進(jìn)人工智能相關(guān)研究，共同應(yīng)對(duì)人工智能的風(fēng)險(xiǎn)與挑戰(zhàn)。