●掌握智能化作戰(zhàn)體系的脆弱性特征，宛如洞悉對(duì)手的“阿喀琉斯之踵”，通過有針對(duì)性的攻擊與反制，能夠贏得智能對(duì)抗的先機(jī)

作戰(zhàn)體系是各種作戰(zhàn)系統(tǒng)按照一定的指揮關(guān)系、組織關(guān)系和運(yùn)行機(jī)制構(gòu)成的有機(jī)整體。與傳統(tǒng)信息化作戰(zhàn)體系相比，智能化作戰(zhàn)體系呈現(xiàn)出自主、多維、韌性等新反脆弱性特性，魯棒性得到極大提高。但是，從支撐技術(shù)、運(yùn)行機(jī)理等視角看，智能化作戰(zhàn)體系仍然存在較為顯著的脆弱性，是破壞敵體系有效運(yùn)行，形成相對(duì)智能優(yōu)勢(shì)，進(jìn)而奪取制智權(quán)的關(guān)鍵所在。

(資料圖)

支撐技術(shù)視角：固有缺陷無法避免

系統(tǒng)驅(qū)動(dòng)過分依賴數(shù)據(jù)?；谏疃壬窠?jīng)網(wǎng)絡(luò)的主流軍事智能技術(shù)，是一種數(shù)據(jù)驅(qū)動(dòng)模型，即使用海量標(biāo)記樣本來訓(xùn)練、擬合出智能決策模型，數(shù)據(jù)測(cè)試合格后，再部署到實(shí)際環(huán)境中應(yīng)用。它并未像人一樣理解學(xué)習(xí)樣本真實(shí)含義，只不過恰好構(gòu)建了一個(gè)在預(yù)設(shè)訓(xùn)練集上運(yùn)行良好的模型。由此構(gòu)建的智能模型對(duì)原始數(shù)據(jù)輕微擾動(dòng)具有非線性放大效應(yīng)，一旦出現(xiàn)了預(yù)測(cè)空間之外的樣本，即不良甚至錯(cuò)誤數(shù)據(jù)，就可能崩潰，作出錯(cuò)誤決策，導(dǎo)致決策災(zāi)難。

決策模型適應(yīng)性偏弱。隨著技術(shù)發(fā)展，人工智能技術(shù)難點(diǎn)已從數(shù)據(jù)邊界轉(zhuǎn)為決策邊界。軍事人工智能模型的算法構(gòu)造和參數(shù)設(shè)定，天然地依賴于領(lǐng)域知識(shí)并受限于有限的數(shù)據(jù)集空間，須滿足確定性信息、完全信息、有限領(lǐng)域等條件，是完全信息博弈。但是，軍事決策環(huán)境恰好是典型的非完全信息博弈。此外，模型的訓(xùn)練、測(cè)試數(shù)據(jù)與知識(shí)范圍均基于已有案例產(chǎn)生，但軍事決策的對(duì)抗性決定了新的決策結(jié)論往往與既往相似決策環(huán)境中的結(jié)論存在差異甚至截然相反，智能模型尚不能夠有效產(chǎn)生這種出乎意料、合乎作戰(zhàn)藝術(shù)之中的決策結(jié)論。

算法“不可解釋”會(huì)衍生風(fēng)險(xiǎn)。作為特殊對(duì)抗活動(dòng)，軍事智能系統(tǒng)的決策過程應(yīng)當(dāng)具備“可解釋性”，也就是人能夠理解智能算法決策邏輯過程與結(jié)果。但是，當(dāng)前人工智能系統(tǒng)算法呈現(xiàn)“黑箱”特征，人無法了解并掌握它的決策過程，初始條件、權(quán)重等簡(jiǎn)單參數(shù)的微小變化和調(diào)整，可能產(chǎn)生復(fù)雜的結(jié)果。這意味著智能系統(tǒng)存在著結(jié)構(gòu)性漏洞，存在不可預(yù)知的決策風(fēng)險(xiǎn)，極可能產(chǎn)生錯(cuò)誤甚至危險(xiǎn)決策。同時(shí)，這還導(dǎo)致軍事智能系統(tǒng)的數(shù)據(jù)、算法、模型等可能存在難以發(fā)現(xiàn)的后門或漏洞，無法預(yù)知系統(tǒng)安全風(fēng)險(xiǎn)。

運(yùn)行機(jī)理視角：體系控制難度放大

多域交互產(chǎn)生認(rèn)知失真。智能化作戰(zhàn)體系分布于物理域、聯(lián)通于信息域、角逐于認(rèn)知域，作戰(zhàn)過程中，數(shù)據(jù)、信號(hào)、指令等信息跨域傳遞，人腦、機(jī)腦認(rèn)知結(jié)果多次交互，一組信息需要?dú)v經(jīng)多輪交叉映射，數(shù)據(jù)失真進(jìn)而產(chǎn)生信息受損不可避免。

復(fù)雜結(jié)構(gòu)導(dǎo)致控制困難。器件小型化、系統(tǒng)集成化，是智能化武器裝備平臺(tái)的典型特征。系統(tǒng)內(nèi)部器件的小型化使得器件抗毀性、信號(hào)完整性受到挑戰(zhàn)，相鄰器件還可能相互影響造成信號(hào)干擾和信息泄露。集成的各子系統(tǒng)之間依靠各類傳感器、網(wǎng)絡(luò)交換元器件和系統(tǒng)通信協(xié)議等聯(lián)結(jié)形成新的系統(tǒng)，結(jié)構(gòu)繁復(fù)，控制信號(hào)難以流暢傳遞。在此基礎(chǔ)上疊加無序的人員意識(shí)、錯(cuò)綜復(fù)雜的關(guān)系與機(jī)制等要素，進(jìn)一步放大了這種控制困難。

體系演化加劇不確定性。如果將智能化作戰(zhàn)體系視為復(fù)雜巨系統(tǒng)，除了系統(tǒng)穩(wěn)定依賴少數(shù)關(guān)鍵節(jié)點(diǎn)、作戰(zhàn)鏈路易損易毀等復(fù)雜系統(tǒng)共同脆弱性等外，作戰(zhàn)體系還存在著涌現(xiàn)性機(jī)制不清楚的薄弱環(huán)節(jié)，即系統(tǒng)知道1+1>2，但是等于幾不知道。傳統(tǒng)作戰(zhàn)體系可通過人的活動(dòng)來有意識(shí)地控制體系演化方向。但是，智能化作戰(zhàn)體系的顯著特征就是自主性極大增強(qiáng)，除少數(shù)關(guān)鍵活動(dòng)有人介入外，大部分活動(dòng)均是“人在回路上”，這就導(dǎo)致體系的自主演化方向不可控，既可以趨于穩(wěn)定，也可能趨向崩潰。

人機(jī)協(xié)同視角：人機(jī)關(guān)系難以平衡

人機(jī)難以徹底信任。智能化作戰(zhàn)體系中，各級(jí)指揮機(jī)構(gòu)人機(jī)協(xié)同，人腦+機(jī)腦共同構(gòu)成指揮主體。作戰(zhàn)過程中，除人腦指令外，各級(jí)還要貫徹執(zhí)行機(jī)腦下達(dá)的指令。受人工智能技術(shù)缺陷、決策過程“黑箱”、人的主觀意識(shí)等因素影響，人很難無條件地信任并接受機(jī)器決策結(jié)果。這種不信任感可以通過長(zhǎng)期人機(jī)協(xié)同訓(xùn)練降低，但是無法絕對(duì)消除。在戰(zhàn)場(chǎng)態(tài)勢(shì)發(fā)展的關(guān)鍵時(shí)刻，一旦人和機(jī)器的決策結(jié)果發(fā)生分歧，勢(shì)必影響決策速度與質(zhì)量。

戰(zhàn)爭(zhēng)倫理無法回避。在未來智能化作戰(zhàn)系統(tǒng)中，無論人、機(jī)以何種模式共存，人工智能系統(tǒng)的機(jī)腦都將獲取部分指揮控制權(quán)限。但是，戰(zhàn)爭(zhēng)活動(dòng)有其特殊性，它直接帶來人的流血與死亡。按照“機(jī)器人三定律”，機(jī)器人不能對(duì)人造成傷害。但是，未來智能化戰(zhàn)爭(zhēng)，軍事智能系統(tǒng)的決策與行動(dòng)，勢(shì)必造成人類的傷亡。軍事智能系統(tǒng)是否擁有對(duì)人攻擊的權(quán)限，其決策權(quán)限邊界在哪里，濫用這種權(quán)限是否導(dǎo)致機(jī)器人尋求主動(dòng)傷害人類等，一直是科學(xué)界爭(zhēng)論的焦點(diǎn)，也是當(dāng)前各國(guó)發(fā)展軍事人工智能無法回避的問題。（顧靜超 張永亮 王光雷）

關(guān)鍵詞：