国产成年女人特黄特色毛片免_日本亚洲国产中文一区二区三区_国产精品福利一区_亚洲MA无码免费观看_欧美日韩一卡2卡三卡4卡乱码视频

快訊 >

脆弱性:智能化作戰(zhàn)體系“阿喀琉斯之踵”

時間:2023-05-16 06:11:35       來源:解放軍報

●掌握智能化作戰(zhàn)體系的脆弱性特征,宛如洞悉對手的“阿喀琉斯之踵”,通過有針對性的攻擊與反制,能夠贏得智能對抗的先機

作戰(zhàn)體系是各種作戰(zhàn)系統(tǒng)按照一定的指揮關(guān)系、組織關(guān)系和運行機制構(gòu)成的有機整體。與傳統(tǒng)信息化作戰(zhàn)體系相比,智能化作戰(zhàn)體系呈現(xiàn)出自主、多維、韌性等新反脆弱性特性,魯棒性得到極大提高。但是,從支撐技術(shù)、運行機理等視角看,智能化作戰(zhàn)體系仍然存在較為顯著的脆弱性,是破壞敵體系有效運行,形成相對智能優(yōu)勢,進而奪取制智權(quán)的關(guān)鍵所在。


(資料圖)

支撐技術(shù)視角:固有缺陷無法避免

系統(tǒng)驅(qū)動過分依賴數(shù)據(jù)。基于深度神經(jīng)網(wǎng)絡(luò)的主流軍事智能技術(shù),是一種數(shù)據(jù)驅(qū)動模型,即使用海量標(biāo)記樣本來訓(xùn)練、擬合出智能決策模型,數(shù)據(jù)測試合格后,再部署到實際環(huán)境中應(yīng)用。它并未像人一樣理解學(xué)習(xí)樣本真實含義,只不過恰好構(gòu)建了一個在預(yù)設(shè)訓(xùn)練集上運行良好的模型。由此構(gòu)建的智能模型對原始數(shù)據(jù)輕微擾動具有非線性放大效應(yīng),一旦出現(xiàn)了預(yù)測空間之外的樣本,即不良甚至錯誤數(shù)據(jù),就可能崩潰,作出錯誤決策,導(dǎo)致決策災(zāi)難。

決策模型適應(yīng)性偏弱。隨著技術(shù)發(fā)展,人工智能技術(shù)難點已從數(shù)據(jù)邊界轉(zhuǎn)為決策邊界。軍事人工智能模型的算法構(gòu)造和參數(shù)設(shè)定,天然地依賴于領(lǐng)域知識并受限于有限的數(shù)據(jù)集空間,須滿足確定性信息、完全信息、有限領(lǐng)域等條件,是完全信息博弈。但是,軍事決策環(huán)境恰好是典型的非完全信息博弈。此外,模型的訓(xùn)練、測試數(shù)據(jù)與知識范圍均基于已有案例產(chǎn)生,但軍事決策的對抗性決定了新的決策結(jié)論往往與既往相似決策環(huán)境中的結(jié)論存在差異甚至截然相反,智能模型尚不能夠有效產(chǎn)生這種出乎意料、合乎作戰(zhàn)藝術(shù)之中的決策結(jié)論。

算法“不可解釋”會衍生風(fēng)險。作為特殊對抗活動,軍事智能系統(tǒng)的決策過程應(yīng)當(dāng)具備“可解釋性”,也就是人能夠理解智能算法決策邏輯過程與結(jié)果。但是,當(dāng)前人工智能系統(tǒng)算法呈現(xiàn)“黑箱”特征,人無法了解并掌握它的決策過程,初始條件、權(quán)重等簡單參數(shù)的微小變化和調(diào)整,可能產(chǎn)生復(fù)雜的結(jié)果。這意味著智能系統(tǒng)存在著結(jié)構(gòu)性漏洞,存在不可預(yù)知的決策風(fēng)險,極可能產(chǎn)生錯誤甚至危險決策。同時,這還導(dǎo)致軍事智能系統(tǒng)的數(shù)據(jù)、算法、模型等可能存在難以發(fā)現(xiàn)的后門或漏洞,無法預(yù)知系統(tǒng)安全風(fēng)險。

運行機理視角:體系控制難度放大

多域交互產(chǎn)生認(rèn)知失真。智能化作戰(zhàn)體系分布于物理域、聯(lián)通于信息域、角逐于認(rèn)知域,作戰(zhàn)過程中,數(shù)據(jù)、信號、指令等信息跨域傳遞,人腦、機腦認(rèn)知結(jié)果多次交互,一組信息需要歷經(jīng)多輪交叉映射,數(shù)據(jù)失真進而產(chǎn)生信息受損不可避免。

復(fù)雜結(jié)構(gòu)導(dǎo)致控制困難。器件小型化、系統(tǒng)集成化,是智能化武器裝備平臺的典型特征。系統(tǒng)內(nèi)部器件的小型化使得器件抗毀性、信號完整性受到挑戰(zhàn),相鄰器件還可能相互影響造成信號干擾和信息泄露。集成的各子系統(tǒng)之間依靠各類傳感器、網(wǎng)絡(luò)交換元器件和系統(tǒng)通信協(xié)議等聯(lián)結(jié)形成新的系統(tǒng),結(jié)構(gòu)繁復(fù),控制信號難以流暢傳遞。在此基礎(chǔ)上疊加無序的人員意識、錯綜復(fù)雜的關(guān)系與機制等要素,進一步放大了這種控制困難。

體系演化加劇不確定性。如果將智能化作戰(zhàn)體系視為復(fù)雜巨系統(tǒng),除了系統(tǒng)穩(wěn)定依賴少數(shù)關(guān)鍵節(jié)點、作戰(zhàn)鏈路易損易毀等復(fù)雜系統(tǒng)共同脆弱性等外,作戰(zhàn)體系還存在著涌現(xiàn)性機制不清楚的薄弱環(huán)節(jié),即系統(tǒng)知道1+1>2,但是等于幾不知道。傳統(tǒng)作戰(zhàn)體系可通過人的活動來有意識地控制體系演化方向。但是,智能化作戰(zhàn)體系的顯著特征就是自主性極大增強,除少數(shù)關(guān)鍵活動有人介入外,大部分活動均是“人在回路上”,這就導(dǎo)致體系的自主演化方向不可控,既可以趨于穩(wěn)定,也可能趨向崩潰。

人機協(xié)同視角:人機關(guān)系難以平衡

人機難以徹底信任。智能化作戰(zhàn)體系中,各級指揮機構(gòu)人機協(xié)同,人腦+機腦共同構(gòu)成指揮主體。作戰(zhàn)過程中,除人腦指令外,各級還要貫徹執(zhí)行機腦下達的指令。受人工智能技術(shù)缺陷、決策過程“黑箱”、人的主觀意識等因素影響,人很難無條件地信任并接受機器決策結(jié)果。這種不信任感可以通過長期人機協(xié)同訓(xùn)練降低,但是無法絕對消除。在戰(zhàn)場態(tài)勢發(fā)展的關(guān)鍵時刻,一旦人和機器的決策結(jié)果發(fā)生分歧,勢必影響決策速度與質(zhì)量。

戰(zhàn)爭倫理無法回避。在未來智能化作戰(zhàn)系統(tǒng)中,無論人、機以何種模式共存,人工智能系統(tǒng)的機腦都將獲取部分指揮控制權(quán)限。但是,戰(zhàn)爭活動有其特殊性,它直接帶來人的流血與死亡。按照“機器人三定律”,機器人不能對人造成傷害。但是,未來智能化戰(zhàn)爭,軍事智能系統(tǒng)的決策與行動,勢必造成人類的傷亡。軍事智能系統(tǒng)是否擁有對人攻擊的權(quán)限,其決策權(quán)限邊界在哪里,濫用這種權(quán)限是否導(dǎo)致機器人尋求主動傷害人類等,一直是科學(xué)界爭論的焦點,也是當(dāng)前各國發(fā)展軍事人工智能無法回避的問題。(顧靜超 張永亮 王光雷)

關(guān)鍵詞:

首頁
頻道
底部
頂部