還記得電影《戰(zhàn)狼2》中掛著機(jī)槍在空中到處“突突”的殺人無人機(jī)嗎?還記得科幻片《黑鏡》中被黑客入侵的機(jī)器“殺人蜂”的恐怖場景嗎?人與武器的關(guān)系,是軍事領(lǐng)域亙古不變的話題。試想,如果賦予智能無人作戰(zhàn)系統(tǒng)“生殺大權(quán)”,甚至實(shí)現(xiàn)“機(jī)器代理人戰(zhàn)爭”,那么《黑鏡》等電影中的場景或?qū)⒆優(yōu)楝F(xiàn)實(shí)。避免無人作戰(zhàn)系統(tǒng)擁有“自主開火權(quán)”,確保戰(zhàn)爭人類可控,或?qū)⒊蔀橹悄軕?zhàn)爭時(shí)代人類的“自我救贖”。請關(guān)注今日出版的《解放軍報(bào)》的文章——

制圖:劉 程
高度智能化的無人作戰(zhàn)系統(tǒng)走上戰(zhàn)場,真的會擺脫人類的控制嗎——
無人戰(zhàn)爭≠“無人的戰(zhàn)爭”
■許玥凡 張璦敏
智能戰(zhàn)爭面臨失控風(fēng)險(xiǎn)
人工智能技術(shù)與無人化作戰(zhàn)系統(tǒng),正加速叩開未來智能化戰(zhàn)爭的大門。
也別高興得太早,智能機(jī)器人“大兵”若真的在戰(zhàn)場上沖鋒陷陣,未來戰(zhàn)爭或?qū)⒚媾R巨大的失控風(fēng)險(xiǎn)。2015年7月,美國一臺“發(fā)瘋”的機(jī)器人曾“失手”將一名裝配工人殺死。據(jù)說,伊拉克戰(zhàn)場上,美軍的“劍”式戰(zhàn)斗機(jī)器人曾無故將槍口指向己方指揮官。
在復(fù)雜戰(zhàn)場環(huán)境下,擁有高度智能的無人作戰(zhàn)系統(tǒng)極有可能出現(xiàn)識別錯(cuò)誤、通信降級甚至被敵電磁、網(wǎng)絡(luò)攻擊后“倒戈反擊”等情況,而諸如濫殺無辜、系統(tǒng)失控等更是給智能武器的軍事應(yīng)用帶來了巨大隱患。
其實(shí),人們對于智能武器系統(tǒng)的擔(dān)憂,從命名伊始就初見端倪。機(jī)器人的英文名為“Robot”,其原意就是“農(nóng)奴式被強(qiáng)迫的勞動者”。未來的智能化戰(zhàn)爭,戰(zhàn)場上的絕大多數(shù)作戰(zhàn)任務(wù)都將交由“被強(qiáng)迫勞動”的戰(zhàn)斗機(jī)器人來完成。一旦人類授予了智能武器系統(tǒng)“自主開火權(quán)”,這群毫無感情、不知疲倦的鋼鐵機(jī)器會不會濫殺無辜,甚至調(diào)轉(zhuǎn)槍口成為“人類終結(jié)者”?這是我們必須直面的問題。


 
          

