【延伸閱讀】德媒稱聯(lián)合國欲約束“殺人機器人”發(fā)展 至今無果

參考消息網(wǎng)11月16日報道 據(jù)德國《每日鏡報》網(wǎng)站11月13日報道稱，在不久的將來，完全自主行動的殺人機器人將在戰(zhàn)場上決定人們的生死。關(guān)于禁止或者至少是限制此類武器系統(tǒng)使用的討論近年來一直沒有停止，但至今仍毫無結(jié)果。聯(lián)合國近期開始在日內(nèi)瓦就此進行討論。

什么是殺人機器人？

它的正式名稱為“致命自主武器系統(tǒng)”。目前還沒有普遍有效的定義。聯(lián)合國和國際紅十字會是這樣解釋的：它無需人類的幫助就可以確定目標、發(fā)動攻擊并清除目標。換句話說，一旦編好程序，這些武器系統(tǒng)可以獨立分析數(shù)據(jù)，導(dǎo)航至作戰(zhàn)地區(qū)并使用機關(guān)炮或火箭等武器。近年來人工智能領(lǐng)域的巨大進步構(gòu)成了殺人機器人發(fā)展的基礎(chǔ)。

已經(jīng)在使用的無人機目前還是由士兵操控的，因此它（還）不是殺人機器人。盡管距離它獨立操作似乎并不遙遠。

發(fā)展到何種程度了？

負責(zé)軍備的俄羅斯副總理羅戈津今年春天發(fā)布過一段視頻，里面可以看到《終結(jié)者》似的類人殺人機器人。這更多地屬于宣傳范疇。外觀是否與人類相像一點都不重要。人權(quán)觀察組織的專家認為，“美國、英國、中國、以色列、俄羅斯和韓國開發(fā)的武器系統(tǒng)自主性都在增大”。目前已經(jīng)有原型機在使用當(dāng)中。

支持者辯稱，它將令軍人的危險最小化。但恰恰這點可能會導(dǎo)致門檻的降低并令戰(zhàn)爭增多——從而導(dǎo)致更多的平民傷亡。人們已經(jīng)可以在遠程操控的無人機的使用中看到這樣的發(fā)展。

圖為美國裝備的軍用無人機

后果責(zé)任誰來承擔(dān)？

這是與殺人機器人密不可分的一個根本性的倫理問題。合乎倫理和道義的行動，善與惡、對與錯的區(qū)分，對后果的評估，對自身行為責(zé)任的承擔(dān)，所有這些在未來戰(zhàn)爭中都不存在。機器人雖然有人工智能，但卻沒有憐憫或悔恨等情感，它沒有任何的愧疚感。對于適度等概念它無從下手。但這卻是寫在所謂的戰(zhàn)爭法當(dāng)中的：沖突各方必須避免不必要的破壞并避免給對方帶來不必要的傷痛。必須善待平民、受傷、無作戰(zhàn)能力和被俘的軍人。專家認為，這是無法編入程序當(dāng)中的。2013年時，政策專家在給聯(lián)合國人權(quán)委員會的一份報告中就警告說：這些“不知疲倦的戰(zhàn)爭機器”可能會令武裝沖突變成無休止的戰(zhàn)爭——外交將沒有可能來終止專門用來在即便是毫無希望的情況下也繼續(xù)作戰(zhàn)的機器的殺戮。

法律規(guī)范如何確立？

到目前為止，沒有。本次聯(lián)合國會議也不會立法，它只會在一份“政治聲明”中摸索其政治、倫理和法律上的空間。禁令不在討論范圍之內(nèi)。

由于這些系統(tǒng)目前實際上還不存在，德國和法國一起建議先確定自主武器系統(tǒng)的定義。包括軍工代表在內(nèi)的一個技術(shù)專家小組將對新武器的風(fēng)險進行說明。“國際停止殺人機器人運動”的代表認為這完全不夠，必須提前對這些武器進行禁止。

只有19個國家要求頒布禁令。在幕后阻撓的恰恰是在將人工智能與作戰(zhàn)裝備相融合方面領(lǐng)先的國家。最近，有100多名專家在一封公開信中寫道，殺人機器人是在火藥和核彈之后的第三次作戰(zhàn)革命。如果新武器落入暴君和恐怖分子手中，等待人們的將是徹底的恐怖。

（2017-11-16 09:31:00）