科技日?qǐng)?bào)北京7月1日電 （記者張夢(mèng)然）機(jī)器學(xué)習(xí)模型受到攻擊將產(chǎn)生嚴(yán)重的后果，但如果對(duì)這一情形提前預(yù)防呢？就像人類針對(duì)即將到來(lái)的病毒去接種疫苗一樣。據(jù)澳大利亞聯(lián)邦科學(xué)與工業(yè)研究組織（CSIRO）官方網(wǎng)站消息，該機(jī)構(gòu)的一個(gè)研究團(tuán)隊(duì)，日前開(kāi)發(fā)了一套人工智能（AI）最新算法，可幫助機(jī)器學(xué)習(xí)抵御可能遇到的干擾。

　　機(jī)器學(xué)習(xí)是人工智能的核心，也是使計(jì)算機(jī)具有智能的根本途徑。機(jī)器學(xué)習(xí)主旨是讓計(jì)算機(jī)去模擬或?qū)崿F(xiàn)人類的學(xué)習(xí)行為，以獲取新的知識(shí)或技能，并重新組織已有的知識(shí)結(jié)構(gòu)，使之不斷改善自身的性能。

　　機(jī)器學(xué)習(xí)雖然可以在大數(shù)據(jù)訓(xùn)練中學(xué)到正確的工作方法，但它也很容易受到惡意干擾。通常攻擊者是通過(guò)輸入惡意數(shù)據(jù)來(lái)“欺騙”機(jī)器學(xué)習(xí)模型，導(dǎo)致其出現(xiàn)嚴(yán)重故障。

　　此次，開(kāi)發(fā)出新算法的研究團(tuán)隊(duì)——“Data61”機(jī)器學(xué)習(xí)小組領(lǐng)導(dǎo)者理查德·諾克表示，攻擊者會(huì)在進(jìn)行圖像識(shí)別時(shí)，在圖像上添加一層干擾波，達(dá)到“欺騙”的目的，從而讓機(jī)器學(xué)習(xí)模型產(chǎn)生錯(cuò)誤的圖像分類。

　　諾克及其團(tuán)隊(duì)成員研發(fā)的新算法，通過(guò)一種類似疫苗接種的思路，可以幫助機(jī)器學(xué)習(xí)“修煉”出抗干擾能力。這是針對(duì)機(jī)器學(xué)習(xí)模型打造的防干擾訓(xùn)練，譬如，在圖片識(shí)別領(lǐng)域，該算法能夠?qū)D片集合進(jìn)行微小的修改或使其失真，激發(fā)出機(jī)器學(xué)習(xí)模型“領(lǐng)會(huì)”到越來(lái)越強(qiáng)的抗干擾能力，并形成相關(guān)的自我抗干擾訓(xùn)練模型。

　　經(jīng)過(guò)此類小規(guī)模的失真訓(xùn)練后，最終的抗干擾訓(xùn)練模型將更加強(qiáng)大，當(dāng)真正的攻擊到來(lái)之時(shí)，機(jī)器學(xué)習(xí)模型將具備“免疫”功能。

　　總編輯圈點(diǎn)

　　用小伎倆干擾機(jī)器對(duì)圖像的識(shí)別，這種手段已經(jīng)應(yīng)用在網(wǎng)絡(luò)黑產(chǎn)中。人眼看起來(lái)并無(wú)明顯區(qū)別的圖片，覆上一層專門(mén)針對(duì)機(jī)器的干擾波，就能讓機(jī)器的判斷大失水準(zhǔn)。所謂接種疫苗，其實(shí)也就是“以毒攻毒”，讓機(jī)器先見(jiàn)識(shí)已經(jīng)被微小修改的圖片，并在訓(xùn)練中自我學(xué)習(xí)，從而最終能識(shí)破這層惡意干擾，揭開(kāi)圖片的廬山真面目。機(jī)器的學(xué)習(xí)功能是強(qiáng)大的，教會(huì)它應(yīng)對(duì)方法，它便能自我完善。但攻擊與防御總是相伴相生，這是一場(chǎng)沒(méi)有盡頭的技術(shù)博弈。