新華社堪培拉6月30日電（記者白旭 姜晨怡）澳大利亞聯(lián)邦科學(xué)與工業(yè)研究組織（CSIRO）日前發(fā)布消息說，該機(jī)構(gòu)的一個(gè)科研團(tuán)隊(duì)開發(fā)了一套人工智能新算法，可幫助抵御“機(jī)器學(xué)習(xí)”可能遇到的干擾。

　　“機(jī)器學(xué)習(xí)”可以在大數(shù)據(jù)訓(xùn)練中“學(xué)習(xí)”正確的工作方法，但它也容易受到惡意干擾。攻擊者一般通過輸入惡意數(shù)據(jù)來欺騙“機(jī)器學(xué)習(xí)”模型，導(dǎo)致其出現(xiàn)故障。開發(fā)新算法的Data61機(jī)器學(xué)習(xí)小組負(fù)責(zé)人理查德·諾克博士舉例說，在進(jìn)行圖像識(shí)別時(shí)，攻擊者通過在圖像上添加一層“干擾波”，可以欺騙“機(jī)器學(xué)習(xí)”模型進(jìn)行錯(cuò)誤的圖像分類。

　　“我們的新算法通過一種類似疫苗接種的思路來抗干擾?！敝Z克博士說，他們的新算法可對(duì)“機(jī)器學(xué)習(xí)”模型進(jìn)行防干擾訓(xùn)練，比如在圖片識(shí)別領(lǐng)域，對(duì)圖片集合進(jìn)行小的修改或使其失真，可激發(fā)出“機(jī)器學(xué)習(xí)”模型越來越強(qiáng)的抗干擾能力，并形成相關(guān)的自我抗干擾訓(xùn)練模型。當(dāng)經(jīng)過小規(guī)模的失真訓(xùn)練后，最終的抗干擾訓(xùn)練模型將更加強(qiáng)大，在干擾真的到來時(shí)，“機(jī)器學(xué)習(xí)”模型將具備“免疫”功能。

【糾錯(cuò)】

責(zé)任編輯： 焦鵬