算法界上演“貓鼠游戲”連續劇

互聯網+
2019
07/03
科技日報
分享

醫療手術、無人駕駛、圍棋對弈、隨手可用的翻譯……近十年來,人工智能(AI)取得了巨大進步。而這,要得益于人工神經網絡的發展。

這一神經網絡的模式,效仿的是我們人類的大腦,在大規模應用時,也被稱為深度學習,其能夠自己發現數據的模式,而無需明確指令。

深度學習雖然可以在大數據訓練中學到正確的工作方法,卻也很容易受到惡意干擾。攻擊者們通常會通過輸入惡意數據來欺騙深度學習模型,導致其出現嚴重故障。

面對惡意算法欺騙,人工智能如何反擊?英國《自然》網絡版日前的報道稱,現在,計算機科學家正在多方尋找對策,以便讓人工智能更安全。

AI:我因“學習”而受傷

“學習”,是人工智能的核心,也是使計算機具有智能的根本途徑。

深度學習的主旨,是讓計算機去模擬或實現人類的學習行為,以獲取新的知識或技能,并重新組織已有的知識結構,使之不斷改善自身的性能。

但同時,深度學習算法的不可預測性,使其需要不斷挖掘。

對于家庭和個人手機來說,虛擬智能化助理的應用越普遍,惡意攻擊就越可能隨時發生。有些信息眼看、耳聽都沒有問題,卻能“暗藏殺機”——隱藏著劫持設備的指令。

舉例來說,人工智能“看”圖像的模式,和人類的肉眼大不一樣。通過微妙改變圖像的某些部分,再輸入后的圖片即使肉眼看來一模一樣,計算機看起來卻大不相同。這就叫對抗性示例。

除了圖像,聲音也會有同樣的問題,只要修改了一個語音片段,人工智能就可能修改成完全不同的語音指令。

無需隱身,也能抓住攻擊者

不過,在不久前召開的國際學習表征會議(ICLR)上,美國伊利諾伊大學香檳分校的計算機科學家拿出了一種對抗攻擊的方法。

他們編寫的算法可以轉錄完整的音頻以及單個片段。如果單個片段轉錄出來和完整音頻中的對應部分不完全匹配,那么算法會立即用一面小紅旗做出標記,表明音頻樣本可能已遭攻擊。

在攻擊測試中,面對幾種不同類型的修改,該算法幾乎都檢測到了異常情況。此外,即使攻擊者已經了解到有防御系統的存在,大多數情況下還是會被抓住。

這套算法擁有令人驚訝的穩定性。谷歌大腦團隊的科學家尼古拉斯·卡林尼評價稱,其最具吸引力之處在于它的“簡單”。另有與會專家認為,隨著對抗性攻擊越來越常見,谷歌助手、亞馬遜和蘋果等服務,都應當應用這種防御系統。

然而,攻擊和防御之間,注定是一場持久的“貓鼠游戲”。卡林尼表示:“我毫不懷疑有人已經在研究如何攻擊這種防御系統了。”

提前演練,對攻擊免疫

也有的研究團隊在另辟蹊徑。

就在本周,澳大利亞聯邦科學與工業研究組織下屬團隊公開了一套算法,其通過效仿疫苗接種的思路,幫助人工智能“修煉”出抗干擾能力。

所謂“疫苗算法”,就是在識別圖片時,能夠對圖片集合進行微小的修改或使其失真,以激發學習模型“領會”到越來越強的抗干擾能力,并形成相關的自我抗干擾訓練模型。經過此類小規模的失真訓練后,最終的抗干擾訓練模型將更加強大,當真正的攻擊到來之時,機器學習模型將具備“免疫”功能。

這其實是針對深度學習模型專門打造的訓練。因為它會“學習”,所以也會學著糾錯。

郵件過濾器:效果不盡人意

郵件過濾器真的已經很努力了,但效果并不盡如人意。

這是因為防御與攻擊總是相伴相生。隨著漏洞越來越多的被察覺,人工智能擁有更多的防御能力,惡意攻擊也在不斷進階。

在4月召開的美國系統和機器學習大會(SysML)上,德克薩斯大學奧斯汀分校的計算機科學家們揭示了機器學習算法在文本理解方面的漏洞。

有些人認為文本不容易被攻擊,因為惡意欺騙可以對圖像或聲音波形進行微調,但改變任何文字都會被察覺。可科學家告訴我們不是這樣。

惡意攻擊會瞄準一些同義詞,文本含義不發生改變,但深度學習算法卻可能因此而判斷錯誤——垃圾郵件成了安全的,假新聞被合法推送。

科學家們演示了一套惡意攻擊程序,它甚至會檢測文本分類器在判斷是否含有惡意時,最依賴的是哪些詞語。接著,它挑選出關鍵詞的同義詞,替換,然后飛速開始測試下一個關鍵詞。在這套算法攻擊下,過濾器的準確率急劇下降。

不過,將這些手段公諸于眾,究竟可以提高防御能力,還是會加劇攻擊手段,目前仍有爭議。此前,已經有AI實驗室拒絕公開一種攻擊算法,因為擔心它被濫用。

科技日報北京7月2日電)

THE END
廣告、內容合作請點擊這里 尋求合作
免責聲明:本文系轉載,版權歸原作者所有;旨在傳遞信息,不代表新Q科技的觀點和立場。

相關熱點

2月26日,努比亞官方開啟開學特惠活動(活動工夫是2月26日-27日),多款新機降價促銷,其中努比亞Z17mini 6GB+64GB版售價1299元。努比亞Z17mini是努比亞在2017年推出的中端手機,其亮點是拍照。它搭載了索尼1300萬像素后置攝像頭,其中一顆為黑色鏡頭,搭載真顏色RGB Sensor,擔任采集豐厚的顏色信息,另一顆為彩色鏡頭,搭載索尼定制全透光MONO Sensor,進光
通信/計算
iPhone 7發布時,蘋果做出了一項嚴重決議,那就是丟棄了耳機孔在iPhone上呈現的時機,開端全力擁抱無線耳機,這樣做的益處不言而喻。剔除3.5mm耳機孔可以讓蘋果借機賺取更多的錢,當然更深層的一點是,為寸土寸金的外部設計留出空間,既然行業的領頭羊都曾經做出表率,其他廠商跟進也是必定。隨后我們看到不少手機廠商開端摒棄3.5mm耳機孔,而谷歌和高通也在一定水平上減速了這個狀況的發作,不過關于全
通信/計算
  還有幾天,你們就要正式和2017年說拜拜了。而在這一年里,有哪部手機讓你映像深刻呢?可能有些讓你映像深刻的手機本身在市場上
數碼產品
  今年蘋果發布了iPhone 8/8Plus/X三部手機,但恐怕連庫克自己都沒想到iPhone8/8Plus命途多舛,市場的不認可、設備本身的不完善
數碼產品
  北京時間2017年11月22日,中國鐵路正式宣布,從11月23日起(,中國鐵路客戶服務中心12306網站將正式上線微信支付功能。也就是
業界動態
  現在提起電商大佬,可能你們第一時間就會想到馬云和劉強東,對吧?但在小智還年輕的時代,這兩個名字還不存在,那個時候聽到最
數碼產品

相關推薦

1
3
野牛闪电电子