六合图库彩库开奖结果
登錄 | 注冊
當前位置:首頁>普羅網>平民草根

算法界上演“貓鼠游戲”連續劇

2019-07-03 10:06 科技日報

圖片來自網絡今日視點

 

  醫療手術、無人駕駛、圍棋對弈、隨手可用的翻譯……近十年來,人工智能(AI)取得了巨大進步。而這,要得益于人工神經網絡的發展。

  這一神經網絡的模式,效仿的是我們人類的大腦,在大規模應用時,也被稱為深度學習,其能夠自己發現數據的模式,而無需明確指令。

  深度學習雖然可以在大數據訓練中學到正確的工作方法,卻也很容易受到惡意干擾。攻擊者們通常會通過輸入惡意數據來欺騙深度學習模型,導致其出現嚴重故障。

  面對惡意算法欺騙,人工智能如何反擊?英國《自然》網絡版日前的報道稱,現在,計算機科學家正在多方尋找對策,以便讓人工智能更安全。

  AI:我因“學習”而受傷 

  “學習”,是人工智能的核心,也是使計算機具有智能的根本途徑。

  深度學習的主旨,是讓計算機去模擬或實現人類的學習行為,以獲取新的知識或技能,并重新組織已有的知識結構,使之不斷改善自身的性能。

  但同時,深度學習算法的不可預測性,使其需要不斷挖掘。

  對于家庭和個人手機來說,虛擬智能化助理的應用越普遍,惡意攻擊就越可能隨時發生。有些信息眼看、耳聽都沒有問題,卻能“暗藏殺機”——隱藏著劫持設備的指令。

  舉例來說,人工智能“看”圖像的模式,和人類的肉眼大不一樣。通過微妙改變圖像的某些部分,再輸入后的圖片即使肉眼看來一模一樣,計算機看起來卻大不相同。這就叫對抗性示例。

  除了圖像,聲音也會有同樣的問題,只要修改了一個語音片段,人工智能就可能修改成完全不同的語音指令。

  無需隱身,也能抓住攻擊者 

  不過,在不久前召開的國際學習表征會議(ICLR)上,美國伊利諾伊大學香檳分校的計算機科學家拿出了一種對抗攻擊的方法。

  他們編寫的算法可以轉錄完整的音頻以及單個片段。如果單個片段轉錄出來和完整音頻中的對應部分不完全匹配,那么算法會立即用一面小紅旗做出標記,表明音頻樣本可能已遭攻擊。

  在攻擊測試中,面對幾種不同類型的修改,該算法幾乎都檢測到了異常情況。此外,即使攻擊者已經了解到有防御系統的存在,大多數情況下還是會被抓住。

  這套算法擁有令人驚訝的穩定性。谷歌大腦團隊的科學家尼古拉斯·卡林尼評價稱,其最具吸引力之處在于它的“簡單”。另有與會專家認為,隨著對抗性攻擊越來越常見,谷歌助手、亞馬遜和蘋果等服務,都應當應用這種防御系統。

  然而,攻擊和防御之間,注定是一場持久的“貓鼠游戲”。卡林尼表示:“我毫不懷疑有人已經在研究如何攻擊這種防御系統了。”

  提前演練,對攻擊免疫

  也有的研究團隊在另辟蹊徑。

  就在本周,澳大利亞聯邦科學與工業研究組織下屬團隊公開了一套算法,其通過效仿疫苗接種的思路,幫助人工智能“修煉”出抗干擾能力。

  所謂“疫苗算法”,就是在識別圖片時,能夠對圖片集合進行微小的修改或使其失真,以激發學習模型“領會”到越來越強的抗干擾能力,并形成相關的自我抗干擾訓練模型。經過此類小規模的失真訓練后,最終的抗干擾訓練模型將更加強大,當真正的攻擊到來之時,機器學習模型將具備“免疫”功能。

  這其實是針對深度學習模型專門打造的訓練。因為它會“學習”,所以也會學著糾錯。

  郵件過濾器:效果不盡人意 

  郵件過濾器真的已經很努力了,但效果并不盡如人意。

  這是因為防御與攻擊總是相伴相生。隨著漏洞越來越多的被察覺,人工智能擁有更多的防御能力,惡意攻擊也在不斷進階。

  在4月召開的美國系統和機器學習大會(SysML)上,德克薩斯大學奧斯汀分校的計算機科學家們揭示了機器學習算法在文本理解方面的漏洞。

  有些人認為文本不容易被攻擊,因為惡意欺騙可以對圖像或聲音波形進行微調,但改變任何文字都會被察覺。可科學家告訴我們不是這樣。

  惡意攻擊會瞄準一些同義詞,文本含義不發生改變,但深度學習算法卻可能因此而判斷錯誤——垃圾郵件成了安全的,假新聞被合法推送。

  科學家們演示了一套惡意攻擊程序,它甚至會檢測文本分類器在判斷是否含有惡意時,最依賴的是哪些詞語。接著,它挑選出關鍵詞的同義詞,替換,然后飛速開始測試下一個關鍵詞。在這套算法攻擊下,過濾器的準確率急劇下降。

  不過,將這些手段公諸于眾,究竟可以提高防御能力,還是會加劇攻擊手段,目前仍有爭議。此前,已經有AI實驗室拒絕公開一種攻擊算法,因為擔心它被濫用。

  (科技日報北京7月2日電)

 
附件下載:
標簽:

相關閱讀:

用戶名:   (您填寫的用戶名將出現在評論列表中)匿名

驗證碼 :  驗證碼

網友評論:

六合图库彩库开奖结果 快乐赛车pk10直播 时时全天计划 重庆时时开奖手机 极速时时开奖走势图 北京pk10 3-8定位技巧 体育比赛即时比分 大唐炸金花技巧规律 好用的ps软件app推荐 棋牌现金二八杠官网 单机斗地主电脑版下载