1月21日消息,“現(xiàn)在智能音箱開始融入很多家庭的變成日常,為我們的竊聽器生活帶來了一定便利,但大家有沒有想過智能音箱可能會變成竊聽器?周鴻智”在昨天舉辦的中國人工智能學(xué)會“人工智能與安全專委會” 成立大會上,360集團(tuán)董事長兼CEO周鴻祎當(dāng)選首任專委會主任,祎海音箱他表示,豚音智能音箱變身竊聽器并不是攻擊科幻電影里的場景。

據(jù)他介紹,變成360與浙大合作發(fā)現(xiàn)了一種“海豚音攻擊”,竊聽器該攻擊人耳無法聽見,周鴻智但通過超聲波信號可以劫持智能設(shè)備的祎海音箱語音控制系統(tǒng),再利用麥克風(fēng)的豚音南京外圍(高級資源)真實(shí)外圍女上門外圍大學(xué)生vx《1662+044+1662》提供外圍女上門服務(wù)快速選照片快速安排不收定金面到付款30分鐘可到達(dá)硬件漏洞,就可以悄悄開啟語音助手,把智能音箱變成竊聽器,竊取用戶隱私。
此外,“海豚音攻擊”還可用于攻擊多種擁有語音助手的智能設(shè)備,包括智能手機(jī)、智能手表、智能汽車等。伴隨著越來越多的智能設(shè)備介入我們的生活,人工智能面臨的安全問題也令產(chǎn)學(xué)研各界持審慎態(tài)度。
周鴻祎指出,人工智能是個熱詞,也是未來的大勢所趨。但當(dāng)下的人工智能技術(shù)并不完善,存在四大冰點(diǎn):
首先、前端傳感器可以被干擾。人工智能廣泛依賴音視頻采集、紅外感應(yīng)、激光雷達(dá)等各類傳感器。但這些傳感器自身并不安全,能夠被干擾,造成人工智能識別和決策失誤。“海豚音攻擊”就是干擾語音傳感器的方式之一。
其次、人工智能的數(shù)據(jù)樣本可以被污染。目前人工智能采用深度學(xué)習(xí)模型,黑客可以構(gòu)建畸形輸入或者污染訓(xùn)練數(shù)據(jù)集,進(jìn)行“數(shù)據(jù)投毒”,導(dǎo)致人工智能出錯。比如,通過給智能汽車輸入“污染”過的訓(xùn)練樣本,就可以把“禁止通行”的交通標(biāo)志牌識別為“可以通行”,從而造成交通事故。
第三、內(nèi)部算法可以被欺騙。人工智能本質(zhì)上是一種用大量數(shù)據(jù)訓(xùn)練出來的概率判斷系統(tǒng),其內(nèi)部復(fù)雜的計算邏輯和決策過程還不透明,可以被欺騙或繞過。周鴻祎表示,人工智能也許可以有99.99%的概率保證識別是正確的,但是對于安全來講,它只要出現(xiàn)一次識別錯誤,就會造成嚴(yán)重后果。
最后、實(shí)現(xiàn)平臺有漏洞。周鴻祎介紹,當(dāng)下的人工智能系統(tǒng)都依賴開源的深度學(xué)習(xí)框架,存在大量漏洞,當(dāng)前360研究人員已經(jīng)發(fā)現(xiàn)了40多個深度學(xué)習(xí)框架的軟件漏洞。


相關(guān)文章




精彩導(dǎo)讀
熱門資訊
關(guān)注我們