30秒快讀
1、“人工智能發(fā)展道路還很漫長(zhǎng)，針對(duì)人工智能和通信網(wǎng)絡(luò)的結(jié)合，我們需要做好各種準(zhǔn)備?！痹?月10日2020世界人工智能大會(huì)云端峰會(huì)的“AI新基建 5G新機(jī)遇”主題論壇中，北京郵電大學(xué)教授張勇表示，在電信運(yùn)營(yíng)商網(wǎng)絡(luò)智能化方面，深度神經(jīng)網(wǎng)絡(luò)已經(jīng)成為主流方案，但他同時(shí)指出，安全問(wèn)題使得AI在通信網(wǎng)絡(luò)應(yīng)用時(shí)很難得到信任。
2、“當(dāng)前已經(jīng)出現(xiàn)一些’數(shù)據(jù)投毒’’逃逸攻擊’等專門攻擊AI系統(tǒng)的手段?！彼麖?qiáng)調(diào)。在自動(dòng)駕駛領(lǐng)域，“數(shù)據(jù)投毒”可導(dǎo)致車輛違反交通規(guī)則甚至造成交通事故；在軍事領(lǐng)域，通過(guò)信息偽裝的方式可誘導(dǎo)自主性武器啟動(dòng)或攻擊，其帶來(lái)的風(fēng)險(xiǎn)是毀滅性的。
張勇提出AI在5G網(wǎng)絡(luò)智能化應(yīng)用中面臨的五大挑戰(zhàn)。
挑戰(zhàn)一
壞數(shù)據(jù)會(huì)產(chǎn)生“偏見(jiàn)”
數(shù)據(jù)、算力、算法，深度學(xué)習(xí)三大關(guān)鍵詞，其中數(shù)據(jù)往往被認(rèn)為是人工智能最重要的驅(qū)動(dòng)力，但也正因如此，“壞”的數(shù)據(jù)，或者“不完善”的數(shù)據(jù)，會(huì)直接影響計(jì)算結(jié)果。不久前，美國(guó)杜克大學(xué)研究人員發(fā)明一種新的圖像識(shí)別算法PULSE，它可以將低分辨圖片變成高清圖片，但有人將奧巴馬打了馬賽克的照片輸入后，復(fù)原的照片卻有了白人的特征。圖靈獎(jiǎng)得主、人工智能標(biāo)桿性人物 Yann LeCun認(rèn)為，這不僅是算法的問(wèn)題，而是訓(xùn)練時(shí)使用的數(shù)據(jù)產(chǎn)生了“偏見(jiàn)”。
圖源/網(wǎng)絡(luò)
“數(shù)據(jù)不完善，不管是數(shù)據(jù)源數(shù)量，還是已有數(shù)據(jù)的指標(biāo)深度都存在著不足，使用這些數(shù)據(jù)應(yīng)用智能運(yùn)維效果不佳，甚至?xí)斐蓻Q策錯(cuò)誤?！睆堄抡J(rèn)為，當(dāng)前存在標(biāo)記數(shù)據(jù)缺乏、數(shù)據(jù)不平衡/異常標(biāo)注廣泛存在、仿真數(shù)據(jù)難以使人信服等數(shù)據(jù)源問(wèn)題，這些都會(huì)影響AI對(duì)智能通信網(wǎng)絡(luò)的優(yōu)化。
挑戰(zhàn)二
目前的AI能力還很“羸弱”
“通信網(wǎng)絡(luò)對(duì)可靠性穩(wěn)定性的要求，遠(yuǎn)比計(jì)算機(jī)完成人臉識(shí)別、語(yǔ)音識(shí)別的要求要高?！彪m然AI在語(yǔ)音、視頻、圖像、文本等領(lǐng)域已經(jīng)獲得引人注目的成就，但應(yīng)用到網(wǎng)絡(luò)通信方面還存在著大量困難，張勇舉了一個(gè)例子，研究團(tuán)隊(duì)在通過(guò)對(duì)網(wǎng)絡(luò)流量數(shù)據(jù)進(jìn)行網(wǎng)絡(luò)攻擊行為檢測(cè)，在一個(gè)公開(kāi)數(shù)據(jù)集上進(jìn)行分類檢測(cè)得到一個(gè)很好的模型。換一個(gè)數(shù)據(jù)集，同樣包含一樣的攻擊行為，檢測(cè)效果就非常差。
圖源/Pixabay
“目前的AI還是一種弱人工智能階段，需要耗費(fèi)大量的計(jì)算資源，才可以獲得一個(gè)人類很容易擁有的能力。”此外，張勇還指出，AI缺乏邏輯推理能力，那么在網(wǎng)絡(luò)智能運(yùn)維上所需要的一些邏輯推理問(wèn)題沒(méi)有辦法開(kāi)展，而且各種模型無(wú)法互通，獲得的知識(shí)也無(wú)法傳遞。
挑戰(zhàn)三
“黑盒子”無(wú)法獲得信任
“黑盒子”是當(dāng)前深度學(xué)習(xí)產(chǎn)業(yè)化最大的攔路虎。由于缺乏數(shù)理基礎(chǔ)的支撐，AI模型的好壞以及原因，通常都是個(gè)“謎”。因此，在需要高可靠性的通信網(wǎng)絡(luò)場(chǎng)景中，AI往往得不到信任。
圖源/Pixabay
張勇團(tuán)隊(duì)在和一些企業(yè)合作時(shí)，準(zhǔn)備用AI技術(shù)做無(wú)線信號(hào)識(shí)別，對(duì)方便提出，能不能不要用深度學(xué)習(xí)，“因?yàn)楦杏X(jué)這個(gè)不是很可靠。”這為AI技術(shù)在網(wǎng)絡(luò)智能化應(yīng)用帶來(lái)挑戰(zhàn)：深度學(xué)習(xí)如何在網(wǎng)絡(luò)智能化上面保持保證高度可靠性，如何說(shuō)服使用者信任它？
挑戰(zhàn)四
動(dòng)態(tài)資源分配可能對(duì)網(wǎng)絡(luò)產(chǎn)生影響
剛剛于北京時(shí)間7月3日晚凍結(jié)的第一個(gè)5G演進(jìn)版標(biāo)準(zhǔn)R16，再次把網(wǎng)絡(luò)自動(dòng)化提上日程。為了實(shí)現(xiàn)網(wǎng)絡(luò)自動(dòng)化和智能化，國(guó)際標(biāo)準(zhǔn)組織3GPP定義了5G網(wǎng)絡(luò)自動(dòng)化的通用架構(gòu)，新增了網(wǎng)絡(luò)數(shù)據(jù)分析功能，作為大數(shù)據(jù)收集和智能分析的承載實(shí)體，不僅能收集數(shù)據(jù)，還具備智能分析的能力，包括計(jì)算模型訓(xùn)練、推理判斷與預(yù)測(cè)等等。
圖源/網(wǎng)絡(luò)
因此，在很多對(duì)未來(lái)5G社會(huì)的設(shè)想中，使用者可以按需分配、按需使用、按需計(jì)費(fèi)，這個(gè)要求必然只能通過(guò)AI來(lái)完成。但現(xiàn)實(shí)情況是，現(xiàn)有網(wǎng)絡(luò)場(chǎng)景遠(yuǎn)比數(shù)學(xué)模型場(chǎng)景復(fù)雜，目前網(wǎng)絡(luò)資源分配大多使用強(qiáng)化學(xué)習(xí)方法，張勇指出，在強(qiáng)化學(xué)習(xí)的探索過(guò)程中間，如果在現(xiàn)網(wǎng)上直接測(cè)試，很容易對(duì)網(wǎng)絡(luò)性能帶來(lái)負(fù)面影響。
于是，研究者遭遇兩難：如果先在測(cè)試網(wǎng)絡(luò)上開(kāi)展工作，想要得到好的結(jié)果，需要提前做大量實(shí)驗(yàn)，但通信場(chǎng)景之多樣性遠(yuǎn)超谷歌AlphaGo Zero遇到的情況，訓(xùn)練過(guò)程中需要的資源、數(shù)據(jù)量和計(jì)算量不可想像，也無(wú)法承受。
挑戰(zhàn)五
小心深度學(xué)習(xí)被用來(lái)“對(duì)抗攻擊”
深度學(xué)習(xí)對(duì)產(chǎn)業(yè)發(fā)展帶來(lái)機(jī)遇，并日益普及，但也使得安全問(wèn)題被提上了議事日程。有研究表明，深度神經(jīng)網(wǎng)為網(wǎng)絡(luò)安全帶來(lái)跨越式的發(fā)展機(jī)遇，但也為攻擊者提供了新的攻擊面——針對(duì)AI模型完整型發(fā)起的攻擊，即所謂的“對(duì)抗攻擊”。
“數(shù)據(jù)投毒”和“逃逸攻擊”是兩種常見(jiàn)的對(duì)抗攻擊。“數(shù)據(jù)投毒”是指攻擊者通過(guò)在訓(xùn)練數(shù)據(jù)里加入偽裝數(shù)據(jù)、惡意樣本等行為來(lái)破壞數(shù)據(jù)的完整性，進(jìn)而導(dǎo)致訓(xùn)練的算法模型決策出現(xiàn)偏差。
根據(jù)中國(guó)信通院發(fā)布的《人工智能數(shù)據(jù)安全白皮書(shū)（2019）》，“數(shù)據(jù)投毒”危害巨大。在自動(dòng)駕駛領(lǐng)域，“數(shù)據(jù)投毒”可導(dǎo)致車輛違反交通規(guī)則甚至造成交通事故；在軍事領(lǐng)域，通過(guò)信息偽裝的方式可誘導(dǎo)自主性武器啟動(dòng)或攻擊，從而帶來(lái)毀滅性風(fēng)險(xiǎn)。
圖源/中國(guó)信通院
逃逸攻擊則是指攻擊者在不改變目標(biāo)機(jī)器學(xué)習(xí)系統(tǒng)的情況下，通過(guò)構(gòu)造特定輸入樣本以完成欺騙目標(biāo)系統(tǒng)的攻擊。比如，一個(gè)深度學(xué)習(xí)系統(tǒng)原本可以精確區(qū)分熊貓與長(zhǎng)臂猿等圖片，但是攻擊者可以對(duì)熊貓圖片增加少量干擾，生成的圖片，人看起來(lái)仍是熊貓，但系統(tǒng)會(huì)誤認(rèn)為長(zhǎng)臂猿。
哪怕是今年最熱門的聯(lián)邦學(xué)習(xí)，也可能存在惡意參與者，如果在原始樣本中加入小幅度的擾動(dòng)，便可能使生成對(duì)抗攻擊時(shí)的異常檢測(cè)系統(tǒng)發(fā)生誤判。
張勇團(tuán)隊(duì)做了一個(gè)實(shí)驗(yàn)，針對(duì)基于AI的入侵檢測(cè)系統(tǒng)，通過(guò)對(duì)抗生成網(wǎng)絡(luò)產(chǎn)生攻擊的網(wǎng)絡(luò)數(shù)據(jù)流樣本，對(duì)采用不同機(jī)器學(xué)習(xí)算法的IDS（入侵檢測(cè)系統(tǒng)）進(jìn)行攻擊，攻擊成功率最高可以達(dá)到80%以上，也就是說(shuō)，他們改變了攻擊數(shù)據(jù)級(jí)的特征，讓原本具有很高檢測(cè)能力的基于AI的入侵檢測(cè)系統(tǒng)失效了。
“構(gòu)建一個(gè)可靠、安全、可信的人工智能解決方案，需要從數(shù)理基礎(chǔ)上進(jìn)行梳理研究，但這是一個(gè)很漫長(zhǎng)的工作，目前來(lái)看還沒(méi)有好的方法?！睆堄卤硎?。
（根據(jù)張勇發(fā)言編輯整理，有刪改）
作者／IT時(shí)報(bào)記者 郝俊慧
編輯／挨踢妹
排版／馮誠(chéng)杰
圖片／網(wǎng)絡(luò) 中國(guó)信通院 Pixabay
來(lái)源／《IT時(shí)報(bào)》公眾號(hào)vittimes
