以AI思維應(yīng)對安全新挑戰(zhàn)
基于大數(shù)據(jù)和云計算，AI正在驅(qū)動整個人類社會在組織、制度和經(jīng)濟上的全方位變革。但是，當我們繪制AI時代的宏偉藍圖，將思維模式從Think Mobile向Think AI轉(zhuǎn)向時，也不可避免的迎來了全新的安全挑戰(zhàn)。
在馬杰看來，AI時代，一個很典型的特點便是軟硬結(jié)合。大到智能汽車，小到智能音箱，幾乎已經(jīng)涉及到了終端設(shè)備制造商、第三方應(yīng)用開發(fā)商、解決方案提供商、系統(tǒng)開發(fā)商、芯片廠商及云端服務(wù)商等全產(chǎn)業(yè)鏈環(huán)節(jié)。隨之而來的安全威脅，也不再僅限于傳統(tǒng)意義上的高危范疇，系統(tǒng)漏洞、設(shè)備劫持、云端風(fēng)險、數(shù)據(jù)安全與隱私泄露，無時無刻不在威脅著你我的智能生活。
AI時代AI思維下的另一特征，是算法正在推動傳統(tǒng)行業(yè)轉(zhuǎn)型的進程，然而算法自己有時也會“犯錯”。
如上圖所示，馬杰現(xiàn)場演示了百度安全關(guān)于交通安全標識AI識別的最新研究成果——同樣是兩個“停”的路標，但AI卻將其中一個識別為限速60公里，即可以通行。“問題在于，圖片在我們?nèi)庋鄄豢梢姷那闆r下被動了手腳，它不會影響到我們的判斷，但會對AI產(chǎn)生嚴重的干擾。
“人工智能還是一個幾歲小朋友的水平，只是在特定領(lǐng)域比較強，像這樣復(fù)雜被干擾的圖片是容易引起歧義的，這種研究如果不是我們做在前面，而是黑客做在前面，容易產(chǎn)生非常危險的事情。”
不過，問題的存在并不意味AI的時代不安全。相反，正如百度安全所堅持的理念，有AI，更安全。“我們需要讓AI變得更安全，我們也需要通過AI讓我們各種產(chǎn)品變得更安全。”而以技術(shù)賦能、標準驅(qū)動，生態(tài)共建為支點，百度安全也構(gòu)建了一系列開放生態(tài)矩陣，由下至上覆蓋基礎(chǔ)層、平臺層和生態(tài)層，以實現(xiàn)多層面的開放協(xié)作，共同應(yīng)對AI時代所面臨的全新且多維度的安全挑戰(zhàn)，實現(xiàn)產(chǎn)業(yè)共贏。
“七種武器”助力開放共建
在基礎(chǔ)層，百度安全今年推出了BASS下一代AI安全技術(shù)棧，將首創(chuàng)的七大技術(shù)全面開源匯成“七種武器”，全面解決云管端以及大數(shù)據(jù)和算法層面的一系列安全風(fēng)險問題，助力AI生態(tài)。在演講中，馬杰系統(tǒng)地介紹了“七種武器”的來龍去脈和實際應(yīng)用。
在終端層面，備受行業(yè)認可的首先是OASES KARMA系統(tǒng)自適應(yīng)熱修復(fù)，其目標是為了解決Android生態(tài)高度碎片化所帶來的安全隱患。
眾所周知，頻繁迭代的Android系統(tǒng)對于舊版本的支持是有限的，大量廠商也缺乏精力和能力主動進行更新，這便造成大量已知的歷史安全漏洞沒有被修復(fù)，很容易成為黑客攻擊的對象。“我們幫助終端廠商在系統(tǒng)層面直接解決掉這些問題，”馬杰表示，“把漏洞用‘熱補丁’補上。”換句話說，KARMA可以實現(xiàn)系統(tǒng)漏洞的實時修復(fù)，在減輕廠商成本的同時，還節(jié)省了用戶時間。
作為業(yè)內(nèi)首創(chuàng)，KARMA囊括了9項專利技術(shù)并已登陸B(tài)lackHat、USENIX等國際頂級安全會議，現(xiàn)已運行在覆蓋多個行業(yè)近億臺終端設(shè)備中。
同在終端層面的還有MesaLock Linux內(nèi)存安全操作系統(tǒng)，在馬杰看來，“現(xiàn)在大部分高權(quán)限的安全漏洞，有非常高的比例是通過內(nèi)存的問題導(dǎo)致的，這是安全行業(yè)的頑疾。”而MesaLock Linux則通過大量的審計工作和應(yīng)用層系統(tǒng)內(nèi)存安全語言重構(gòu)，極大降低了整個系統(tǒng)的攻擊面，并且使得剩余的攻擊面可審計、可收斂。在保留Linux硬件兼容性的前提下，實質(zhì)性地提升Linux生態(tài)的安全性。
在管道層面，MesaLink TLS提供了一個內(nèi)存安全的下一代安全通信庫。通過對整個加密通訊庫進行內(nèi)存安全語言的重構(gòu)，MesaLink TLS實現(xiàn)了對Heartbleed等高危漏洞的免疫，同時兼容最新的TLS 1.3版本，使整個通訊效率有大幅提升。
在云端層面，百度安全則推出了OpenRASP下一代云端安全防護系統(tǒng)、HugeGraph大規(guī)模圖數(shù)據(jù)庫、AdvBox對抗樣本工具箱和MesaTEE下一代可信安全計算服務(wù)。
OpenRASP將新興的RASP安全防護技術(shù)普及化，掛鉤敏感函數(shù)，實現(xiàn)對數(shù)據(jù)庫全面監(jiān)控和保護，有效抵御新生漏洞。而作為易用、高效、通用的分析型圖數(shù)據(jù)庫，HugeGraph提供毫秒級關(guān)聯(lián)查詢能力，可廣泛應(yīng)用于欺詐檢測、關(guān)聯(lián)分析、知識圖譜和數(shù)據(jù)治理等場景。
特別值得一提的是AdvBox對抗樣本工具箱，其是在機器學(xué)習(xí)層面用于自動化攻擊AI模型的開源工具。在演講中，馬杰以“人臉識別”為例，講解了“訓(xùn)練”對于AI提升識別能力的重要性——在惡意的篡改下，別人的照片在AI看來有可能比你更像你。
這便是AdvBox對抗樣本工具箱的意義所在，“我們把這個能力做成開源的工具分享給大家，不僅支持各家的深度學(xué)習(xí)平臺，也支持多個主要的深度學(xué)習(xí)訓(xùn)練平臺。讓我們的工程師、我們的科學(xué)家可以自己生成更多的對抗樣本，去分析學(xué)習(xí)和研究如何讓我們的算法變得更強大，而不至于被這種東西所欺騙。”馬杰表示，而AdvBox對抗樣本工具箱的源代碼向整個社區(qū)開放，百度安全將與社區(qū)共同努力，構(gòu)建安全的AI生態(tài)環(huán)境。
當AI時代網(wǎng)絡(luò)安全防御體系逐漸完善，甚至到密不透風(fēng)，其也帶來了一個現(xiàn)實的矛盾——在用數(shù)據(jù)給用戶創(chuàng)造價值的同時，如何實現(xiàn)隱私保護并確保合規(guī)?百度安全給出的答案是MesaTEE，下一代可信安全計算服務(wù)。
基于百度HMS高級內(nèi)存安全技術(shù)和英特爾SGX硬件防護，MesaTEE可以讓云上數(shù)據(jù)得到芯片級的安全保障，數(shù)據(jù)可在放到其平臺中進行綜合計算。“我們互相既看不見對方具體的數(shù)據(jù)，又能用到對方數(shù)據(jù)的能力，從而實現(xiàn)數(shù)據(jù)保護與數(shù)據(jù)價值實現(xiàn)的兼顧和平衡。”
為行業(yè)也為全社會
基于以“七種武器”為代表的技術(shù)能力和在安全領(lǐng)域18年最佳實踐的總結(jié)與提煉積累，百度安全在平臺層為行業(yè)提供了一系列完整的開放解決方案。
首先，是智能終端。
即便是現(xiàn)在，我們身邊也都已經(jīng)有了不少智能終端設(shè)備。而這些設(shè)備一旦被劫持、篡改，將產(chǎn)生非常嚴重的危害——數(shù)據(jù)的泄露、支付的風(fēng)險，甚至是對家庭財產(chǎn)和人身安全的損害。
整合設(shè)備端、管道和云端的技術(shù)能力，百度安全智能終端安全解決方案為行業(yè)提供了一個可靠而便捷的安全保障。截止目前，該方案已超過30家合作伙伴，囊括中外學(xué)界、業(yè)界的重要院校和企業(yè)，覆蓋包括智能手機、智能電視、智能音箱、智能家居、智能車載和服務(wù)器等眾多領(lǐng)域在內(nèi)的超過1億部設(shè)備。
第二，是智能車機。
當下，汽車產(chǎn)業(yè)已全面進入智能互聯(lián)時代，作為中樞，智能車機承擔(dān)著從娛樂、社交、支付等交互的應(yīng)用到人類復(fù)雜語言指令的識別，再到對各類數(shù)據(jù)的采集、分析和自我學(xué)習(xí)等諸多至關(guān)重要的功能。但是，復(fù)雜的生態(tài)系統(tǒng)也對應(yīng)帶來了巨大的安全挑戰(zhàn)，且這一挑戰(zhàn)不僅涉及到你我個人的隱私和財產(chǎn)安全，也延伸到人身和公共利益層面。
百度安全聯(lián)合百度Apollo信息安全實驗室推出的智能車機安全解決方案正是為此而來，通過全面檢測、縱深防御、安全可視、免召回修復(fù)四大特色能力，幫助廠商有效應(yīng)對智能車機面臨的各類安全風(fēng)險，全面確保云、內(nèi)外部通信、操作系統(tǒng)、應(yīng)用、硬件、數(shù)據(jù)和手機終端安全，提供4S全生命周期的安全保障。
第三，則來自社會治理層面。
利用開源的HugeGraph大規(guī)模圖數(shù)據(jù)庫及所掌握的部分非法人員信息數(shù)據(jù)，包括不久前在公安機關(guān)“濾網(wǎng)行動”中配合偵破國內(nèi)首例手機訪客營銷黑產(chǎn)在內(nèi)，百度安全迄今已協(xié)助破獲全國多起電信詐騙、DDoS黑產(chǎn)、撞庫黑產(chǎn)、偽基站黑產(chǎn)、流量劫持黑產(chǎn)、用戶隱私竊取黑產(chǎn)等重大案件。全方位實現(xiàn)從警務(wù)數(shù)據(jù)整合治理到分析挖掘，助力智慧公安新業(yè)態(tài)。
我們都是藍軍
AI時代，AI思維，從與國內(nèi)外頂尖高校建立聯(lián)合實驗室開展前沿技術(shù)研究，到借助人工智能技術(shù)助力智慧警務(wù);從連續(xù)五年支持中國安全戰(zhàn)隊走向全球舞臺，到將具有26年歷史的國際頂級極客大賽DEF CON首度引入中國，百度安全始終堅信開放、合作的力量，也在努力踐行自己的社會責(zé)任。
“安全不是任何一家公司、一個社區(qū)、一個生態(tài)能夠獨立解決的事情，需要以更開放的態(tài)度，更廣泛的合作與共享應(yīng)對，在開放包容、多元互鑒中尋求共贏。”在馬杰看來，“萬物皆變，歸根結(jié)底，人是最重要的因素。我們要做的，是集結(jié)所有安全圈的力量，共同為安全生態(tài)建設(shè)貢獻力量，讓這個世界變得更加美好，讓中國的網(wǎng)絡(luò)安全生態(tài)更強更繁榮。”
當我們再次回看開篇時的那個問題，AI會讓世界變得更好嗎?你的答案會是什么?也許你會變得更有自信，YES，AI DO!YES，WE DO!因為我們是這個世界的藍軍!
關(guān)鍵詞： AI
