10月13日,第38次全國計(jì)算機(jī)安全學(xué)術(shù)交流會(huì)在長沙成功舉辦。會(huì)議以“夯實(shí)網(wǎng)絡(luò)安全防線,構(gòu)建中國式現(xiàn)代化網(wǎng)絡(luò)強(qiáng)國”為主題,由公安部網(wǎng)絡(luò)安全保衛(wèi)局指導(dǎo),中國計(jì)算機(jī)學(xué)會(huì)(以下簡稱CCF)主辦,CCF計(jì)算機(jī)安全專業(yè)委員會(huì)等承辦。CCF計(jì)算機(jī)安全專業(yè)委員會(huì)常務(wù)委員、天融信科技集團(tuán)董事長兼CEO李雪瑩博士受邀出席大會(huì)主論壇并發(fā)表主題演講,探討人工智能發(fā)展給網(wǎng)絡(luò)安全領(lǐng)域帶來的機(jī)遇與挑戰(zhàn)。
人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量,近年來,我國人工智能產(chǎn)業(yè)在技術(shù)創(chuàng)新、產(chǎn)業(yè)生態(tài)、融合應(yīng)用等方面取得積極進(jìn)展。中國信通院測算,2022年我國人工智能核心產(chǎn)業(yè)規(guī)模達(dá)5080億元,同比增長18%,企業(yè)數(shù)量接近4000家,國內(nèi)人工智能已形成完整的產(chǎn)業(yè)體系,成為新的增長引擎。隨著人工智能產(chǎn)業(yè)的快速發(fā)展,人工智能與網(wǎng)絡(luò)安全的有機(jī)融合已成為網(wǎng)絡(luò)安全行業(yè)發(fā)展的新挑戰(zhàn)與新方向。
AI融合 安全賦能
CCF計(jì)算機(jī)安全專業(yè)委員會(huì)常務(wù)委員、天融信科技集團(tuán)董事長兼CEO 李雪瑩博士
CCF計(jì)算機(jī)安全專業(yè)委員會(huì)常務(wù)委員、天融信科技集團(tuán)董事長兼CEO李雪瑩博士受邀出席主論壇并發(fā)表《AI新突破 網(wǎng)安新篇章》主題演講。她表示,人工智能經(jīng)歷三次大浪潮,從邏輯推理、專家系統(tǒng)到深度學(xué)習(xí)。生成式人工智能(AIGC)在前兩次發(fā)展浪潮中開始萌芽,在第三次發(fā)展浪潮中從積累階段邁入飛躍階段,各類大模型相繼問世,也為網(wǎng)絡(luò)安全防護(hù)技術(shù)變革提供了新的思路。
● AI與網(wǎng)絡(luò)安全
在大模型大“火”之前,人工智能已經(jīng)具備一定的預(yù)測、分析、抽取、生成和決策等能力,可應(yīng)用于網(wǎng)絡(luò)安全領(lǐng)域中的威脅檢測、惡意流量檢測、威脅情報(bào)分析、行為分析、安全知識(shí)生產(chǎn)、數(shù)據(jù)分類分級(jí)等業(yè)務(wù)場景。但由于數(shù)據(jù)標(biāo)注成本高、單體算力有限以及模型生成和決策能力不足等問題,人工智能賦能網(wǎng)絡(luò)安全仍存在局限性。
● 大模型帶來AI新突破
大模型的出現(xiàn)與發(fā)展帶來了新的突破與轉(zhuǎn)變。AI模型構(gòu)建與訓(xùn)練實(shí)現(xiàn)了新的突破,以模型為中心的AI逐步向以數(shù)據(jù)為中心的AI進(jìn)行轉(zhuǎn)變。相較于傳統(tǒng)的小模型,大模型通常采用更先進(jìn)的架構(gòu),訓(xùn)練并微調(diào)了超大規(guī)模模型參數(shù),使得大模型能夠更好地理解和處理上下文信息,具備更強(qiáng)的預(yù)測、分析、抽取、生成和決策能力。同時(shí),大模型的發(fā)展也帶動(dòng)了AIGC學(xué)習(xí)能力的突破,AIGC正在使生產(chǎn)模式發(fā)生轉(zhuǎn)變。在增強(qiáng)檢測防護(hù)、提升交付能力、助力安全運(yùn)營和加速安全智能化等方面,實(shí)現(xiàn)了對(duì)網(wǎng)絡(luò)安全業(yè)務(wù)的“提質(zhì)、增效”,為網(wǎng)絡(luò)安全領(lǐng)域帶來了新的發(fā)展機(jī)遇。
● AI新突破,網(wǎng)安新篇章
人工智能賦能網(wǎng)絡(luò)安全的同時(shí),也從“AI自身風(fēng)險(xiǎn)”及“AI惡意利用風(fēng)險(xiǎn)”兩個(gè)方面帶來了新的挑戰(zhàn)。“AI自身風(fēng)險(xiǎn)”涉及模型構(gòu)建和運(yùn)行階段,在這兩個(gè)階段中會(huì)引入系統(tǒng)風(fēng)險(xiǎn)、內(nèi)容風(fēng)險(xiǎn)、提示風(fēng)險(xiǎn)、合規(guī)風(fēng)險(xiǎn)4類風(fēng)險(xiǎn);AI加持?jǐn)呈种?,一方面降低了攻擊技術(shù)門檻,另一方面不斷提升攻擊效率,使得我們面臨的安全風(fēng)險(xiǎn)倍增。面對(duì)風(fēng)險(xiǎn),需要體系化的解決方案,從威脅建模分析、AI資產(chǎn)掃描、安全風(fēng)險(xiǎn)評(píng)估、威脅檢測防御等方面建立人工智能安全防護(hù)體系。
深耕網(wǎng)安 載譽(yù)而歸
大會(huì)期間同步頒發(fā)了第38次年會(huì)特別貢獻(xiàn)獎(jiǎng),天融信充分發(fā)揮帶頭作用,積極為中國計(jì)算機(jī)安全領(lǐng)域發(fā)展作出貢獻(xiàn),全面支撐計(jì)算機(jī)學(xué)會(huì)各項(xiàng)工作的開展,榮獲第38次全國計(jì)算機(jī)安全學(xué)術(shù)交流會(huì)特別貢獻(xiàn)獎(jiǎng)。
天融信作為CCF會(huì)員單位,牽頭發(fā)起成立了CCF計(jì)算機(jī)安全專委會(huì)車聯(lián)網(wǎng)安全工作組,天融信李雪瑩博士作為CCF計(jì)算機(jī)安全專委會(huì)常委及車聯(lián)網(wǎng)安全工作組組長,帶領(lǐng)工作組通過搭建行業(yè)交流平臺(tái),協(xié)同產(chǎn)業(yè)鏈各方,共同推動(dòng)智能網(wǎng)聯(lián)汽車產(chǎn)業(yè)安全生態(tài)體系構(gòu)建。此次榮獲“特別貢獻(xiàn)獎(jiǎng)”是對(duì)天融信及李雪瑩博士為CCF發(fā)展及本次年會(huì)成功召開獻(xiàn)智獻(xiàn)策的肯定,天融信也將一如既往支持CCF的各項(xiàng)工作,共同攜手推動(dòng)計(jì)算機(jī)安全發(fā)展,構(gòu)筑網(wǎng)空安全新格局。
TOPSEC
人工智能新突破帶來了新的風(fēng)險(xiǎn)與挑戰(zhàn),同時(shí)也為網(wǎng)絡(luò)安全領(lǐng)域帶來了新的發(fā)展與機(jī)遇。作為國內(nèi)率先開展人工智能技術(shù)研究的網(wǎng)絡(luò)安全企業(yè),天融信將深度探索人工智能大模型技術(shù),以“提質(zhì)增效”為目標(biāo),積極推進(jìn)人工智能技術(shù)在安全領(lǐng)域的應(yīng)用實(shí)踐,助力人工智能與網(wǎng)絡(luò)安全的快速、健康融合發(fā)展,書寫網(wǎng)絡(luò)安全領(lǐng)域新篇章。