《法治日報》記者 辛紅 《法人》見習(xí)記者 惠寧寧

“當(dāng)前，AI技術(shù)發(fā)展日新月異，不論是大模型、智能體還是具身智能，安全問題都如影隨形?！苯衲耆珖鴥蓵陂g，全國政協(xié)委員、奇安信集團董事長齊向東接受《法人》記者采訪時表示，亟需以“AI+安全”雙輪驅(qū)動，形成“安全筑基-智能應(yīng)用-綠色融合”的現(xiàn)代化產(chǎn)業(yè)體系良性發(fā)展循環(huán)。

▲全國政協(xié)委員、奇安信集團董事長齊向東 受訪者供圖

齊向東指出，當(dāng)前，網(wǎng)絡(luò)安全行業(yè)正經(jīng)歷三大根本性變革：一是人工智能的變革，正定義下一代安全；二是威脅格局的變革，讓“零事故”成為必須達(dá)成的目標(biāo)；三是產(chǎn)業(yè)需求的變革，呼喚實戰(zhàn)化防護效果。

在安全升級改造方面，齊向東建議，從AI應(yīng)用全鏈條安全與監(jiān)管能力、數(shù)字資產(chǎn)安全能力、身份授權(quán)安全能力、威脅對抗能力入手，改變現(xiàn)有防護手段與時代需求的不適配，筑牢中國式現(xiàn)代化的網(wǎng)絡(luò)安全防線。

談到當(dāng)前AI安全帶來的新機遇與挑戰(zhàn)，齊向東表示，AI已經(jīng)成為網(wǎng)絡(luò)安全質(zhì)效雙提升的最強引擎，大幅提升了威脅檢測、漏洞挖掘和自動化響應(yīng)的效率，也催生出“AI+安全”新產(chǎn)品、新場景。有了AI，網(wǎng)絡(luò)安全產(chǎn)業(yè)就能更好地幫助千行百業(yè)從被動防護轉(zhuǎn)向主動防護，構(gòu)建更智能、更高效的安全防護體系。

同時AI向“超人化”演進也帶來了新的風(fēng)險?！癆I超人”有超級權(quán)限、超級能力，很可能脫離控制，安全隱患巨大：

一是加劇了數(shù)據(jù)安全危機。AI要代替多少人工作，就要被賦予多少人的數(shù)據(jù)權(quán)限，徹底突破了原有的權(quán)限管理和安全措施。加上現(xiàn)在越來越多企業(yè)，為了讓AI作用最大化，把積累多年、分散各處的關(guān)鍵數(shù)據(jù)“去粗取精”形成“精華小數(shù)據(jù)”。一旦AI被攻破，企業(yè)多年積累的核心競爭力可能瞬間化為烏有。

二是加劇了安全“易攻難守”的危機。AI“超人”無所不能，大幅降低了網(wǎng)絡(luò)攻擊成本和攻擊門檻，安全防護難度陡增。

三是加劇了網(wǎng)絡(luò)安全“鏈?zhǔn)健蔽C。一些AI應(yīng)用安全防護跟不上，不少AI“裸奔”上線，攻擊者可以通過漏洞利用、外部滲透、提權(quán)、投毒等方式間接干擾和控制大模型或智能體，影響業(yè)務(wù)和系統(tǒng)的正常運行。 

針對如何實現(xiàn)“創(chuàng)新與安全的動態(tài)平衡”的問題，齊向東認(rèn)為，沒有安全的創(chuàng)新走不遠(yuǎn)，也走不穩(wěn)。從這兩年大模型、智能體、具身智能等各種AI形態(tài)遭受的網(wǎng)絡(luò)攻擊來看，為AI預(yù)設(shè)“安全護欄”十分必要。安全與創(chuàng)新并非對立，而是一體兩翼。要實現(xiàn)二者動態(tài)平衡關(guān)鍵有三點：一是把安全能力嵌入AI應(yīng)用的全生命周期，做到縱深防御；二是明確合規(guī)紅線，夯實安全主體責(zé)任，強化權(quán)限與內(nèi)容管控；三是用AI對抗AI，讓安全能力始終比安全風(fēng)險快一步。

他介紹，今年，奇安信專門成立AI公司，在“十五五”期間，幫助千行百業(yè)開展網(wǎng)絡(luò)安全升級改造，聚焦新場景、新需求，對邊界、身份、終端、云等領(lǐng)域進行網(wǎng)絡(luò)安全的能力大升級。在網(wǎng)絡(luò)安全領(lǐng)域，AI不僅幫助網(wǎng)絡(luò)安全專家從海量的告警研判、重復(fù)的日常巡檢等基礎(chǔ)工作中解放出來，讓其有精力去鉆研更高價值的方向，還催生了AI紅隊、安全大模型工程師等新崗位。例如，以AI為核心樞紐的奇安信安全機器人，重構(gòu)了人機協(xié)作方式，機器人負(fù)責(zé)自動化處置，人聚焦高級威脅對抗與策略制定，實現(xiàn)了安全防護的質(zhì)效雙提升。

責(zé)編：白馗