齊向東：人工智能帶來新的安全問題，需要人工智能技術化解

海峽網(wǎng)5月24日訊（海峽網(wǎng)記者 李牧晨）5月24日，以“釋放數(shù)據(jù)要素價值 發(fā)展新質(zhì)生產(chǎn)力”為主題的第七屆數(shù)字中國建設峰會在福州開幕。在“數(shù)據(jù)資源與數(shù)字安全”分論壇結束后，全國政協(xié)委員、全國工商聯(lián)副主席、奇安信集團董事長齊向東接受了媒體采訪，他表示：“人工智能帶來的新的安全問題，還需要人工智能技術進行化解。這次BCS大會我們將主題定為‘AI驅動安全’，就是希望立足安全領域，以全局視角和大家共同探討人工智能與安全的未來。我們要用AI驅動安全，跟數(shù)據(jù)投毒者、數(shù)據(jù)篡改者、數(shù)據(jù)竊取者進行賽跑，借助大模型的開發(fā)、應用和創(chuàng)新，把他們遠遠甩在后面。”

奇安信集團董事長齊向東接受媒體采訪。海峽網(wǎng)記者 李牧晨 攝

齊向東說，在數(shù)據(jù)、算力、算法“三駕馬車”的拉動下，人工智能正從“智慧型工具”，進化成人類的“全能型伙伴”。它給我們帶來的影響是全方位、顛覆性的，除了在促發(fā)展上起到的提質(zhì)增效作用外，人工智能所帶來的安全問題最受人關注。當前，“飽和式”攻擊、深度偽造、數(shù)據(jù)投毒等等安全新風險，嚴重沖擊原有的網(wǎng)絡安全防線和安全體系，加劇了我們的不安全感，引人深思。

具體到數(shù)字安全方面，有三大新挑戰(zhàn)：

一是AI投毒安全隱患加重，攻擊者可以通過在訓練數(shù)據(jù)中加入精心構造的異常數(shù)據(jù)，破壞訓練數(shù)據(jù)集的準確性；

二是數(shù)據(jù)篡改隱患加重，AI的大規(guī)模內(nèi)容生產(chǎn)能力可能產(chǎn)生真假難辨的信息，控制社交軟件乃至媒體的輿論聲音，激化意識形態(tài)矛盾；

三是數(shù)據(jù)泄露隱患加重，在向人工智能投喂數(shù)據(jù)的過程中，也會產(chǎn)生商業(yè)機密泄露問題，進而導致企業(yè)喪失核心競爭力。

安全是人們對美好生活最本質(zhì)的向往，網(wǎng)絡安全是人工智能發(fā)展過程中無法回避的挑戰(zhàn)。作為人工智能最快落地、最快見到實效的行業(yè)之一，網(wǎng)絡安全產(chǎn)業(yè)肩負重任。未來人工智能給人類帶來的影響是正還是負，取決于當下如何培養(yǎng)和訓練它。如果培養(yǎng)得當，人工智能將會帶給人類應對新時代、新挑戰(zhàn)的“最優(yōu)解”。做好“人工智能+安全”，關鍵要從提高防護效率入手。“去年，奇安信創(chuàng)新發(fā)布了QAX-GPT安全大模型，從開始訓練我們就制定了明確的目標：生產(chǎn)力是硬道理，一定要讓客戶在使用奇安信的GPT產(chǎn)品時就像是雇請了一個高級安全專家隊伍，把產(chǎn)品領回去就能變成自己的力量。”齊向東說。