首頁|必讀|視頻|專訪|運營|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計算|芯片報告|智慧城市|移動互聯(lián)網(wǎng)|會展
首頁 >> 相關(guān)報道右 >> 正文

全國政協(xié)委員齊向東:大力探索“AI+安全”護(hù)航中國式現(xiàn)代化

2024年3月4日 13:48  CCTIME飛象網(wǎng)  

飛象網(wǎng)訊 2024年全國兩會期間,全國政協(xié)委員、奇安信董事長齊向東建議,應(yīng)大力探索“AI+安全”創(chuàng)新應(yīng)用,搶占國家安全的人工智能戰(zhàn)略制高點,提高我國應(yīng)對網(wǎng)絡(luò)空間安全風(fēng)險與不確定性的能力,護(hù)航中國式現(xiàn)代化行穩(wěn)致遠(yuǎn)。

一、人工智能促進(jìn)生產(chǎn)力躍升,蘊含極大的安全挑戰(zhàn),深刻改變國家安全格局。

1、AI加劇安全威脅,如數(shù)據(jù)泄露、欺詐攻擊、社會治理安全等。以 ChatGPT 為代表的生成式 AI 能快速生成釣魚郵件、編寫惡意軟件與代碼等,導(dǎo)致攻擊數(shù)量增加,AI 欺詐事件頻發(fā)。數(shù)據(jù)顯示,ChatGPT等生成式 AI 導(dǎo)致網(wǎng)絡(luò)釣魚郵件攻擊增長 135%。生成式AI還帶來了數(shù)據(jù)非法獲取、數(shù)據(jù)泄露及惡意濫用等數(shù)據(jù)安全問題,如ChatGPT在對話交互過程中能獲取用戶數(shù)據(jù),加劇數(shù)據(jù)泄露風(fēng)險。不法分子還能利用“深度偽造”換臉變聲、偽造視頻,“眼見未必為實”將成為常態(tài),網(wǎng)絡(luò)詐騙大增,甚至引發(fā)社會認(rèn)知混亂。

2、AI加劇攻防失衡,利用和針對 AI的攻擊層出不窮,網(wǎng)絡(luò)安全“易攻難守”。在AI惡意利用方面,人工智能大幅降低了網(wǎng)絡(luò)攻擊門檻,不懂代碼、不懂技術(shù)的普通人也能成為黑客,增加了網(wǎng)絡(luò)攻擊數(shù)量,專業(yè)的黑客組織可以利用人工智能對網(wǎng)絡(luò)攻擊進(jìn)行改造升級,比如,利用AI制作惡意軟件、生成規(guī)避殺毒軟件檢測的代碼等,網(wǎng)絡(luò)攻擊能力將出現(xiàn)躍升;針對 AI 算法攻擊方面,機器視覺攻擊、數(shù)據(jù)源污染等攻擊頻發(fā),攻擊者能通過對抗樣本、數(shù)據(jù)投毒、模型竊取等方式對AI算法進(jìn)行攻擊,使其產(chǎn)生錯誤判斷,同時由于算法黑箱和算法漏洞的存在,這些攻擊往往難以檢測和防范。

3、AI加劇軍事威脅,AI武器化趨勢顯現(xiàn)。一方面,人工智能可以被用在“機器人殺手”等致命性自主武器(LAW)上,通過自主識別攻擊目標(biāo)、遠(yuǎn)程自動化操作等,隱藏攻擊者來源、建立對抗優(yōu)勢;另一方面,人工智能可以將網(wǎng)絡(luò)、決策者和操作者相連接,讓軍事行動針對性更強、目標(biāo)更明確、打擊范圍更廣,越來越多國家開始探索AI在軍事領(lǐng)域的應(yīng)用。數(shù)據(jù)顯示,2024財年,美國國防部計劃增加與AI相關(guān)的網(wǎng)絡(luò)安全投資,總額約2457億美元,其中674億美元用于網(wǎng)絡(luò)IT和電子戰(zhàn)能力。

二、抓住三個關(guān)鍵,創(chuàng)新發(fā)展“AI+安全”,提高應(yīng)對網(wǎng)絡(luò)空間安全風(fēng)險與不確定性的能力,護(hù)航中國式現(xiàn)代化。

1. 從供給側(cè)看,開展聯(lián)合創(chuàng)新,圍繞攻防實戰(zhàn)和應(yīng)用場景實現(xiàn)“AI+安全”尖端技術(shù)研發(fā)突破。技術(shù)創(chuàng)新產(chǎn)品需要在應(yīng)用中更新迭代走向成熟,特別是人工智能大模型,數(shù)據(jù)樣本越豐富,成長速度越快。建議鼓勵各行業(yè)頭部企業(yè)與專業(yè)安全廠商結(jié)成創(chuàng)新聯(lián)合體,在關(guān)鍵行業(yè)選取典型場景開展聯(lián)合創(chuàng)新,共同探索大模型安全創(chuàng)新產(chǎn)品在威脅檢測、漏洞挖掘、指揮研判等方面的應(yīng)用,在實戰(zhàn)中推動“AI+安全”進(jìn)入越用越強的良性循環(huán)。

2. 從需求側(cè)看,強化政策牽引,推動“AI+安全”技術(shù)創(chuàng)新產(chǎn)品在各行業(yè)落地應(yīng)用。把AI用于網(wǎng)絡(luò)安全防護(hù)是新事物,政企機構(gòu)面對大模型安全創(chuàng)新產(chǎn)品產(chǎn)生疑慮是正常的。積極的政策引導(dǎo)是推動新事物落地應(yīng)用、成長壯大的催化劑。以新能源汽車產(chǎn)業(yè)的發(fā)展為例,最初消費者對其安全性有疑慮,密集出臺的財稅補貼、“雙積分”制度等一系列政策,逐步改變了消費者觀念,拉動了新能源汽車產(chǎn)業(yè)的發(fā)展和技術(shù)進(jìn)步。建議像支持新能源汽車的發(fā)展一樣,支持“AI+安全”發(fā)展,設(shè)置專項基金,對研發(fā)創(chuàng)新“AI+安全”產(chǎn)品的企業(yè),給予政府基金、貼息貸款或科研項目等支持;對率先取得技術(shù)突破,實現(xiàn)成果轉(zhuǎn)化的科研機構(gòu)和企業(yè)給予獎勵;對積極使用相關(guān)技術(shù)、產(chǎn)品和服務(wù)的企業(yè)給予相應(yīng)補貼,推動“AI+安全”相關(guān)產(chǎn)業(yè)取得更多科技創(chuàng)新成果。

3.從人才側(cè)看,壯大“AI+安全”領(lǐng)域的實戰(zhàn)型、復(fù)合型人才隊伍。隨著AI技術(shù)的普及和應(yīng)用領(lǐng)域的不斷擴展,我國AI人才嚴(yán)重短缺。工信部數(shù)據(jù)顯示,人工智能不同技術(shù)方向崗位的人才供需比均低于0.4,其中智能語音和計算機視覺的崗位人才供需比分別為0.08、0.09,相關(guān)人才極度稀缺。建議充分發(fā)揮民營企業(yè)在人才培養(yǎng)上的優(yōu)勢,鼓勵成立校企共同體,在實踐中培養(yǎng)更多大數(shù)據(jù)、人工智能、網(wǎng)絡(luò)安全等新興產(chǎn)業(yè)領(lǐng)軍人才,為我國搶抓人工智能機遇培育人才。

編 輯:高靖宇
聲明:刊載本文目的在于傳播更多行業(yè)信息,本站只提供參考并不構(gòu)成任何投資及應(yīng)用建議。如網(wǎng)站內(nèi)容涉及作品版權(quán)和其它問題,請在30日內(nèi)與本網(wǎng)聯(lián)系,我們將在第一時間刪除內(nèi)容。本站聯(lián)系電話為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯(lián)系方式,進(jìn)行的“內(nèi)容核實”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
高通孟樸暢談AI:換機加速、交互變革、全面普及
精彩專題
CES 2024國際消費電子展
2023年信息通信產(chǎn)業(yè)盤點暨頒獎禮
飛象網(wǎng)2023年手機評選
第24屆中國國際光電博覽會
CCTIME推薦
關(guān)于我們 | 廣告報價 | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營許可證080234號 京公網(wǎng)安備110105000771號
公司名稱: 北京飛象互動文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像