AII報兩會丨齊向東：創新發展“AI+安全”，護航中國式現代化
工業互聯網作為新型工業化的戰略性基礎設施和發展新質生產力的重要驅動力量，為推進新型工業化提供了堅實支撐。自2018年以來，“工業互聯網”連續7年被寫入政府工作報告。2024年政府工作報告指出，實施制造業數字化轉型行動，加快工業互聯網規模化應用，推進服務業數字化，建設智慧城市、數字鄉村。
2024年兩會已拉開序幕，工業互聯網產業聯盟特別推出“AII報兩會”專題欄目，讓我們一起看看今年圍繞新型工業化、新質生產力、制造業、工業互聯網、人工智能等內容，來自聯盟的代表們都準備了哪些提案？委員們怎么說？
創新發展“AI+安全”，護航中國式現代化
齊向東
全國政協委員、奇安信集團董事長
近年來，AI持續加劇安全威脅，以ChatGPT為代表的生成式 AI 能快速生成釣魚郵件、編寫惡意軟件與代碼等，導致攻擊數量增加，AI 欺詐事件頻發。數據顯示，ChatGPT等生成式AI導致網絡釣魚郵件攻擊增長 135%。生成式AI還帶來了數據非法獲取、數據泄露及惡意濫用等數據安全問題，如ChatGPT在對話交互過程中能獲取用戶數據，加劇數據泄露風險。不法分子還能利用“深度偽造”換臉變聲、偽造視頻，“眼見未必為實”將成為常態，網絡詐騙大增，甚至引發社會認知混亂。
“AI加劇了攻防失衡，利用和針對 AI的攻擊層出不窮，網絡安全‘易攻難守’。在AI惡意利用方面，人工智能大幅降低了網絡攻擊門檻，不懂代碼、不懂技術的普通人也能成為黑客，專業的黑客組織可以利用人工智能對網絡攻擊進行改造升級。”齊向東表示，利用AI制作惡意軟件、生成規避殺毒軟件檢測的代碼等，網絡攻擊能力出現躍升；在針對 AI 算法攻擊方面，機器視覺攻擊、數據源污染等攻擊頻發，攻擊者能通過對抗樣本、數據投毒、模型竊取等方式對AI算法進行攻擊，使其產生錯誤判斷，同時由于算法黑箱和算法漏洞的存在，這些攻擊往往難以檢測和防范。
齊向東建議，抓住三個關鍵，創新發展“AI+安全”，提高應對網絡空間安全風險與不確定性的能力，護航中國式現代化。
從供給側看，開展聯合創新，圍繞攻防實戰和應用場景實現“AI+安全”尖端技術研發突破。“技術創新產品需要在應用中更新迭代走向成熟，特別是人工智能大模型，數據樣本越豐富，成長速度越快。”齊向東表示，建議鼓勵各行業頭部企業與專業安全廠商結成創新聯合體，在關鍵行業選取典型場景開展聯合創新，共同探索大模型安全創新產品在威脅檢測、漏洞挖掘、指揮研判等方面的應用，在實戰中推動“AI+安全”進入越用越強的良性循環。
從需求側看，強化政策牽引，推動“AI+安全”技術創新產品在各行業落地應用。“把AI用于網絡安全防護是新事物，政企機構面對大模型安全創新產品產生疑慮是正常的。”齊向東表示，積極的政策引導是推動新事物落地應用、成長壯大的催化劑。以新能源汽車產業的發展為例，最初消費者對其安全性有疑慮，密集出臺的財稅補貼、“雙積分”制度等一系列政策，逐步改變了消費者觀念，拉動了新能源汽車產業的發展和技術進步。為此，他建議，像支持新能源汽車的發展一樣，支持“AI+安全”發展，設置專項基金，對研發創新“AI+安全”產品的企業，給予政府基金、貼息貸款或科研項目等支持；對率先取得技術突破，實現成果轉化的科研機構和企業給予獎勵；對積極使用相關技術、產品和服務的企業給予相應補貼，推動“AI+安全”相關產業取得更多科技創新成果。
從人才側看，壯大“AI+安全”領域的實戰型、復合型人才隊伍。隨著AI技術的普及和應用領域的不斷擴展，我國AI人才嚴重短缺。數據顯示，人工智能不同技術方向崗位的人才供需比均低于0.4，其中智能語音和計算機視覺的崗位人才供需比分別為0.08、0.09，相關人才極度稀缺。“建議充分發揮民營企業在人才培養上的優勢，鼓勵成立校企共同體，在實踐中培養更多大數據、人工智能、網絡安全等新興產業領軍人才，為我國搶抓人工智能機遇培育人才。”齊向東表示
AII微信公眾號
AII頭條號