“當前，全球正處于第四次工業革命的關鍵期，人工智能、區塊鏈、物聯網等前沿技術的融合應用，促使人類社會進入以數據為關鍵要素的數字經濟時代，這雖然極大地提升了社會生產效率和生活便捷度，也為數字安全帶來前所未有的挑戰。”中國工程院院士鄔江興近日在2024第十二屆西湖論劍·數字安全大會上作主題演講時這樣表示。

用戶數據泄露、偽造人臉識別、金融詐騙、惡意攻擊……近年來，隨著各行各業數字化轉型升級和人工智能等技術快速發展，數字化安全風險迭生。網絡安全威脅已經從“信息域”擴大到“數據域+物理域+認知域”，數字經濟時代，社會的數字化轉型面臨著系統性風險隱患。

“當今網絡安全防御呈現出一種‘打鼴鼠’的游戲，按下葫蘆浮起瓢，冒出一個鼴鼠就打一下。”鄔江興表示，網絡安全目前存在制造商缺乏認真對待網絡安全問題的動機和激勵機制；存在習以為常的“偏差正常化”狀況，默認所有軟件都肯定會帶有必須通過補丁修復的缺陷等問題。他建議，網絡安全要從用戶側向設計制造側轉移，要將網絡安全融入數字產品的設計與制造中。

鄔江興提醒，盡管基于設計與默認安全可能會增加產品的開發成本，但可極大改善客戶安全，從長遠看可降低制造側用戶與修補的成本，以及最終用戶的全生命周期使用成本。

“平衡網絡安全與責任也要從數字產業源頭技術抓起。”作為一名從事網絡信息安全的科技工作者，中國工程院院士吳世忠更關注的是人工智能的安全性。

吳世忠介紹，網絡安全大致分為三個階段，前20年左右是IT驅動階段，萬物互聯追求的是規模，安全的重點是邊界繁復；后10年是DT驅動的時代，追求數據的流動。“今天是AI驅動的新階段，面對的是一個全新的對象，這個對象在國際上有一個新的詞，叫Homo Technologicus（科技智人）。從網絡信息安全來講，它和過去都不一樣了，過去網絡固定、數據流動，現在它可能會‘活’起來。”

人工智能給人類帶來了無限的發展新可能，也帶來了不少近憂和遠慮。在吳世忠看來，機器智能作為靈動因素，改變了安全的內涵和外延。“當下，AI已經深度融入千行百業、千家萬戶，我們必須嚴防AI可能會帶來的全新風險挑戰。”

科技創新永無止境，人工智能方興未艾，安全風險如影相隨。“以安全保發展，對我們科技界、學術界、產業界而言，既責無旁貸，又大有可為。”吳世忠表示，在關鍵技術“卡脖子”方面，需要更加自立、自強；在基礎設施領域需要實現可管可控；在技術應用方面需要提供更多安全便捷的手段；在社會發展上，需要讓人工智能變得可靠或可信。

“為人工智能的推廣應用或健康發展創造一個更加安全、堅韌、可信的發展生態，既是社會期盼，又是產業追求。”吳世忠認為，要做到確保人工智能自身或人工智能服務的安全可靠，需要強化基礎設施的安全保障，推廣負責、安全、向上的人工智能應用，構建一個高度、彈性或韌性的新型的安全保障體系。

擁抱人工智能是大勢所趨，但吳世忠提醒說，“安全這根線，任何時候都不能松懈！”