中新經緯2月18日電 (孫慶陽)“人工智能的安全與可用性面臨全鏈條、多維度交織的復雜風險挑戰，需通過國際合作、技術創新和標準制定來應對。”近日，中國信息通信研究院人工智能研究所高級業務主管呼娜英在巴黎人工智能(AI)行動峰會后接受中新經緯專訪時表示，未來五到十年，人工智能技術將持續深化，增強語言大模型能力是重點方向。同時，多模態模型有望加速突破，提升圖文理解和跨模態交互能力。
呼娜英 受訪者供圖
網絡和框架是AI系統安全的根基
在最近的巴黎人工智能(AI)行動峰會上，AI安全性和可用性成為了全球AI產業人士的共同關注焦點。呼娜英指出，當前AI在安全性和可用性方面面臨的是全鏈條、多維度相互交織的復雜風險挑戰。隨著人工智能模型復雜度和規模的不斷提升，其訓練、部署、應用等關鍵環節中面臨的數據安全、網絡安全、框架安全、模型算法安全以及應用平臺安全問題日益突出。
在基礎設施方面，網絡安全和框架安全關乎整個AI系統的穩定運行根基。以DeepSeek為例，R1模型在剛剛上線提供服務后，便遭到大規模DDoS(分布式阻斷服務)攻擊，導致服務中斷，用戶無法正常訪問。在數據方面，訓練數據被“投毒”(通過惡意注入虛假或誤導性的數據來污染模型的訓練數據集)，以及訓練使用敏感行業數據、個人隱私數據等，一旦數據被“投毒”，訓練出的模型將產生偏差，做出錯誤決策，而敏感數據的不當使用則可能引發嚴重的法律風險和社會信任危機。
在模型算法層面，以大模型為代表的生成式模型面臨嚴峻的越獄攻擊、提示詞注入攻擊等威脅，模型容易在用戶惡意操作下輸出違法有害或侵害權益的信息。
此外，模型的“幻覺”(模型生成的不真實、編造或與上下文不一致的內容)問題突出，也成為了制約人工智能產業化落地的重要因素。在應用層面，人工智能技術容易被濫用和誤用，比如利用圖像生成技術偽造虛假新聞圖片誤導公眾，或在自動化決策系統中因算法偏見導致對特定群體的不公平對待，這些行為嚴重擾亂了正常的社會秩序與市場環境。
如何顯著提升AI系統安全性？
呼娜英強調，全球均在探索風險管理的可行路徑，針對人工智能風險開展有效的“識別、評估、應對”方案一定程度上成為共識。其中，最重要的一環是對于安全問題的檢測技術和防護手段。在檢測方面，一是形成對于開源框架、源代碼以及網絡等軟硬件基礎設施的漏洞挖掘技術，精準定位潛在隱患。特別是開源框架、代碼中存在的未被發現的漏洞，極易被利用實施大規模的攻擊和勒索。如去年年初，人工智能開源框架Ray被發現存在漏洞，并被攻擊人員利用攻擊數百個集群。
二是形成數據“投毒”檢測技術，用于守護訓練數據的純凈性，防范通過訓練的方式，在模型中埋入后門。
三是建立大模型等模型算法漏洞自動化測試技術，掃描算法中的薄弱環節，快速生成測試報告。
四是基于現有的自動化滲透技術能力，形成面向人臉識別、智能體等人工智能典型應用的自動化滲透技術產品，模擬黑客攻擊，全方位探測應用平臺的安全漏洞，充分發掘人工智能各方面的安全風險。
呼娜英還指出，在防護層面，需要探索軟硬件基礎設施的漏洞自動化修復技術，自動修復受損代碼，降低安全風險。此外，還可以探索實踐模型漏洞自動化微調和加固技術，對模型進行自動化優化，增強其抵御攻擊的能力，保障人工智能系統穩定、安全地運行。
中國智慧引領未來AI治理新格局
呼娜英認為，推動人工智能安全治理合作依然是勢不可擋的，也是確有必要的。人工智能的開發、部署和使用具有全球化特征，人工智能技術的應用與影響并非局限于某一地區或國家，而是深刻影響全球社會、經濟和政治秩序。為人類共同未來建立務實可行的國際對話與合作機制，需要多方努力。未來，國際社會應在聯合國框架下凝聚各方共識，依托國際標準化組織深化技術標準協同，務實推進人工智能安全治理工作。
一直以來，中國在全球人工智能治理領域積極作為并推動加強國際合作。例如，中國信通院積極參與國際標準制定，發起《人工智能安全承諾》促進行業自律，下一步將依托工業和信息化部人工智能技術標準委員會，持續完善國內標準體系，推動安全測試、風險評估、可信要求等技術規范轉化為國際共識，促進技術標準和指引的深入實踐與應用。
呼娜英預測，未來五到十年內，人工智能技術將持續深化演進。一方面，增強語言大模型能力仍是技術升級的重點方向之一，推理或將獲得更多關注和資源投入。另一方面，多模態模型有望加速突破，從以語言大模型為骨干的多模態模型，向原生多模態模型演變，提升圖文理解和跨模態交互能力。
呼娜英認為，在安全與可用性方面，以下趨勢值得關注：在風險識別方面，隨著人工智能技術日益融入經濟社會發展各領域全過程，其安全風險面不斷擴大，對人工智能安全風險識別方法論的研究將不斷完善，從而催生更加敏捷、精準的安全風險識別機制。在風險應對方面，對算法模型毒性、魯棒性、公平性等方面的評測技術工具研究將不斷加強，將人工智能基礎設施、算法模型、上層應用以及產業鏈等方面作為評估重點，并在機制方案上動態迭代、技術能力上持續提升，從而有效防范和應對治理風險。(中新經緯APP)
中新經緯版權所有，未經授權，不得轉載或以其他方式使用。
責任編輯：張芷菡
本文鏈接：http://www.020gz.com.cn/news-4-2427-0.html專訪呼娜英：AI安全“隱形戰場”上，如何破解全鏈條風險？
聲明：本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
點擊右上角
微信好友
朋友圈
點擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點擊“
”按鈕
點擊右上角
QQ
點擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點擊“”按鈕
