國產推理大模型DeepSeek-R1的誕生，標志著我國AI技術從“追趕者”向“領跑者”跨越。DeepSeek-R1成為全新的生產力工具，其開源、透明、免費等特質，尤其適合政府與企業開展私有化部署，但隨之而來的安全問題也日益凸顯。
今年兩會期間，全國政協委員、360集團創始人周鴻祎再度聚焦大模型安全。他認為，DeepSeek-R1等先進模型帶來了前所未有的機遇，也同樣面臨無法通過傳統網絡安全手段解決的安全挑戰，呼吁各界共同努力，構建更加完善的大模型應用安全治理體系，在保障安全的前提下最大化地釋放大模型技術的潛力。
周鴻祎表示，“開源帶來大模型的廣泛應用，未來將會有各類專業大模型、垂直大模型、場景大模型，連接內部知識庫，以智能體的形式在大批政府機構和企業中廣泛部署，推進‘智改數轉’，實現降本增效。然而大模型存在的幻覺、內容安全等諸多問題無法通過傳統安全方案有效化解，一旦部署在政府、企業內部的基座模型、知識庫或智能體中任一環節出現安全隱患，都極有可能誘發整個生產環境爆發系統性風險。”
周鴻祎認為，大模型應用安全主要集中在基座模型、知識庫和智能體三個方面?；Ｐ桶踩矫?，由于大模型普遍存在的幻覺現象，特別是在生成文本時可能輸出與現實不符的信息，這在政策制定、法律條文解讀或商業決策等場景下可能導致誤導性后果。知識庫安全方面，政府和企業核心數據資產存儲于內部知識庫中，若缺乏有效的安全控制措施，未授權用戶可能利用與大模型交互的機會竊取這些寶貴的數據資源。智能體安全方面，智能體通常與政府、企業內部各類IT、郵件、控制系統相連，一旦遭受攻擊，可能會引發一系列連鎖反應，從發送有害郵件到中斷生產線運作，造成嚴重的物理損害。
針對上述挑戰，周鴻祎介紹，360運用人工智能技術重塑安全格局，采用“以模制模”的方式應對新難題，依托安全大模型技術搭建起覆蓋“基座模型-知識庫-智能體”的全鏈路安全體系，護航政府與企業“智改數轉”。
為進一步強化這一防御體系，周鴻祎建議采取兩項措施：一是推動安全技術創新與成果轉化。建議相關部門及時出臺配套政策措施，鼓勵具備“安全+人工智能”完整解決方案的鏈主企業，針對人工智能應用所涉及的基座模型、知識庫、智能體等安全問題，基于安全大模型技術開展研發工作，加速推動技術成果轉化，將安全要素深度嵌入人工智能應用全流程。二是組建產業聯盟，推廣安全產品。引導相關鏈主企業發揮牽頭作用，廣泛吸納產業鏈上下游企業、科研機構及終端用戶，組建人工智能大模型安全聯盟，在聯盟內部實現技術成果共享，共同開展產品及服務測試，待產品與服務成熟穩定后，再向更廣闊的市場加以推廣。
國產推理大模型DeepSeek-R1的誕生，標志著我國AI技術從“追趕者”向“領跑者”跨越。DeepSeek-R1成為全新的生產力工具，其開源、透明、免費等特質，尤其適合政府與企業開展私有化部署，但隨之而來的安全問題也日益凸顯。
今年兩會期間，全國政協委員、360集團創始人周鴻祎再度聚焦大模型安全。他認為，DeepSeek-R1等先進模型帶來了前所未有的機遇，也同樣面臨無法通過傳統網絡安全手段解決的安全挑戰，呼吁各界共同努力，構建更加完善的大模型應用安全治理體系，在保障安全的前提下最大化地釋放大模型技術的潛力。
周鴻祎表示，“開源帶來大模型的廣泛應用，未來將會有各類專業大模型、垂直大模型、場景大模型，連接內部知識庫，以智能體的形式在大批政府機構和企業中廣泛部署，推進‘智改數轉’，實現降本增效。然而大模型存在的幻覺、內容安全等諸多問題無法通過傳統安全方案有效化解，一旦部署在政府、企業內部的基座模型、知識庫或智能體中任一環節出現安全隱患，都極有可能誘發整個生產環境爆發系統性風險。”
周鴻祎認為，大模型應用安全主要集中在基座模型、知識庫和智能體三個方面?；Ｐ桶踩矫?，由于大模型普遍存在的幻覺現象，特別是在生成文本時可能輸出與現實不符的信息，這在政策制定、法律條文解讀或商業決策等場景下可能導致誤導性后果。知識庫安全方面，政府和企業核心數據資產存儲于內部知識庫中，若缺乏有效的安全控制措施，未授權用戶可能利用與大模型交互的機會竊取這些寶貴的數據資源。智能體安全方面，智能體通常與政府、企業內部各類IT、郵件、控制系統相連，一旦遭受攻擊，可能會引發一系列連鎖反應，從發送有害郵件到中斷生產線運作，造成嚴重的物理損害。
針對上述挑戰，周鴻祎介紹，360運用人工智能技術重塑安全格局，采用“以模制模”的方式應對新難題，依托安全大模型技術搭建起覆蓋“基座模型-知識庫-智能體”的全鏈路安全體系，護航政府與企業“智改數轉”。
為進一步強化這一防御體系，周鴻祎建議采取兩項措施：一是推動安全技術創新與成果轉化。建議相關部門及時出臺配套政策措施，鼓勵具備“安全+人工智能”完整解決方案的鏈主企業，針對人工智能應用所涉及的基座模型、知識庫、智能體等安全問題，基于安全大模型技術開展研發工作，加速推動技術成果轉化，將安全要素深度嵌入人工智能應用全流程。二是組建產業聯盟，推廣安全產品。引導相關鏈主企業發揮牽頭作用，廣泛吸納產業鏈上下游企業、科研機構及終端用戶，組建人工智能大模型安全聯盟，在聯盟內部實現技術成果共享，共同開展產品及服務測試，待產品與服務成熟穩定后，再向更廣闊的市場加以推廣。
本文鏈接：http://www.020gz.com.cn/news-2-912-0.htmlDeepSeek開啟AI新時代，應完善大模型安全治理
聲明：本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
下一篇：科技金融加速光子產業騰飛
點擊右上角
微信好友
朋友圈
點擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點擊“
”按鈕
點擊右上角
QQ
點擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點擊“”按鈕
