海報新聞
海報新聞記者 辛振東 北京報道
國產推理大模型DeepSeek-R1的誕生,標志著我國AI技術實現從“追趕者”向“領跑者”的歷史性跨越,其開源、透明、免費等特質,尤其適合在政府與企業開展私有化部署。但是,隨之而來的安全問題也日益凸顯。
今年全國兩會期間,360集團創始人周鴻祎委員再度聚焦大模型安全。他認為,DeepSeek-R1等先進模型帶來了前所未有的機遇,也同樣面臨無法通過傳統網絡安全手段解決的安全挑戰。對此,周鴻祎呼吁各界共同努力,構建更加完善的大模型應用安全治理體系,在保障安全的前提下,最大化地釋放大模型技術的潛力。
周鴻祎認為,開源帶來大模型的廣泛應用,未來將會有各類專業大模型、垂直大模型、場景大模型,連接內部知識庫,以智能體的形式在大批政府機構和企業中廣泛部署,推進“數轉智改”,實現降本增效。然而,大模型存在幻覺、內容安全等諸多問題,無法通過傳統安全方案有效化解,一旦部署在政府、企業內部的基座模型、知識庫或智能體中任一環節出現安全隱患,都極有可能誘發整個生產環境爆發系統性風險。
周鴻祎介紹,針對上述挑戰,他們嘗試運用人工智能技術重塑安全格局,采用“以模制模”的方式應對新難題,依托安全大模型技術,搭建起覆蓋“基座模型—知識庫—智能體”的全鏈路安全體系。
為進一步強化這一防御體系,周鴻祎建議采取兩項措施:一是推動安全技術創新與成果轉化,建議相關部門及時出臺配套政策措施,鼓勵具備“安全+人工智能”完整解決方案的鏈主企業,針對人工智能應用所涉及的基座模型、知識庫、智能體等安全問題,基于安全大模型技術開展研發工作,加速推動技術成果轉化,將安全要素深度嵌入人工智能應用全流程。
另一方面,組建產業聯盟,推廣安全產品。引導相關鏈主企業發揮牽頭作用,廣泛吸納產業鏈上下游企業、科研機構及終端用戶,組建人工智能大模型安全聯盟,在聯盟內部實現技術成果共享,共同開展產品及服務測試,待產品與服務成熟穩定后,向更廣闊的市場加以推廣,助力大模型安全保障普及至千行百業。
責編:鞏小龍
審核:田連鋒
責編:田連鋒












