隨著人工智能技術的飛速發展，大模型已成為推動各行業創新的關鍵力量。然而，大模型在帶來巨大機遇的同時，也為企業帶來了新的安全挑戰。
國務院《新一代人工智能發展規劃》明確提出“在大力發展人工智能的同時，必須高度重視可能帶來的安全風險挑戰，加強前瞻預防與約束引導，最大限度降低風險，確保人工智能的安全、可靠、可控發展”，并要求到2025年“初步建立人工智能法律法規、倫理規范和政策體系，形成人工智能安全評估和管控能力”。
沙丘智庫將“大模型+安全”分為大模型安全治理和大模型賦能安全相輔相成的兩個方面：
· 大模型安全治理是保障大模型健康、合規發展的基礎，涵蓋了從數據處理、模型訓練到模型部署和應用等各個環節的安全問題；
· 大模型賦能安全則是利用大模型等先進AI技術，為安全領域提供新的解決方案和思路。
只有在確保大模型自身安全的前提下，才能更好地發揮其賦能安全的作用；而大模型賦能安全的成功應用，又進一步證明了大模型安全治理的重要性和有效性。
因此，沙丘智庫《2025年“大模型+安全”最佳實踐報告》從大模型安全治理和大模型賦能安全這兩個方面出發，深入研究企業應如何確保大模型安全性，同時利用其強大的能力來增強安全防護，并系統分析和總結當前的最佳實踐，為企業安全領域的決策者和實踐者提供參考。
完整報告：沙丘智庫《2025年“大模型+安全”最佳實踐報告》（50頁PDF）
01大模型安全治理
隨著大模型技術應用的逐漸深入，企業高度重視大模型安全，大部分企業都已開始采取大模型安全治理措施。Gartner近期的調研結果顯示，80%以上的企業都實施了針對生成式AI或智能體的安全控制，其中數據安全和應用安全是當前企業最重視的兩大領域。
數據是企業數字化發展的基石，數據的安全問題貫穿采集、訓練、應用等全生命周期。大模型應用的爆炸式增長使企業面臨的數據泄露和監管合規性風險成倍增加，數據安全在大模型安全領域的重要性不斷提升。
當前，企業針對大模型采取的數據安全控制手段主要包括數據防泄漏、數據訪問治理、數據發現與分類分級、AI防火墻/網關、數據安全態勢管理、合成數據。
管理大模型應用安全風險的一個有效方式是利用大模型安全護欄。大模型安全護欄是一種保護機制，通過在最終用戶和大模型之間形成保護層，監督和管理用戶輸入和模型輸出，從而確保大模型的行為符合預期，減少不期望的輸出，保護用戶和模型的安全。
當應用于大模型輸入時，安全護欄會根據預設的規則和標準評估輸入內容是否有效或無效；同樣的過程也適用于大模型輸出，安全護欄會檢查模型輸出是否符合要求。
02大模型賦能安全
大模型賦能安全，是人工智能技術與安全領域深度融合的必然趨勢。一方面，大模型在安全領域的應用為企業安全團隊工作效率和準確率的提升帶來了期望；另一方面，傳統安全廠商基于海量高質量安全數據推出安全領域垂域大模型，幫助企業更好利用大模型解決原有安全場景難以解決的問題。
大模型賦能安全的主要應用方向為大模型賦能網絡安全、大模型賦能數據安全、大模型賦能內容，其中網絡安全是當前大模型應用場景最廣泛的領域，尤其是在安全運營方向，大模型顯著提高了傳統安全防御體系的運營能力。
（部分內容來源網絡，如有侵權請聯系刪除）
