滿血守護DeepSeek，360率先推出DS大模型安全方案

2025-03-12 10:09:53
我要分享


微信掃碼分享

當前，以DeepSeek為代表的國產大模型發展勢頭迅猛，正重塑全球人工智能技術格局。然而，其背后潛藏的系統漏洞、數據安全、內容風險等隱患也頻頻敲響警鐘，不僅對大模型自身的安全性提出了更高的要求，也對整個行業的規范發展和治理構成嚴峻的考驗。安全不再是附加標簽，而是大模型引領數智時代的原生屬性。

基于此，360集團正式推出DS大模型安全解決方案，覆蓋模型訓練、推理、運營等大模型落地應用全過程，滿血守護DeepSeek發展，促進國產大模型企業向安全、向善、可信、可控的方向發展，為全球人工智能技術治理提供了可借鑒的“中國方案”。

DeepSeek發展面臨五大安全挑戰

DeepSeek以其強大的數據處理能力、精準的算法模型以及深度的用戶洞察，重塑了AI領域的游戲規則。然而，以DeepSeek為代表的大模型作為新質生產力推動者的同時，也面臨傳統網絡安全與新型安全風險交織的雙重挑戰。具體而言：

系統安全

此前DeepSeek遭遇網絡攻擊導致新用戶注冊受阻的事件就暴露了大模型系統安全方面的脆弱性。DeepSeek運行所依賴的硬件設施、軟件框架、操作系統等基礎層以及提示工程、緩存、向量庫等訓練和推理過程中使用的生態鏈工具共同構成龐大復雜的系統，系統中每個環節的缺陷都可能被惡意利用，加之開發運維過程中存在的不當使用和濫用等行為，技術脆弱性與人為風險因素相互疊加，使得大模型面臨嚴峻的系統安全風險。

數據安全

數據在大模型各階段流動創造價值，也帶來數據泄漏、篡改、濫用等各類隱私及合規風險。在數據收集訓練階段，可能使用未經授權版本數據訓練，導致侵權；在部署能力及開發階段，使用不同供應商的服務時，可能存在黑盒以提取大模型記憶隱私數據；在對外提供服務時，可能存在API濫用隱患問題；在推理使用階段，用戶交互數據可能會泄漏或者濫用，違反隱私合規風險。

內容安全

由于DeepSeek依賴大量公開數據進行訓練，模型可能在無意中學習到不當的行為，輸出的內容可能會存在政治敏感、暴力違禁、色情低俗等不良內容，造成信息污染和倫理風險。例如2024年，Google大模型Gemini被指無法正確生成白人歷史圖像，引發人們對人工智能存在種族歧視問題的擔憂，google不得不停用該功能。

此外，不法分子通過數據投毒、對抗樣本、Prompt注入等手段，直接模型的“認知邏輯”予以扭曲，進而引發信息泄露、危害公共安全等嚴重后果。此前，用戶以偽裝成開發者的指令，讓ChatGPT生成可被用于網絡犯罪的電腦病毒等危險內容，便引發公眾對大模型內容安全的擔憂。

幻覺問題

大模型在運行過程中，其自身的幻覺問題往往會導致生成錯誤信息，不僅造成虛假內容的傳播，還極大降低了模型的可用性。2023年，美國一位資深律師因在訴訟中引用了ChatGPT提供的6個完全不存在的判例，而被罰款5000美元。除了司法領域，在金融、醫療、安全等垂直行業應用中，大模型的幻覺問題也可能存在誤導性建議、未經驗證的治療方法、錯誤的防御策略等特定隱患，進而誤導用戶判斷和決策。

行為失控

大模型發展過程中，Agent自主性不斷增強，嵌入到業務工作流中，可能帶來新的安全隱患。Agent在復雜交互中因邏輯缺陷、環境誤判等原因，可能導致出現指令劫持、任務偏離、資源濫用等非預期行為，即執行一些未經授權的操作，或者導致系統資源的過度消耗，甚至引發系統崩潰等嚴重后果。

對癥下藥

首個DS版大模型安全解決方案上線

作為兼具數字安全和AI雙重能力的科技企業，360很早開始關注大模型安全風險，提出“以模制模”理念，利用安全大模型來檢測和防范大模型可能出現的安全風險。

針對以DeepSeek為代表的國產大模型廠商面臨的安全挑戰，360推出DS大模型安全解決方案，錨定系統安全、數據安全、內容安全、幻覺問題、行為失控五大挑戰，對癥下藥，守護DeepSeek大模型訓練、推理和運營全流程，為全球人工智能技術治理提供“中國方案”。

安全體檢員360智鑒

全天候掃描系統安全

針對大模型系統安全問題，360智鑒以全鏈路、精細化和動態進化的檢測能力為核心，融合紅藍對抗思路和大模型自身技術優勢，為企業提供一套全面、智能、高效的大模型系統安全檢測方案，幫助企業在大模型上線前進行全方位的安全評估，保障大模型系統的可靠性與業務穩定性。

360智鑒覆蓋了從數據清洗、模型訓練、模型推理、部署上線的整個生命周期中的系統安全檢測，支持近百個組件的400+公開漏洞檢測，覆蓋RAG、Agent、prompt等場景的安全性分析，同時，能夠快速集成新的安全檢測技術和方法，適應不斷變化的安全威脅形勢。

數據倉管員360智數

守護模型數據使用安全

針對DeepSeek面臨的數據安全挑戰，360基于智能化數據安全管理平臺圍繞大模型資產梳理分級、模型邊界審查、模型數據風險監測三大維度構建閉環解決方案360智數，全方位護航大模型數據全生命周期，守護大模型數據流動安全，具體而言：

全鏈路數據資產梳理，通過AI動態資產識別技術，構建大模型數據地圖。對大模型元數據分析，實現訓練數據合規追溯、知識庫重要數據識別、模型數據隱私內容檢測三重治理；

動態數據分級分類，對大模型智能體數據知識庫、向量庫、開放服務、記憶等位置進行動態分類分級，定期檢查合規性和區域合法性，保證用戶及企業使用安全；

智能風險監測，通過大模型對數據開放及調用行為進行監測，識別異常調用、算法漏洞、知識庫偏差，通過趨勢分析及預測實現異常發現-風險研判-流程處置，以模制模，全面防控隱私數據、重要數據泄漏及模型行為失控風險。

信息凈化器360智盾

全流程審核內容安全

為保障大模型內容安全，360智盾打造了全流程、多種類、多模態、場景化的內容安全體系，通過精準的風險檢測、高效的內容攔截與替代機制，幫助企業確保生成內容的合法性、合規性與倫理可靠性，同時提升用戶體驗和模型輸出的可信度。

360智盾支持100多類風險內容的識別過濾，涵蓋超200種對抗內容防御機制，支持文本、音頻、圖片、視頻等多種模態的風險防護，并通過平臺定制化場景風控策略，滿足不同場景的風控需求，檢測識別正確率超90%。

安全領航員360智搜

把模型拉出幻覺泥潭

為避免大模型陷入幻覺泥潭，360智搜通過精確的知識整合，減少虛假或不準確信息，提升大模型的可信度與可靠性，有效減少大模型生成幻覺內容的可能性。同時，360智搜支持基于企業私域數據的知識提煉與總結，為企業提供更安全、更高效的業務支持。

360智搜整合多領域精品知識庫，實現全網與私域知識的無縫對接，提升信息獲取效率。實際應用中，在幻覺檢測Agent加持下，大模型通用場景下幻覺比例下降50%以上。

調度指揮官360智控

Agent流程可控可管

為確保Agent在執行任務時嚴格遵循既定流程，避免失控行為的發生，360智控通過原生安全的AI Agent可控框架對大模型場景進行統一編排調用，原生設置安全措施、監督任務規劃全程、監控工具調用過程，把大模型能力關在籠子中，解決大模型不可控的問題。

360 DS大模型安全解決方案支持多種部署及交付方式，滿足以DeepSeek為代表的通用大模型企業對便捷、成本、安全等多種因素個性化需求。

此外，360大模型安全解決方案已在政務、稅務、醫療等垂直行業落地應用，守護千行百業智能化轉型。未來，360將繼續護航大模型安全，為全球人工智能技術治理提供了可借鑒的“中國方案”。

如需咨詢相關服務

請聯系電話

400-0309-360

熱點排行

滿血守護DeepSeek，360率先推出DS大模型安全方案

熱點排行

關注我們