在剛剛結束的深信服第17屆核心合作伙伴論壇中,深信服最新發布:
一朵云面向AI進行全新升級,為用戶打造更匹配大模型場景的智算承載、應用構建的AI平臺,面向用戶基于DeepSeek承載和應用的場景,提供一鍵部署、性能更優、快速開發應用的最佳實踐方案!
-
線下基礎設施從傳統業務承載平臺向智算承載平臺升級,廣泛適配包括DeepSeek在內的最新大模型。
-
線上托管云上線全新AI服務目錄,提供DeepSeek等企業級大模型服務,用戶可通過訂閱來快速獲取AI能力。
-
全新發布AI應用創新平臺,助力用戶快速構建大模型應用,讓AI應用的開發和運營變得更簡單。
向AI升級后,深信服全面優化推理性能,讓跑在一朵云上的大模型應用可以實現推理性能的大幅提升,降低大模型整體使用成本。
相比基于個人開發者常用的Ollama方案部署DeepSeek,深信服通過AICP算力平臺的部署方案在多實例、并發推理場景中可實現5-10倍的性能提升。大模型并發度更高、吞吐量更大、推理響應延時更低,讓用戶在企業級AI應用構建及實際使用時,資源投入更低、體驗更優。
通過一個問答測試場景演示,我們可以直觀地感受效果:深信服(左側)提供的推理速度更快,用戶體驗更好。
4卡4090運行DeepSeek-32B模型,模擬64并發場景,做問答測試
以32B模型為例,日常問答場景(2k上下文),AICP并發是Ollama的8~10倍,總吞吐10倍以上。
硬件資源:INT4用2*4090,FP16用4*4090
知識庫應用場景(4k上下文),AICP并發是Ollama的2倍,總吞吐4~8倍。
硬件資源:INT4用2*4090,FP16用4*4090
具體而言,深信服可為用戶提供——
01 HCI+AICP:新一代超融合方案
——更適合部署DeepSeek等企業級大模型
深信服現已打造「HCI+AICP新一代超融合」解決方案,只需在原集群基礎上增加一臺GPU節點,就能基于本地集群快速部署并承載DeepSeek在內的企業級大模型。
無需重構原有基礎框架,通過「新一代超融合」升級,基礎設施即可完成從傳統承載平臺向智算承載平臺的演進。所有承載通算、智算的集群資源都可以在信服云管理平臺SCP上進行統一納管。同時,平臺支持大模型和小模型混合部署,實現資源的自動化調度,更大程度優化算力資源的利用率。
除了推理性能優化、部署與管理便捷,深信服AICP算力平臺還提供了向導化的配置,實現一鍵訓練,幫助用戶開發垂直領域大模型,大幅降低研發門檻和成本。結合模型加密技術,有效保護用戶知識產權,防止“模型資產”泄露。
同時,除了支持英偉達GPU,深信服AICP算力平臺和多家國產廠商開展了廣泛的軟硬件兼容測試,可適配天數智芯、昇騰、海光、沐曦、燧原等多款國產卡,為用戶實現算力異構管理。
02 線上服務目錄向AI升級
——快速訂閱DeepSeek等大模型資源與服務
這次一朵云面向AI升級,深信服對線上服務目錄也做了相應的擴展。
深信服托管云已支持基于專屬資源+AICP的方式,為用戶提供專屬的企業級大模型服務,可滿足用戶對于線上部署專屬服務模型的需求。
未來,深信服會持續豐富線上服務目錄,用戶可以很容易地通過訂閱的方式,快速平滑地獲取AI能力,如DeepSeek等模型服務。
03 AI應用創新平臺全新發布
——讓大模型應用構建更簡單
隨著開源模型的不斷發展,大模型承載愈發成為基礎需求,各行業用戶也正進一步關注如何快速構建應用并在實際業務中發揮價值。對此,深信服全新推出AI應用創新平臺,助力用戶更簡單地完成AI應用的開發和運營。
更簡單的應用構建
深信服AI應用創新平臺內置RAG最佳實踐流程,支持智能分片與直連企業自有知識庫。用戶僅需通過簡單操作,即可構建高質量的RAG應用(如智能客服、知識問答系統等)。
在生成階段,用戶可自主選擇切換主流模型,比如使用基于深信服一朵云的方案線上或線下部署DeepSeek模型服務。這一功能相當于為用戶打造了一個“懂業務知識”的專屬AI應用——既深度結合企業內部知識沉淀,又無縫調用DeepSeek等先進模型能力,實現從數據到業務場景的精準匹配。
更低門檻的數據調優
深信服AI應用創新平臺支持基于業務評測數據集的應用效果評估,并自動生成優化建議,用戶無需理解復雜技術細節,即可完成配置優化,實現效果提升。
更高效的數據運營
應用發布后,平臺通過AI智能識別用戶反饋中的高頻問題,并結合業務場景推薦優化策略。用戶可通過運營→評估→調優的閉環,實現AI應用的「越用越聰明」,將傳統開發中依賴技術團隊的“黑盒”過程,轉化為業務人員可自主驅動的數據運營。
通過這一平臺,AI應用的開發流程被簡化為「數據運營」。用戶只需聚焦業務需求、數據質量與應用效果,無需依賴AI技術專家即可完成迭代,助力用戶以更低成本、更高效率挖掘AI在業務場景中的潛力。
持續拓展AI能力邊界,持續提升面向未來的云能力,支撐更多AI應用場景落地。深信服堅持以創新回應技術的躍遷,讓一朵云成為每位用戶數字化的堅實基石。
接下來,我們還將為用戶解鎖圍繞DeepSeek場景的最佳實踐、應用構建方法及一朵云承載方案,敬請期待!