大模型應用在各行業落地,大模型平臺愈發火熱,但各項能力水平怎么衡量?最近,深信服作為核心參編單位參與的一項新標準,正式發布了!
由中國信通院牽頭,依托中國人工智能產業發展聯盟(AIIA)模型服務(MaaS)工作組,聯合30余家單位共同編制的《MaaS模型即服務技術與應用要求 第7部分:大模型API服務性能測試方法》標準(AIIA/T 0221-2025)已正式發布。深信服核心參編,共促AI技術應用的規范發展與創新。
《MaaS模型即服務技術與應用要求 第7部分:大模型API服務性能測試方法》標準(AIIA/T 0221-2025)
模型即服務(MaaS)已成為大模型應用落地的主要模式之一,MaaS平臺為用戶提供便捷、靈活、低門檻的大模型服務,是重要的支撐平臺。但不同平臺上所提供的大模型服務能力參差不齊,中國信通院已發布一套全方位評估體系來衡量大模型API服務效能和MaaS平臺能力,即《MaaS模型即服務技術與應用要求》。
本次深信服參與編制的文件為該標準的第7部分,有效填補了大模型API服務性能評估標準的空白。該標準主要規范和明確了以下內容——
-
性能測試的軟、硬件環境要求;
-
關鍵性能測試指標及計算方法,多種測試類型及測試場景;
-
性能測試過程中的測試數據集選擇原則和系統資源監控范圍;
-
大模型API服務性能測試流程設計、數據集選擇、性能指標計算方式和評價維度。
在本次標準編制過程中,深信服憑借在大模型技術上的深入探索以及對私有化大模型算力平臺構建的豐富實踐經驗,為標準的科學性、實用性與前瞻性貢獻了重要力量。
從安全GPT大模型到AICP算力平臺的發布,深信服長期布局AI產業,已有深厚的AI能力積累。近期,深信服還將整合技術能力,升級AI創新平臺,打造新智算時代的AI Infra平臺,不僅為用戶提供高性能、穩定、安全的平臺能力,更為用戶實現端到端AI應用建設TCO優化,讓各行業用戶以更輕松的方式擁抱AI。
未來,深信服會繼續扎根AI技術研究,積極參與標準建設,參與建設更繁榮的生態,為各行業落地大模型提供更有效的能力,打造更健康的行業環境。
6月19日(本周四)
深信服AI創新平臺將以全新面貌亮相!
計算效能翻番、不綁定顯卡廠商
業界率先商業化,4090D起步運行含671B的端到端AI應用場景
現場演示如何實現端到端AI應用建設TCO優化
↓↓ 立刻預約直播 ↓↓