①會議將于8月1日(周五)召開; ②旨在進(jìn)一步完善標(biāo)準(zhǔn)內(nèi)容,確保標(biāo)準(zhǔn)的廣泛適用性和可操作性; ③機構(gòu)稱,中國大模型一體機需求爆發(fā),有望開啟千億級市場。
《科創(chuàng)板日報》7月29日訊(編輯 宋子喬) 7月29日,據(jù)中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟消息,為持續(xù)推動大模型產(chǎn)業(yè)生態(tài)建設(shè),中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟AI Infra工作組(以下簡稱工作組)、中國通信標(biāo)準(zhǔn)化協(xié)會人工智能技術(shù)與標(biāo)準(zhǔn)推進(jìn)委員會(CCSA TC602)將啟動大模型一體機性能標(biāo)準(zhǔn)的研制工作,標(biāo)準(zhǔn)將體系化地規(guī)范大模型一體機的性能指標(biāo)和技術(shù)能力,為行業(yè)提供統(tǒng)一的評測基準(zhǔn)和實施指南。
工作組計劃于8月1日(周五)召開“大模型一體機性能標(biāo)準(zhǔn)框架研討會”,圍繞標(biāo)準(zhǔn)框架和內(nèi)容展開研討與交流。
前期,經(jīng)過與二十余家企業(yè)的標(biāo)準(zhǔn)預(yù)研工作,工作組目前已形成了標(biāo)準(zhǔn)框架,并已經(jīng)聯(lián)合三十多家企業(yè)共同研制了《大模型一體機功能要求和測試方法》行業(yè)標(biāo)準(zhǔn),規(guī)范大模型一體機的技術(shù)產(chǎn)品能力;編制《大模型一體機應(yīng)用研究報告》,探索大模型一體機選型實踐最佳路徑;編制“大模型一體機產(chǎn)業(yè)圖譜”梳理產(chǎn)業(yè)鏈現(xiàn)狀;開展“大模型一體機落地應(yīng)用標(biāo)桿案例征集”,促進(jìn)應(yīng)用能力提升。
研討會旨在進(jìn)一步完善標(biāo)準(zhǔn)內(nèi)容,確保標(biāo)準(zhǔn)的廣泛適用性和可操作性——
面向應(yīng)用方企業(yè):提供可量化的大模型一體機性能評估體系,幫助企業(yè)在選型、部署、運維過程中提供決策參考,助力企業(yè)高效構(gòu)建多行業(yè)場景下大模型的應(yīng)用能力。
面向供給方企業(yè):明確大模型一體機的技術(shù)性能與服務(wù)能力標(biāo)準(zhǔn),推動產(chǎn)品在推理優(yōu)化、微調(diào)訓(xùn)練、業(yè)務(wù)場景應(yīng)用等方面的能力提升,以促進(jìn)企業(yè)提供更優(yōu)質(zhì)的技術(shù)服務(wù)。
隨著AI技術(shù)的快速發(fā)展,大模型(如GPT、BERT等)在自然語言處理、圖像識別、智能推薦等領(lǐng)域展現(xiàn)出強大的能力。然而,大模型的訓(xùn)練和部署對計算資源、數(shù)據(jù)安全和系統(tǒng)運維提出了極高的要求。
大模型一體機應(yīng)運而生,其是集成化、軟硬件深度融合的AI設(shè)備,旨在為大模型的開發(fā)、訓(xùn)練、部署及運維提供端到端支持,特點是“開箱即用、強隱私保護(hù)、全棧式服務(wù)”,以極致性能、本地數(shù)據(jù)閉環(huán)與高度可控性為核心優(yōu)勢,區(qū)別于私有云的靈活定制與公有云的彈性共享,更適用于對實時性和數(shù)據(jù)安全要求極高的專有場景,一般政企不具備較成熟的AI基礎(chǔ)設(shè)施團(tuán)隊,而大模型一體機有望解決私有化部署中的痛點難點,契合政企需求。
財信證券此前表示,私有化部署需求增加有望推高大模型一體機銷量。根據(jù)初步測算,現(xiàn)階段央國企、政務(wù)機構(gòu)、學(xué)校、醫(yī)院等泛政府類單位私有化部署AI大模型所需的服務(wù)器(一體機)開支空間約在1000億元左右,且隨著AI應(yīng)用場景逐漸拓寬,服務(wù)器(一體機)需求仍有較大提升空間。
億歐智庫稱,中國大模型一體機需求爆發(fā),有望開啟千億級市場。央國企及黨政機關(guān)是一體機的重要客戶。政府機構(gòu)和央國企往往涉及公民信息、政務(wù)數(shù)據(jù)、國家安全等大量敏感數(shù)據(jù)信息,對本地化、私有化部要求較高。大模型一體機低門檻、低部署成本的私有化部署方案完美契合相關(guān)需求,不需要額外部署服務(wù)器、雇傭龐大運維團(tuán)隊,僅需支付購買費用,購買后立即就能投入使用。
2025年主流廠商大模型一體機產(chǎn)品呈現(xiàn)多樣化配置與功能定位,價格覆蓋50萬至500萬元不等,華為、智譜AI等在性價比與高性能推理方面具備顯著優(yōu)勢。
當(dāng)前市場大模型一體機核心供應(yīng)商可以分為服務(wù)器廠商、云計算廠商、垂直領(lǐng)域廠商以及芯片生態(tài)伙伴。
民生證券表示,基于國產(chǎn)GPU,國產(chǎn)AI一體機市場百花齊放,2025年是國產(chǎn)AI一體機應(yīng)用元年,國產(chǎn)AI一體機產(chǎn)業(yè)鏈公司包括禾盛新材、恒為科技、烽火通信、超訊通信、中國長城、拓維信息、浪潮信息、科大訊飛、潤建股份、中科曙光、紫光股份、華勝天成、亞康股份、優(yōu)刻得、云從科技、軟通動力、天融信、中國聯(lián)通、中國移動、中國電信等。