近日，昇思人工智能框架峰會暨成果發(fā)布會在北京舉辦。AI框架作為大模型開發(fā)及產(chǎn)業(yè)落地的基礎軟件，在人工智能技術棧中起到使能算法開發(fā)、釋放硬件性能的“承上啟下”作用。

會上，商湯參與基于昇思AI框架的大模型原生開發(fā)成果發(fā)布；同時，商湯基于華為生態(tài)在模型和算法方面的優(yōu)秀創(chuàng)新與實踐，獲得了昇思MindSpore開源社區(qū)2024年度杰出開發(fā)者稱號，標志著雙方在推動人工智能技術發(fā)展方面邁出了堅實的一步，通過共同構建框架新生態(tài)，為用戶提供更加高效、便捷、可靠的智算服務。

強強結合，取得多項聯(lián)創(chuàng)成果

2024年，商湯依托昇騰與昇思生態(tài)，共同推進基礎模型、行業(yè)大模型應用與創(chuàng)新，通過高效并行、通信優(yōu)化及網(wǎng)絡架構感知和任務調度等軟硬優(yōu)化技術，構建了大規(guī)模并行訓練加速系統(tǒng)。在此基礎上，商湯聯(lián)合昇思MindSpore優(yōu)化混合專家(MoE)模型高效計算架構，模型性能提升18%以上。

基于昇思MindSpore，商湯還建設長序列并行訓練加速機制，與業(yè)界相比，4K序列性能提升1倍以上，32K序列性能持平，并支持處理128K長序列訓練。

目前，商湯日日新大模型從底層軟件棧的接入到基礎框架優(yōu)化、再到模型原生開發(fā)，在性能、穩(wěn)定性等關鍵參數(shù)方面超過業(yè)界。

多元異構，引領AI基礎設施自主可控實踐

商湯大裝置積極開展芯片適配，推動智能算力多元化?；谧匝杏柧毧蚣芘c推理框架，聯(lián)合產(chǎn)業(yè)鏈上下游企業(yè)開展多元GPU芯片適配工作，搭建能兼容多種芯片的異構算力體系。

目前，AI國產(chǎn)算力集群算力規(guī)模超2,000PetaFLOPS。商湯大裝置面向多元芯片打造的技術體系，為多樣化計算場景下的大模型高效部署與創(chuàng)新應用落地提供了有力支撐。

商湯大裝置多元芯片技術體系包含原生云組件、訓推一體加速和多元異構算力，可提供全面的資源狀態(tài)監(jiān)控，打通從訓練到推理的全鏈路操作，實現(xiàn)95%以上的多元異構混訓效能，優(yōu)化整體能耗，降低運營成本。

算力加持，穩(wěn)居智算第一梯隊

商湯大裝置不僅算力規(guī)模達20,000 PetaFLOPS，軟件和平臺的創(chuàng)新力和服務能力亦備受各界認可。在IDC此前發(fā)布的《中國智算服務市場（2023下半年）跟蹤》報告中，商湯在中國云計算基礎設施廠商中脫穎而出，與火山引擎、阿里巴巴共同躋身2023年下半年中國GenAI IaaS服務廠商TOP 3，以顯著的市場份額優(yōu)勢位居GenAI IaaS領域的第一梯隊。

在IDC發(fā)布《中國模型即服務（MaaS）及AI大模型解決方案市場追蹤，2024H1》報告中，商湯科技（商湯大裝置萬象）以14.8%的市場份額位居第二，領跑AI大模型解決方案行業(yè)第一梯隊。

商湯大裝置始終致力于打造高效易用的全棧大模型服務，無縫對接各類模型應用場景，提升大模型技術的落地效率，更好地賦能千行百業(yè)。