99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

大模型時代,商湯大裝置重構AI基礎設施與服務

商湯科技SenseTime ? 來源:商湯科技SenseTime ? 2024-04-12 11:47 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

大模型時代,怎樣的基礎設施與服務才能滿足行業(yè)所需?

4月9~11日,第十二屆中國電子信息博覽會(CITE 2024)在深圳舉行,商湯科技大裝置事業(yè)群首席運營官梁守星受邀參加博覽會期間的“2024 AI算力產(chǎn)業(yè)大會”,分享了商湯大裝置在AI基礎設施與服務領域的探索和實踐成果。

打造“數(shù)據(jù)、算力、算法

三位一體的AI基礎設施

數(shù)據(jù)、模型、算力的量變,引發(fā)了AI行業(yè)的質(zhì)變。

比如,大模型的語料規(guī)模5年間翻了1000倍,模型參數(shù)量更是百萬倍的增長,而算力也呈現(xiàn)數(shù)十萬倍的增長趨勢。

在這一趨勢下,以基礎算力、網(wǎng)絡、存儲服務為核心的傳統(tǒng)云架構,已難以滿足AI行業(yè)的需求。AI時代的基礎設施,需要做到“數(shù)據(jù)、算力、算法”三要素的一體化。

e1f67e16-f87c-11ee-a297-92fbcf53809c.png

數(shù)據(jù)管理是一項復雜而重要的任務,涉及接入、采集、標注等體系化流程。而且相較英文,中文語料的變量更加多樣,增加一個標點就可能改變整個語境,進一步增加了數(shù)據(jù)管理難題。

對此,商湯大裝置打造了百億級非結(jié)構化的AI數(shù)據(jù)管理平臺,并支持秒級的數(shù)據(jù)可視檢索,同時還提供數(shù)據(jù)安全整套解決方案和優(yōu)質(zhì)公開數(shù)據(jù)集,讓數(shù)據(jù)管理更便捷、模型訓練更高效。

在算力層面,商湯前瞻布局SenseCore商湯大裝置,擁有高達12,000 petaFLOPS的算力規(guī)模,超過4.5萬塊GPU,為商湯自身大模型研發(fā)提供了豐沛算力的同時,也支持外部客戶訓練大模型和應用部署,國內(nèi)主流大模型客戶達30家以上

e209c304-f87c-11ee-a297-92fbcf53809c.png

基于商湯大裝置及長期經(jīng)驗積累,商湯構建了高效、完備、易用的大模型生產(chǎn)工具鏈,實現(xiàn)了基礎層、模型層、串聯(lián)層、應用層的標準化體系。

不僅如此,商湯還提供涵蓋從訓練系統(tǒng)優(yōu)化、模型訓練、技術咨詢的全鏈條AI專家服務體系,滿足各行各業(yè)不斷涌現(xiàn)的大模型開發(fā)和應用需求。

在商湯大裝置的支持下,商湯在算法層面也實現(xiàn)了高效迭代。“日日新SenseNova 4.0”在代碼編寫、數(shù)據(jù)分析和醫(yī)療問答等多個場景中,達到了與GPT-4相匹配的能力水平。本月,商湯日日新大模型體系還將發(fā)布最新更新。

助力各行各業(yè)

降本增效、產(chǎn)業(yè)升級

根據(jù)國際知名調(diào)研機構弗若斯特沙利文(Frost & Sullivan)聯(lián)合頭豹研究院發(fā)布的《2023年中國AI開發(fā)平臺市場報告》,商湯大裝置成為AI開發(fā)平臺領軍者,市場綜合競爭表現(xiàn)國內(nèi)第一,全球位居第二,僅次于亞馬遜云。

作為AI原生時代稀缺的大模型基礎設施,商湯大裝置正在助力各行各業(yè)客戶實現(xiàn)降本增效和產(chǎn)業(yè)升級:

例如,助力某大模型客戶在1個月內(nèi)完成500B tokens、千億規(guī)模參數(shù)LLM預訓練,顯著提升自動應答質(zhì)量提升。

助力某電力客戶優(yōu)化電力生產(chǎn)和運維流程、降低客戶生產(chǎn)成本和運維難度、提升電網(wǎng)運行效率和穩(wěn)定性,促進新能源集成和消納。

此外,商湯還與重慶南岸區(qū)聯(lián)合打造重慶AIDC,助力重慶AIDC成為國產(chǎn)化示范點,賦能當?shù)卣铡⒚裆?、?jīng)濟等領域數(shù)字化應用及西南地區(qū)重點產(chǎn)業(yè)升級。

商湯大裝置致力于打造高效率、低成本、規(guī)模化的下一代AI基礎設施產(chǎn)品與服務,構建豐富的產(chǎn)業(yè)上下游生態(tài),共建、共創(chuàng)AI未來發(fā)展。



審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • GPU芯片
    +關注

    關注

    1

    文章

    305

    瀏覽量

    6206
  • 商湯科技
    +關注

    關注

    8

    文章

    564

    瀏覽量

    36798
  • 大模型
    +關注

    關注

    2

    文章

    3146

    瀏覽量

    4073

原文標題:2024 AI算力產(chǎn)業(yè)大會 | 大模型時代,商湯大裝置重構AI基礎設施與服務

文章出處:【微信號:SenseTime2017,微信公眾號:商湯科技SenseTime】歡迎添加關注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    Arm如何助力AI基礎設施變革

    眾所周知,人工智能 (AI) 有望革新人類活動的方方面面。然而,要充分釋放這一潛力,就必須面對一個基本事實:支撐傳統(tǒng)計算的基礎設施已無法滿足未來 AI 發(fā)展的需求。
    的頭像 發(fā)表于 07-03 14:29 ?347次閱讀

    爆款應用背后的商湯裝置

    由想法流打造的“造夢次元”,是由多模態(tài)AI驅(qū)動的新一代內(nèi)容平臺,得益于商湯裝置AIGC解決方案從算力到模型的端到端支持,通過算力和模型、
    的頭像 發(fā)表于 06-18 16:44 ?428次閱讀

    NVIDIA技術助力企業(yè)創(chuàng)建主權AI智能體

    AI Factory 的經(jīng)驗證設計將加速基礎設施與軟件(包括全新 NVIDIA NIM 微服務和經(jīng)擴展的 NVIDIA Blueprint)相結(jié)合,為各國和企業(yè)簡化了全棧式 AI 開發(fā)
    的頭像 發(fā)表于 06-16 14:28 ?598次閱讀

    歐洲聯(lián)手NVIDIA打造AI基礎設施

    NVIDIA 于近日宣布,其正在攜手歐洲各國、科技和行業(yè)領導者,共同建造 NVIDIA Blackwell AI 基礎設施,以強化數(shù)字主權、支撐經(jīng)濟增長,并推動歐洲大陸成為 AI 工業(yè)革命的領導者。
    的頭像 發(fā)表于 06-16 14:25 ?530次閱讀

    愛立信攜手英偉達建設瑞典AI基礎設施

    日前,包括愛立信、阿斯利康、薩博、瑞典北歐斯安銀行(SEB)和瓦倫堡投資公司(Wallenberg Investment AB)在內(nèi)的瑞典聯(lián)盟合作伙伴,將共同構建由一家合資公司運營的AI基礎設施,為行業(yè)合作伙伴提供安全、主權計算接入服務
    的頭像 發(fā)表于 05-30 10:40 ?4532次閱讀

    商湯裝置SenseCore 2.0全新升級

    在2025商湯技術交流日上,作為最懂大模型AI基礎設施商湯裝置SenseCore 2.0全
    的頭像 發(fā)表于 04-14 18:07 ?568次閱讀

    NVIDIA 與行業(yè)領先的存儲企業(yè)共同推出面向 AI 時代的新型企業(yè)基礎設施

    存儲提供商構建搭載 AI 查詢智能體的基礎設施,利用 NVIDIA 計算、網(wǎng)絡和軟件,針對復雜查詢進行推理并快速生成準確響應 ? 美國加利福尼亞州圣何塞 —— GTC —— 太平洋時間 2025 年
    發(fā)表于 03-19 10:11 ?244次閱讀
    NVIDIA 與行業(yè)領先的存儲企業(yè)共同推出面向 <b class='flag-5'>AI</b> <b class='flag-5'>時代</b>的新型企業(yè)<b class='flag-5'>基礎設施</b>

    華為打造移動AI時代領先電信基礎設施

    使能平臺,助力運營商電信基礎設施從架構、自動化、綠色、AI等方面全面升級,從容應對復雜網(wǎng)絡挑戰(zhàn),使能AI業(yè)務創(chuàng)新,打造移動AI時代領先電信
    的頭像 發(fā)表于 03-08 11:39 ?743次閱讀

    商湯裝置接入DeepSeek系列模型

    即日起,企業(yè)客戶和開發(fā)者可在商湯裝置萬象平臺中,快速部署DeepSeek-V3、DeepSeek-R1等模型,可享受3個月內(nèi)1000萬tokens免費使用權益。
    的頭像 發(fā)表于 02-10 10:16 ?648次閱讀

    RAKsmart公司介紹:全球領先的互聯(lián)網(wǎng)基礎設施與服務提供商

    RAKsmart公司介紹:全球領先的互聯(lián)網(wǎng)基礎設施與服務提供商。
    的頭像 發(fā)表于 01-13 16:24 ?761次閱讀

    商湯科技完成戰(zhàn)略組織架構重組

    了全新的“1+X”架構模式。其中,“1”代表公司的核心業(yè)務,即全力打造行業(yè)領先的AI云平臺。該平臺將實現(xiàn)大裝置、基礎模型AI應用之間的無縫集成,為用戶提供更為便捷、高效的
    的頭像 發(fā)表于 12-13 14:09 ?642次閱讀

    NVIDIA助力印度打造AI基礎設施

    在孟買舉辦的 NVIDIA AI Summit 上,黃仁勛和穆克什·安巴尼(Mukesh Ambani)探討了關于 AI 基礎設施的投資,這些投資有望為各行各業(yè)帶來變革。
    的頭像 發(fā)表于 10-27 09:44 ?577次閱讀

    如何選擇AI服務平臺

    AI服務(AIaaS)平臺通過提供預構建的AI模型、開發(fā)工具、基礎設施以及專業(yè)支持,幫助企業(yè)快速實現(xiàn)A
    的頭像 發(fā)表于 10-08 10:40 ?469次閱讀

    AI驅(qū)動下的數(shù)字經(jīng)濟:智能社會基礎設施與算力革新

    AI驅(qū)動下的數(shù)字經(jīng)濟:智能社會基礎設施與算力革新 隨著數(shù)字經(jīng)濟的迅猛發(fā)展,人工智能(AI)技術已成為推動經(jīng)濟和社會高質(zhì)量發(fā)展的新引擎。根據(jù)中國信息通信研究院的數(shù)據(jù),2022年我國人工智能核心產(chǎn)業(yè)規(guī)模
    的頭像 發(fā)表于 08-21 16:01 ?636次閱讀
    <b class='flag-5'>AI</b>驅(qū)動下的數(shù)字經(jīng)濟:智能社會<b class='flag-5'>基礎設施與</b>算力革新

    模型時代的算力需求

    現(xiàn)在AI已進入大模型時代,各企業(yè)都爭相部署大模型,但如何保證大模型的算力,以及相關的穩(wěn)定性和性能,是一個極為重要的問題,帶著這個極為重要的問
    發(fā)表于 08-20 09:04