近日，墨芯人工智能憑借在大模型算力方案上的優(yōu)勢，入選創(chuàng)業(yè)邦“2023最值得關(guān)注的AIGC公司”榜單，稀疏計(jì)算再獲認(rèn)可。

本次評選以專業(yè)的視角發(fā)掘現(xiàn)階段積極探索AIGC技術(shù)和應(yīng)用的企業(yè)，評估投資價(jià)值、技術(shù)成熟度、市場營銷、生態(tài)合作、創(chuàng)新潛力等維度的綜合表現(xiàn)。最終墨芯從參評的500余家企業(yè)中脫穎而出，成功入選。

創(chuàng)業(yè)邦指出，本次上榜企業(yè)“或是身經(jīng)百戰(zhàn)的互聯(lián)網(wǎng)大廠，亦或是剛剛展露頭角但具有投資價(jià)值的AI創(chuàng)業(yè)先鋒，面對AIGC的巨浪，乘風(fēng)而起，展現(xiàn)出了非凡的行動(dòng)力”。

隨著大模型浪潮席卷全球，作為AIGC基礎(chǔ)層的算力產(chǎn)業(yè)備受矚目。創(chuàng)業(yè)邦在對AIGC基礎(chǔ)層的解讀中提及“由于上游人工智能算力、數(shù)據(jù)基礎(chǔ)設(shè)施或壟斷或資源稀缺，如芯片、服務(wù)器等，議價(jià)權(quán)較高，但下游需求激增，現(xiàn)階段最先受到裨益”。

在算力領(lǐng)域，稀疏計(jì)算作為突破算力瓶頸的關(guān)鍵技術(shù)，獲得高度的市場關(guān)注。墨芯以領(lǐng)先的產(chǎn)品實(shí)力、突出的商業(yè)化進(jìn)展，多次被權(quán)威機(jī)構(gòu)推舉為AIGC產(chǎn)業(yè)的代表企業(yè)。

性能領(lǐng)先：率先支持千億參數(shù)大模型

墨芯AI計(jì)算平臺率先支持高達(dá)千億參數(shù)的大語言模型，并在吞吐、延時(shí)等多項(xiàng)指標(biāo)上表現(xiàn)優(yōu)異，具備高吞吐、低延時(shí)的優(yōu)勢：

在1300億參數(shù)ChatGLM大模型上，8張墨芯S30計(jì)算卡吞吐達(dá)432 token/s，性能超過主流GPU，加快AI內(nèi)容生成速度，大幅優(yōu)化用戶體驗(yàn)。

緩解落地難題：助力AIGC企業(yè)降本增效

針對大模型占用大量計(jì)算資源、能耗巨大、費(fèi)用高昂等難點(diǎn)，墨芯憑借領(lǐng)先的稀疏計(jì)算技術(shù)，大幅減少AI計(jì)算中的無效元素，從而能夠以更少數(shù)量的AI計(jì)算卡就能支持大模型推理。這為AI企業(yè)減緩算力基礎(chǔ)設(shè)施與運(yùn)營成本壓力，達(dá)到降本增效的目標(biāo)。

應(yīng)用前景廣闊：商業(yè)進(jìn)展取得突破

墨芯基于性能領(lǐng)先的硬件產(chǎn)品與軟件平臺，為客戶提供企業(yè)級端到端的解決方案，使開發(fā)人員能將墨芯的解決方案幾乎零成本集成到現(xiàn)有的基礎(chǔ)設(shè)施和算法交付中。

墨芯產(chǎn)品已實(shí)現(xiàn)量產(chǎn)，并成為支持ByteMLPerf的供應(yīng)商之一，助力企業(yè)加速AI應(yīng)用。

作為AIGC產(chǎn)業(yè)代表企業(yè)，墨芯將持續(xù)發(fā)揮產(chǎn)品技術(shù)創(chuàng)新優(yōu)勢，為AIGC應(yīng)用帶來強(qiáng)大動(dòng)力支撐，驅(qū)動(dòng)產(chǎn)業(yè)升級與社會(huì)進(jìn)步。

審核編輯：劉清