近日，以“智算生態(tài)、共創(chuàng)共贏”為主題的ICPA智算聯(lián)盟系列論壇·第一期會(huì)議成功舉辦。

上海市經(jīng)濟(jì)和信息化委員會(huì)人工智能發(fā)展處副處長(zhǎng)孫躍，ICPA智算聯(lián)盟理事長(zhǎng)、商湯科技聯(lián)合創(chuàng)始人、集團(tuán)副總裁楊帆發(fā)表致辭。商湯科技聯(lián)合創(chuàng)始人兼大裝置首席科學(xué)家林達(dá)華，華為昇騰計(jì)算業(yè)務(wù)CTO周斌，Graphcore大中華區(qū)總裁兼全球首席營(yíng)收官盧濤，燧原科技創(chuàng)始人兼COO張亞林，上海超算科技有限公司副總經(jīng)理劉波發(fā)表主題演講，探討加速AI算力產(chǎn)業(yè)化落地和算法生態(tài)建設(shè)的共贏之道。

林達(dá)華教授發(fā)表主題為《算法框架：AI芯片與商業(yè)價(jià)值的紐帶》的精彩主題演講，他表示：“AI芯片及其所衍生出來的計(jì)算產(chǎn)業(yè)的發(fā)展，并不是任何一家企業(yè)可以單獨(dú)去達(dá)成的愿景，需要上下游不同角色的機(jī)構(gòu)和廠商共同構(gòu)建繁榮的生態(tài)。在這樣的體系下，商湯有著非常重要的位置，如何把技術(shù)的上下游協(xié)同在一起，也是我們共同面臨的一個(gè)課題。”本文為林達(dá)華教授演講內(nèi)容梳理。

算法是銜接應(yīng)用價(jià)值和芯片算力的關(guān)鍵橋梁

人工智能和智能計(jì)算的核心就是人工智能計(jì)算芯片。無論是以GPU為代表的通用圖形處理器，還是近幾年不斷涌現(xiàn)的AI專用計(jì)算芯片，都構(gòu)成了整個(gè)人工智能算力的核心。

在用戶端，AI技術(shù)在自動(dòng)駕駛、智慧商業(yè)、智慧城市、智慧醫(yī)療等各種垂直領(lǐng)域的應(yīng)用，將人工智能的價(jià)值真正帶到了生產(chǎn)、生活和工作當(dāng)中。

支撐不同行業(yè)廣泛應(yīng)用的背后，是一系列人工智能的關(guān)鍵算法，例如計(jì)算機(jī)視覺領(lǐng)域的分類、檢測(cè)、分割等等算法。

雖然這些算法會(huì)分成若干個(gè)小類別，但是在每一類上，其迭代、演進(jìn)速度非?？?，種類也非常多。目前，商湯面向不同行業(yè)應(yīng)用已生產(chǎn)出來了超過3萬個(gè)算法模型。

這些算法模型對(duì)硬件的適配帶來了極大挑戰(zhàn)，每一個(gè)模型的算法適配都需要很大工作量的投入，不同應(yīng)用也涉及不同的算法。算法是銜接應(yīng)用價(jià)值和芯片計(jì)算能力最關(guān)鍵的橋梁。

在人工智能領(lǐng)域，算法研究員并不直接在芯片所提供的底層API上寫算法，因?yàn)榇蟛糠盅芯繂T和算法工程師對(duì)芯片的體系結(jié)構(gòu)并不了解，也不需要了解，術(shù)業(yè)有專攻。

因此，在銜接算法研究員和底層計(jì)算的基礎(chǔ)設(shè)施中間，就衍生出了深度學(xué)習(xí)框架的系列基礎(chǔ)軟件體系，例如TensorFlow、PyTorch、MindSpore和商湯自研的SenseParrots。每個(gè)訓(xùn)練框架都在行業(yè)中扮演著不同的角色，走出了各自差異化的發(fā)展道路。

由于算法與芯片之間有多種訓(xùn)練框架，不同框架又出自不同機(jī)構(gòu)和企業(yè)，沒有形成一個(gè)固定接口，這導(dǎo)致人工智能訓(xùn)練芯片不僅要適配不同框架，還要支持多樣化的算法，而算法框架接口多樣化導(dǎo)致AI芯片對(duì)算法支持工作量劇增，這就帶來了高昂的適配成本，成為人工智能訓(xùn)練芯片快速迭代、進(jìn)入市場(chǎng)的障礙。

開源算法體系，構(gòu)建高效繁榮的AI生態(tài)

構(gòu)建一個(gè)能夠助力芯片發(fā)展的生態(tài)，最關(guān)鍵的就是要打破障礙和瓶頸，這樣才能夠促進(jìn)整個(gè)生態(tài)上下游共同發(fā)展和繁榮。如何實(shí)現(xiàn)這一目標(biāo)?算法是直接支撐應(yīng)用的，從智慧城市領(lǐng)域中的場(chǎng)景分類、車牌識(shí)別等算法，到醫(yī)學(xué)圖像分析領(lǐng)域中的語義分割、病灶檢測(cè)等算法，通常都會(huì)經(jīng)過一個(gè)基于應(yīng)用場(chǎng)景的分解過程，最后形成一個(gè)大算法家族的族譜。

經(jīng)過多年發(fā)展，商湯在AI算法領(lǐng)域形成了深厚的積累，但只有將這些算法為整個(gè)業(yè)界所用，才能引導(dǎo)整個(gè)產(chǎn)業(yè)上下游的發(fā)展，最大限度的發(fā)揮價(jià)值。基于從應(yīng)用對(duì)算法分解的認(rèn)知，商湯在2018年啟動(dòng)了OpenMMLab開源算法體系。

近4年來，OpenMMLab的國(guó)際影響力持續(xù)增長(zhǎng)，目前在GitHub上獲得了58,000個(gè)Stars，超過了業(yè)內(nèi)頂級(jí)的深度學(xué)習(xí)框架PyTorch的數(shù)量。同時(shí)，OpenMMLab還支持了上千篇論文的發(fā)表，并協(xié)助幾十項(xiàng)比賽選手在垂直領(lǐng)域獲得了冠軍。此外，在生態(tài)影響力方面也有所建樹。

OpenMMLab在商業(yè)領(lǐng)域的應(yīng)用也非常廣泛，目前有超過600家企業(yè)和科研機(jī)構(gòu)使用OpenMMLab進(jìn)行技術(shù)研發(fā)，其中不乏大型央企、頭部科技企業(yè)和互聯(lián)網(wǎng)企業(yè)，已形成了廣泛的影響力?；陂_源開放的算法體系，商湯希望實(shí)現(xiàn)訓(xùn)練框架和AI芯片的雙向價(jià)值引導(dǎo)，攜手業(yè)界同仁共同構(gòu)建高效的人工智能上下游生態(tài)。

構(gòu)建標(biāo)準(zhǔn)化體系，打造算法芯片協(xié)同發(fā)展的技術(shù)基礎(chǔ)設(shè)施

為了推動(dòng)訓(xùn)練框架和AI芯片的協(xié)同發(fā)展，商湯將算法分解成為各種算子，并告知開發(fā)者哪些算子在整個(gè)算法層、應(yīng)用場(chǎng)景層最為重要。通過這樣的引導(dǎo)，可以幫助行業(yè)伙伴將有限的算力資源應(yīng)用到真正有價(jià)值的業(yè)務(wù)場(chǎng)景當(dāng)中。

在技術(shù)層面，商湯構(gòu)建了兩套標(biāo)準(zhǔn)化體系，其一是算法的分級(jí)體系，另一個(gè)是標(biāo)準(zhǔn)算子接口體系。針對(duì)算法分級(jí)體系的構(gòu)建，商湯根據(jù)社區(qū)反饋，從影響力、性能、部署廣度等多重維度，初步將算法分成 P0、P1、P2三個(gè)級(jí)別：

P0級(jí)是任何芯片必須完全支持的算法;

P1級(jí)是在業(yè)務(wù)場(chǎng)景里使用較多，但并不是完全必需的算法;

P2級(jí)是使用和關(guān)注度都相對(duì)較少的算法。

基于算法的分級(jí)，商湯“以業(yè)務(wù)應(yīng)用為導(dǎo)向，以算法為抓手”，形成了一整套面向訓(xùn)練框架、推理引擎、訓(xùn)練芯片、集群環(huán)境的適配和評(píng)測(cè)體系，從而給予下游的軟件和芯片廠商一個(gè)非常明確、清晰的優(yōu)化適配指引。針對(duì)標(biāo)準(zhǔn)算子接口體系，商湯根據(jù)算法的導(dǎo)引，將標(biāo)準(zhǔn)化之后的算子提取出來。在這之中，商湯已經(jīng)完成了兩項(xiàng)重要工作：

其一是統(tǒng)一算子接口和函數(shù)簽名，包含算子接口和輸入輸出等信息;

其二是一致性測(cè)試套件，包括標(biāo)準(zhǔn)化的測(cè)試用例以及相關(guān)的工具體系，可以校驗(yàn)算子的正確性，評(píng)測(cè)在不同環(huán)境、不同配置下的執(zhí)行效率。

這兩項(xiàng)工作為評(píng)測(cè)不同芯片提供了一個(gè)標(biāo)準(zhǔn)化的抓手。這套技術(shù)層面的基礎(chǔ)設(shè)施，可以促進(jìn)產(chǎn)業(yè)協(xié)同向前。此外，如今的適配方式與傳統(tǒng)方式相比也有很大優(yōu)勢(shì)。傳統(tǒng)芯片與框架一對(duì)一適配的方式，其經(jīng)驗(yàn)很難在跨芯片或跨場(chǎng)景中復(fù)用。商湯基于標(biāo)準(zhǔn)算子接口體系的芯片-框架多對(duì)多的適配流程，可以將溝通成本、工作難度、適配工作量降到最低。一次性可接入數(shù)百種標(biāo)準(zhǔn)算子接口，通過一致性測(cè)試，能夠自動(dòng)適配到不同的算法和芯片上面，實(shí)現(xiàn)更快迭代。

未來，商湯將致力于通過更多人工智能技術(shù)上的構(gòu)建，積極促成產(chǎn)業(yè)上下游的合作協(xié)同，助力更高效從芯片到價(jià)值閉環(huán)的打通。

原文標(biāo)題：干貨分享丨算法框架是AI芯片與商業(yè)價(jià)值的紐帶

文章出處：【微信公眾號(hào)：商湯科技SenseTime】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

審核編輯：湯梓紅