深鑒科技語(yǔ)音識(shí)別加速系統(tǒng)上線AWS

開啟全球用戶云加速服務(wù)模式

成為首家上線基于FPGA平臺(tái)加速方案的中國(guó)人工智能公司

、 深鑒科技宣布在亞馬遜AWS正式上線基于深鑒Descartes稀疏神經(jīng)網(wǎng)絡(luò)處理架構(gòu)的自動(dòng)語(yǔ)音識(shí)別引擎DDESE (DeePhi Descartes Efficient Speech Recognition Engine)， 開始面向全球用戶提供加速試用服務(wù)。DDESE自動(dòng)語(yǔ)音識(shí)別加速引擎在AWS的發(fā)布，標(biāo)志著深鑒科技成為首個(gè)在AWS上線基于FPGA平臺(tái)加速方案的中國(guó)人工智能公司。

FPGA芯片可定制化和多功能的靈活特性，滿足了云計(jì)算便捷經(jīng)濟(jì)、易于擴(kuò)展的需求。從2016年起，各大云服務(wù)提供商就開始部署FPGA云加速業(yè)務(wù)。全球最大的云供應(yīng)商亞馬遜網(wǎng)絡(luò)服務(wù)(AWS)與FPGA龍頭廠商賽靈思 (Xilinx) 達(dá)成合作，充分證明了云計(jì)算數(shù)據(jù)中心將是FPGA應(yīng)用釋放潛力的重要市場(chǎng)。同時(shí),通過大型數(shù)據(jù)中心的影響力和服務(wù)能力，F(xiàn)PGA影響著數(shù)十萬(wàn)應(yīng)用開發(fā)商和企業(yè)用戶，快速成為公有云服務(wù)青睞的應(yīng)用趨勢(shì)。

深鑒所發(fā)布的DDESE聚焦語(yǔ)音識(shí)別場(chǎng)景，構(gòu)建了以賽靈思FPGA為計(jì)算平臺(tái)的自動(dòng)語(yǔ)音識(shí)別系統(tǒng)加速引擎，可以為用戶提供在AWS上端到端的語(yǔ)音識(shí)別服務(wù)?；贔PGA平臺(tái)，結(jié)合深鑒科技算法、軟件和硬件協(xié)同設(shè)計(jì)的深度學(xué)習(xí)加速解決方案，目前DDESE初始版本在語(yǔ)音識(shí)別的計(jì)算環(huán)節(jié)是GPU計(jì)算速度的2倍。此次深鑒科技獲得AWS系統(tǒng)服務(wù)授權(quán)，在云端部署FPGA語(yǔ)音識(shí)別加速方案，從而可以面向全球用戶提供加速服務(wù)， 并支持其降低開發(fā)與部署成本，消除硬件壁壘， 同時(shí)通過軟硬件的協(xié)同優(yōu)化，取得更高效的云運(yùn)算能力。

深鑒的LSTM加速引擎能夠有效地縮短語(yǔ)音識(shí)別、機(jī)器翻譯等AI時(shí)序類應(yīng)用的延時(shí)。

“我們?cè)趤嗰R遜AWS上發(fā)布DDESE的目的，是通過基于Xilinx FPGA的ESE引擎來(lái)展示AI加速能力，并通過云端推廣讓更多客戶了解深鑒的語(yǔ)音識(shí)別全流程解決方案。我們非常高興可以和Xilinx與AWS一起來(lái)構(gòu)建AI云端加速生態(tài)?！?/p>

——單羿，深鑒科技 CTO

技術(shù)測(cè)試階段，采用相同的網(wǎng)絡(luò)和輸入數(shù)據(jù)，該款自動(dòng)語(yǔ)音識(shí)別引擎端到端延遲相比GPU（Tesla P4 + cudnn6020）、CPU（Intel(R) Xeon(R) CPU E5-2686 v4 @ 2.30GHz, 8 processors）的加速比分別為2.06倍和6.59倍，其中LSTM部分的加速比分別為2.82倍和8.64倍。不久之后深鑒還將發(fā)布新版本的DDESE。未來(lái)FPGA與云端業(yè)務(wù)結(jié)合還將不斷擴(kuò)展及深入，深鑒科技將持續(xù)優(yōu)化技術(shù)的功耗性能，擴(kuò)大FPGA的加速特性，實(shí)現(xiàn)公有云服務(wù)的提速。

關(guān)于深鑒科技

深鑒科技由美國(guó)斯坦福與中國(guó)清華大學(xué)的深度學(xué)習(xí)硬件加速研究者創(chuàng)立，在FPGA領(lǐng)域的技術(shù)潛能及深度學(xué)習(xí)AI專用芯片發(fā)展速度在行業(yè)內(nèi)一直處于領(lǐng)先地位。與FPGA巨頭賽靈思保持長(zhǎng)期深度合作，DDESE的核心技術(shù)ESE（高效的語(yǔ)音識(shí)別引擎）的研究早于2017年獲得FPGA 芯片領(lǐng)域頂級(jí)會(huì)議 FPGA 2017最佳論文獎(jiǎng)。深鑒科技期待通過與AWS的深度合作輸出更便捷、更高效、更經(jīng)濟(jì)的AI云加速服務(wù)。