《從云到端 AI觸手可及》2024年芯原AI專題技術研討會上，芯原執(zhí)行副總裁、IP事業(yè)部總經(jīng)理戴偉進作了“大模型推動邊緣計算變革的機遇與挑戰(zhàn)”的主題演講，他介紹了目前大模型在邊緣計算的變革的同時，也向行業(yè)介紹了芯原AI相關的技術演講和IP產(chǎn)品系列。

圖：芯原執(zhí)行副總裁、IP事業(yè)部總經(jīng)理戴偉進在技術研討會上作演講介紹大模型的技術發(fā)展趨勢

戴偉進首先在發(fā)言中表示，AI已經(jīng)從部署到每個地方，演進到布置到每個人，大模型應該進入到了邊緣設備中。以語言為基礎的多模態(tài)大模型（Multimodal)

2024年初OpenAI正式上線，全球各種GPT迅速跟進。2024年科技企業(yè)將大型人工智能模型要引入到嵌入式系統(tǒng)中落地，AI手機、AI PC和汽車的大模型邊緣終的落地，并引發(fā)了廣泛的關注?？上壳霸趪鴥?nèi)的AI大模型在邊緣終端的落地還受政策影響中。


2024年初OpenAI正式上線，全球各種GPT迅速跟進。2024年科技企業(yè)將大型人工智能模型要引入到嵌入式系統(tǒng)中落地，AI手機、AI PC和汽車的大模型邊緣終的落地，并引發(fā)了廣泛的關注。可惜目前在國內(nèi)的AI大模型在邊緣終端的落地還受政策影響中。

戴偉進表示，GPT多模態(tài)的能已經(jīng)能夠處理圖像和文本的輸入，他預測在下一代的GPT-5中將加入視頻處理模塊。據(jù)最新的谷歌發(fā)布的大模型AI手機 Project Astra項目的演示中，基于Gemini大模型，視頻處理模塊的AI技術已經(jīng)實現(xiàn)。2024年2月16日 ，OpenAI發(fā)布了首個視頻生成模型Sora，支持60秒一鏡到底的視頻，包含高細致背景、多角度鏡頭以及富有情感的多個角色，所合成的視頻內(nèi)容與物理世界規(guī)律保持一致。谷歌則隨即發(fā)布對標Sora的高質(zhì)量視頻生成模型Veo。


微軟不久前的Copilot+PC的最新技術亮點則是把AI PC的產(chǎn)品新技術推到了新的高潮。三星Galaxy S24系列手機內(nèi)置即圈即搜、通話實時翻譯、筆記助手、智能修圖和智能寫作五大AI功能，國內(nèi)一些品牌也隨即宣布跟進。AI PC和AI手機成為今年行業(yè)最熱產(chǎn)品詞條。


可以說，AI PC的時代全面到來。受技術封鎖的影響，國內(nèi)的技術廠商急切需要有AI IP相關的技術廠商抱團共同跟進。

不過國內(nèi)AI技術發(fā)展的挑戰(zhàn)并不如我們想像中那么困難。戴偉進透露，芯原在AI IP早些年就已經(jīng)布局，公司的NPU IP全球出貨量超過1億顆。GPU在全球累計出貨量過去20年累計近20億顆。

芯原的5納米媒體加速器視頻，即視頻處理器AI Video在全球范圍內(nèi)處于領先地位。


且已經(jīng)在邊緣設計上運行大模型。包括在嵌入式設備、邊緣服務器和數(shù)據(jù)中心，都有產(chǎn)品開始被客戶采用。

從上圖可以看到芯原的在嵌入式設備的相關NPU和GPU的IP產(chǎn)品。

芯原的AI計算軟件與各種軟件工具等平臺的適配。

芯原在AGI領域，其NPU的性能處于全球領先的地位，LLaMA 7B能達到20 Tokens/s。

戴偉進最近也展示了Open Se Cura項目。該項目跟谷歌協(xié)作開發(fā)，可以在可穿戴低功耗的終端、AI手機以及云云計算大模型上部署。