在今天舉辦的芯原AI專題技術(shù)研討會(huì)上，芯原執(zhí)行副總裁、IP事業(yè)部總經(jīng)理戴偉進(jìn)先生帶來了《大模型推動(dòng)邊緣計(jì)算變革的機(jī)遇與挑戰(zhàn)》的主題演講。

過去這些年，AGI大模型在諸多方面實(shí)現(xiàn)了突破性進(jìn)展，包括模型自主使用工具、模型自我迭代/自我設(shè)計(jì)、模型的情感能力等?，F(xiàn)在很明顯的趨勢(shì)是，將大型人工智能模型引入嵌入式系統(tǒng)，而最明顯的邊緣設(shè)備應(yīng)用則是“手機(jī)、AI-PC、汽車”。

大語言模型最主要的能力是自然的人機(jī)交互，包括：1、多模態(tài)能力；2、更自然的對(duì)話和更真實(shí)的信息；3、通用人工智能。目前已經(jīng)有不少相關(guān)的產(chǎn)品發(fā)布，如，OPenAI發(fā)布具有突破性的Sora視頻生成模型，采用Transformer架構(gòu)是一個(gè)在不同時(shí)長、分辨率和寬高比的視頻及圖象上訓(xùn)練而成的擴(kuò)散模型。

對(duì)標(biāo)Sora的高質(zhì)量視頻生成模型，谷歌宣布推出全新的Project Astra項(xiàng)目、基于Gemini，可以本地運(yùn)行在Pixel手機(jī)或AR眼鏡上，在各個(gè)生活場(chǎng)景中與用戶實(shí)現(xiàn)低延時(shí)全方位的語音交互，是對(duì)標(biāo)OpenAI GPT-4o的最新模型。

微軟CoPilot+PC最新技術(shù)亮點(diǎn)：（1）算力升級(jí)。（2）回溯記憶。（3）實(shí)時(shí)字幕。（4）渲染交互。AGIBot在2023年8月推出具身智能機(jī)器人“遠(yuǎn)征A1”，百億參數(shù)大模型加持、目標(biāo)成本20萬元以內(nèi)。采用了語言任務(wù)模型WorkGPT，結(jié)合了LLM和VLM等AI技術(shù)，能夠?yàn)闄C(jī)器人提供自主感知環(huán)境、理解任務(wù)、編排動(dòng)作的能力，并且實(shí)現(xiàn)了思維鏈。

在本次會(huì)議上，戴偉進(jìn)先生詳細(xì)介紹了芯原的NPU技術(shù)。芯片原神經(jīng)網(wǎng)絡(luò)處理器（NPU）已在全球累積出貨超過1億顆，涵蓋：AI視覺、AI語音、AI圖象、AIoT/智慧家居、AR/VR、自動(dòng)駕駛、PC、智能手機(jī)、監(jiān)控、數(shù)據(jù)中心、可穿戴設(shè)備、智慧醫(yī)療、機(jī)器人等。

芯原圖形處理器（GPU）已在全球累積出貨近20億顆，70項(xiàng)國內(nèi)外專利、耕耘嵌入式市場(chǎng)近20年。

芯原視頻處理器（VPU）全球領(lǐng)先-AI Video，AI賦能智能視頻處理等行業(yè)。今天已經(jīng)在邊緣設(shè)備運(yùn)行大模型，包括：AIPC、醫(yī)療系統(tǒng)設(shè)備，計(jì)算機(jī)和工業(yè)應(yīng)用領(lǐng)域等等。

芯原AI-Computing處理器技術(shù)可編程、可擴(kuò)展、高性能、低功耗。芯原AI-ComputingIP產(chǎn)品，包括：數(shù)據(jù)中心、邊緣服務(wù)器等。NPU IP VIP9X00是推斷、增量訓(xùn)練，GPGPU IP CC8X00是通用計(jì)算，NPU+GPUIP GC9X00AI是AI-GPU/AI-PC，Tensor Core GPU IP CCTC-MP、大模型預(yù)演模型推理、訓(xùn)練。

芯原 AI-Computing軟件框架方面，芯原Acuity工具、庫和軟件堆棧。Project Open Se Cura-邊緣與云協(xié)同計(jì)算（大模型、輕量大模型），芯原應(yīng)用與谷歌眼鏡、使其極低功耗、常開、環(huán)境計(jì)算。大語言模型正在云端和移動(dòng)設(shè)備上，那些大語言模型的主要組件可以實(shí)現(xiàn)捕捉、信號(hào)和感知信息，可以評(píng)估和融合。