99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

把Transformer大模型部署在端側(cè),IPC SoC正在普惠AI

21克888 ? 來(lái)源:電子發(fā)燒友網(wǎng) ? 作者:黃晶晶 ? 2023-12-08 13:50 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)AI大模型襲卷而來(lái),而如何讓終端產(chǎn)品插上AI的翅膀會(huì)是芯片廠商研發(fā)的方向和市場(chǎng)的機(jī)會(huì)。如今網(wǎng)絡(luò)攝像機(jī)作為智慧城市、智能家居等應(yīng)用的主流終端發(fā)展迅速,IPC SoC芯片是其核心之一。最近愛(ài)芯元智帶來(lái)的兩款I(lǐng)PC SoC新品在黑光全彩處理、適配Transformer大模型等方面表現(xiàn)十分亮眼,愛(ài)芯元智副總裁史欣也向媒體分享了公司對(duì)IPC SoC高清化、智能化發(fā)展的洞察。

兩款I(lǐng)PC SoC:AX630C和AX620Q




愛(ài)芯元智帶來(lái)的兩款新產(chǎn)品AX630C和AX620Q都搭載了最新的愛(ài)芯智眸AI-ISP4.0圖像處理引擎以及愛(ài)芯通元4.0高性能、低功耗的NPU引擎。這些技術(shù)的升級(jí)使得這兩款產(chǎn)品在視頻圖像效果、智能業(yè)務(wù)處理和分析等方面均達(dá)到了業(yè)界的領(lǐng)先水平。

愛(ài)芯智眸AI-ISP4.0對(duì)HDR、去噪、demosaic、銳化、去霧等算法做了升級(jí),在暗光下的噪聲處理、色彩還原、運(yùn)動(dòng)拖影、清晰度等方面較上一代產(chǎn)品更優(yōu)秀,通過(guò)AI賦能ISP Pipeline里的關(guān)鍵模塊,在各種復(fù)雜應(yīng)用場(chǎng)景中全面提升成像效果,為后期智能處理提供高質(zhì)量的圖像、視頻素材。

愛(ài)芯通元混合精度NPU則通過(guò)減少數(shù)據(jù)搬運(yùn),在一定程度上減小了內(nèi)存墻和功耗墻的阻礙,提高整個(gè)NPU的效率,從而在端側(cè)邊緣側(cè)面積、功耗受限的情況下,以更高的有效算力支持更多的智能算法。

愛(ài)芯元智的“真黑光”技術(shù),則是通過(guò)愛(ài)芯智眸AI-ISP將畫(huà)面真實(shí)還原,后續(xù)再通過(guò)NPU進(jìn)行優(yōu)化,進(jìn)行更加準(zhǔn)確的圖像處理,在極低照度下獲得超越人眼所見(jiàn)的黑光全彩效果。

AX630C具有高算力的特征,其CPU采用雙核A53@1.2G,配合3.2T@INT8的NPU以及硬化的CV算子模塊,可以對(duì)4K圖像進(jìn)行實(shí)時(shí)的智能處理,提高客戶智能算法處理的精度和性能。同時(shí),AX630C新一代的NPU引擎支持主流的Transformer網(wǎng)絡(luò)如ViT/DeiT/Swin/SwinV2/DETR等,可以解決訓(xùn)練數(shù)據(jù)集不足引起的算法精度下降,以及長(zhǎng)尾場(chǎng)景下算法的泛化性問(wèn)題。

據(jù)介紹,AX630C是愛(ài)芯元智面向智慧城市行業(yè)前端IPC市場(chǎng)推出的超高清智能SoC,可支持4K@30fps實(shí)時(shí)真黑光;AX620Q是愛(ài)芯元智面向模組與渠道行業(yè)前端IPC市場(chǎng)推出的高清智能SoC,可支持5Mp實(shí)時(shí)、4K非實(shí)時(shí)的真黑光。

從細(xì)節(jié)上看,為了實(shí)現(xiàn)黑光全彩的效果,愛(ài)芯智眸AI-ISP4.0集中對(duì)四個(gè)關(guān)鍵模塊進(jìn)行了算法升級(jí)。史欣分析,傳統(tǒng)ISP由十幾個(gè)模塊組成,在算力足夠大的時(shí)候若不考慮成本可以用AI模型去增加每一個(gè)模塊。而愛(ài)芯元智結(jié)合了客戶的痛點(diǎn)需求和成本因素,對(duì)pipeline模塊中HDR、3DNR、RLTM、Demosaic等進(jìn)行了增強(qiáng),達(dá)到了色彩飽和度高、運(yùn)動(dòng)圖像無(wú)拖尾,以及噪聲、銳化、清晰度等效果的顯著提高。后續(xù),愛(ài)芯元智還將針對(duì)防抖、3A等模塊進(jìn)行優(yōu)化。

這其中的另一個(gè)問(wèn)題是AI的算力消耗,本質(zhì)上來(lái)說(shuō)盡可能將模塊的精確度提高就能更少的消費(fèi)算力。史欣舉例說(shuō),例如做人臉處理是對(duì)整個(gè)區(qū)域或者部分區(qū)域做降噪,消費(fèi)的算力不一樣。原來(lái)在400萬(wàn)分辨率的情況下需要1T做整個(gè)AI-ISP的處理,現(xiàn)在愛(ài)芯元智的第三、四代產(chǎn)品已經(jīng)降到了0.6甚至0.5T,接下來(lái)可以做到0.2T就可以完成3DNR降噪的算力消耗,既能降低芯片成本,又可以留出更多的算力讓客戶開(kāi)發(fā)更多可能。

Transformer在智慧城市中的應(yīng)用


“Transformer應(yīng)用的一個(gè)典型場(chǎng)景是對(duì)信息特征的檢索,從最早期的后端處理、服務(wù)器處理,算法上云,到目前開(kāi)始進(jìn)入算法在邊緣側(cè)的部署等等,但始終沒(méi)有解決端側(cè)部署的問(wèn)題。大的廠商能夠根據(jù)行業(yè)應(yīng)用來(lái)適配模型大小,而Transformer興起之后將帶來(lái)更多具象化的信息,使得檢索更容易、并縮減檢索的時(shí)間?!笔沸勒f(shuō)道。

愛(ài)芯元智能夠幫助客戶把在服務(wù)器、云端訓(xùn)練好的算法在裁剪之后在端側(cè)部署。這里既有部署性包括帶寬、功耗、成本等的考慮,也有精度的要求。愛(ài)芯元智通過(guò)幾年來(lái)在NPU和算法工具鏈的迭代,IPC SoC能夠支持算法的快速部署、保證精度,具備端側(cè)部署的軟硬件條件。



不僅是Transformer大模型,愛(ài)芯元智還在適配國(guó)內(nèi)的DINOv2大模型,愛(ài)芯元智依托硬件NPU、軟件算法等技術(shù)并與合作伙伴共同推出算法部署國(guó)產(chǎn)化。

普惠AI


我們看到愛(ài)芯元智有一個(gè)非常明確的發(fā)展理念,即是普惠AI。AI不應(yīng)只在云端,更應(yīng)該讓消費(fèi)、智慧城市、汽車(chē)等各個(gè)行業(yè)受惠。史欣談到,客戶希望能夠從To G或者To大B的業(yè)務(wù)部署向To小B,甚至To C的業(yè)務(wù)上進(jìn)行部署。即便是家用攝像頭這個(gè)普及型消費(fèi)電子產(chǎn)品,也需要AI-ISP加持,那么更需要像愛(ài)芯元智這樣具備軟硬件能力的廠商通過(guò)產(chǎn)品技術(shù)、性價(jià)比等去擁抱市場(chǎng)。

對(duì)于AI芯片的發(fā)展趨勢(shì),史總給出預(yù)判,他認(rèn)為端側(cè)AI的小型化將越來(lái)越多的落地,同時(shí)其性能要有前瞻性和較高的性價(jià)比。同時(shí)產(chǎn)品的易用性加強(qiáng),芯片廠商的方案交付要更簡(jiǎn)單。同時(shí)除了自身掌握關(guān)鍵技術(shù)之外,也需要生態(tài)合作伙伴做更豐富的算法和軟件,如此才能加快AI的普惠化,助力智能化產(chǎn)業(yè)升級(jí)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35080

    瀏覽量

    279417
  • 智能城市
    +關(guān)注

    關(guān)注

    1

    文章

    174

    瀏覽量

    21140
  • 愛(ài)芯元智
    +關(guān)注

    關(guān)注

    1

    文章

    101

    瀏覽量

    5132
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    四大廠商業(yè)績(jī)大漲背后,積極探索側(cè)AI SoC芯片創(chuàng)新迭代

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)近年來(lái),模型技術(shù)的帶動(dòng)下,AI應(yīng)用正在迅速往側(cè)遷移,產(chǎn)品形態(tài)
    的頭像 發(fā)表于 08-27 01:28 ?6598次閱讀
    四大廠商業(yè)績(jī)大漲背后,積極探索<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b> <b class='flag-5'>SoC</b>芯片創(chuàng)新迭代

    LLaVA、RWKV、Qwen3... 移遠(yuǎn)端側(cè)AI模型解決方案實(shí)現(xiàn)多維度躍遷

    當(dāng)AI以破竹之勢(shì)席卷千行百業(yè),大模型技術(shù)正以驚人的速度迭代演進(jìn),重塑著智能世界的底層邏輯。作為全球AIoT行業(yè)的引領(lǐng)者,移遠(yuǎn)通信通過(guò)持續(xù)迭代和探索,
    的頭像 發(fā)表于 06-23 19:07 ?360次閱讀
    LLaVA、RWKV、Qwen3... 移遠(yuǎn)端<b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>解決方案實(shí)現(xiàn)多維度躍遷

    誠(chéng)邁科技、智達(dá)誠(chéng)遠(yuǎn)隆重推出ArraymoAIOS 2.0 側(cè)AI操作系統(tǒng),開(kāi)啟智能體協(xié)作新時(shí)代

    隨著生成式AI技術(shù)的日益成熟,目前大模型正在從云側(cè)向云協(xié)同遷移。2025年,AI進(jìn)一步加速向終端側(cè)
    的頭像 發(fā)表于 04-22 17:31 ?610次閱讀
    誠(chéng)邁科技、智達(dá)誠(chéng)遠(yuǎn)隆重推出ArraymoAIOS 2.0 <b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>操作系統(tǒng),開(kāi)啟智能體協(xié)作新時(shí)代

    首創(chuàng)開(kāi)源架構(gòu),天璣AI開(kāi)發(fā)套件讓側(cè)AI模型接入得心應(yīng)手

    ,聯(lián)發(fā)科帶來(lái)了全面升級(jí)的天璣AI開(kāi)發(fā)套件2.0,模型庫(kù)規(guī)模、架構(gòu)開(kāi)放程度、前沿側(cè)AI技術(shù)支持
    發(fā)表于 04-13 19:52

    AI模型側(cè)部署正當(dāng)時(shí):移遠(yuǎn)端側(cè)AI模型解決方案,激活場(chǎng)景智能新范式

    AI技術(shù)飛速發(fā)展的當(dāng)下,AI模型的應(yīng)用正從云端向側(cè)加速滲透。 作為全球領(lǐng)先的物聯(lián)網(wǎng)整體解決
    發(fā)表于 03-27 11:26 ?233次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>端</b>側(cè)<b class='flag-5'>部署</b>正當(dāng)時(shí):移遠(yuǎn)端<b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>解決方案,激活場(chǎng)景智能新范式

    AI模型側(cè)部署正當(dāng)時(shí):移遠(yuǎn)端側(cè)AI模型解決方案,激活場(chǎng)景智能新范式

    AI技術(shù)飛速發(fā)展的當(dāng)下,AI模型的應(yīng)用正從云端向側(cè)加速滲透。作為全球領(lǐng)先的物聯(lián)網(wǎng)整體解決方
    的頭像 發(fā)表于 03-26 19:05 ?467次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b><b class='flag-5'>端</b>側(cè)<b class='flag-5'>部署</b>正當(dāng)時(shí):移遠(yuǎn)端<b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>解決方案,激活場(chǎng)景智能新范式

    移遠(yuǎn)通信邊緣計(jì)算模組成功運(yùn)行DeepSeek模型,以領(lǐng)先的工程能力加速側(cè)AI落地

    。 ? 目前,該模型正在多款智能終端上進(jìn)行深入測(cè)試與優(yōu)化。移遠(yuǎn)通信將憑借其卓越的工程化能力,加速側(cè)AI技術(shù)
    發(fā)表于 02-13 11:32 ?260次閱讀
    移遠(yuǎn)通信邊緣計(jì)算模組成功運(yùn)行DeepSeek<b class='flag-5'>模型</b>,以領(lǐng)先的工程能力加速<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>落地

    側(cè)AI元年爆發(fā)!廣和通AI模組及解決方案全面支持DeepSeek-R1蒸餾模型

    近期,國(guó)產(chǎn)大模型DeepSeek憑借開(kāi)放性、更低訓(xùn)練成本、側(cè)部署等優(yōu)勢(shì),迅速成為增速最快的AI應(yīng)用之一,推動(dòng)AI
    的頭像 發(fā)表于 02-11 18:08 ?519次閱讀
    <b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>元年爆發(fā)!廣和通<b class='flag-5'>AI</b>模組及解決方案全面支持DeepSeek-R1蒸餾<b class='flag-5'>模型</b>

    DeepSeek大模型攜手廣和通,加速AI化進(jìn)程

    近期,國(guó)產(chǎn)大模型DeepSeek憑借其開(kāi)放性、低訓(xùn)練成本以及側(cè)部署的顯著優(yōu)勢(shì),迅速嶄露頭角,成為增速最為迅猛的AI應(yīng)用之一。這一突破性進(jìn)展,為AI
    的頭像 發(fā)表于 02-11 14:47 ?1027次閱讀

    廣和通Fibocom AI Stack:加速側(cè)AI部署新紀(jì)元

    、海量模型以及全方位的支持與服務(wù)于一體,為智能設(shè)備提供了AI解決方案。為適應(yīng)多樣化的側(cè)
    的頭像 發(fā)表于 01-13 11:32 ?1096次閱讀

    廣和通發(fā)布Fibocom AI Stack,助力客戶快速實(shí)現(xiàn)跨平臺(tái)跨系統(tǒng)的側(cè)AI部署

    AI工具鏈、高性能推理引擎、海量模型、支持與服務(wù)一體化的側(cè)AI解決方案,幫助智能設(shè)備快速實(shí)現(xiàn)AI
    發(fā)表于 01-08 11:38 ?268次閱讀
    廣和通發(fā)布Fibocom <b class='flag-5'>AI</b> Stack,助力客戶快速實(shí)現(xiàn)跨平臺(tái)跨系統(tǒng)的<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b><b class='flag-5'>部署</b>

    廣和通開(kāi)啟側(cè)AI新時(shí)代

    AI發(fā)展正酣,隨著終端芯片算力越來(lái)越高、側(cè)模型能力越來(lái)越強(qiáng)、實(shí)時(shí)響應(yīng)及隱私保護(hù)的側(cè)應(yīng)用需求增
    的頭像 發(fā)表于 12-12 10:35 ?805次閱讀

    智譜推出四個(gè)全新側(cè)模型 攜英特爾按下AI普及加速鍵

    隨著AI的發(fā)展,側(cè)AI模型越來(lái)越受到廣大客戶及廠商的關(guān)注,業(yè)界領(lǐng)先的大模型公司智譜于近日推出了
    的頭像 發(fā)表于 12-02 17:13 ?590次閱讀
    智譜推出四個(gè)全新<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>模型</b> 攜英特爾按下<b class='flag-5'>AI</b>普及加速鍵

    把握關(guān)鍵節(jié)點(diǎn),美格智能持續(xù)推動(dòng)側(cè)AI規(guī)模化拓展

    當(dāng)前,AI模型走向側(cè)已經(jīng)是大勢(shì)所趨,側(cè)AI的發(fā)
    的頭像 發(fā)表于 11-26 01:00 ?546次閱讀
    把握關(guān)鍵節(jié)點(diǎn),美格智能持續(xù)推動(dòng)<b class='flag-5'>端</b><b class='flag-5'>側(cè)</b><b class='flag-5'>AI</b>規(guī)模化拓展

    Yuan2.0千億大模型通用服務(wù)器NF8260G7上的推理部署

    巨量模型的智能生產(chǎn)力正在逐步滲透到各行各業(yè),但它們的部署和運(yùn)行通常需要專(zhuān)用的AI加速卡,能否CPU上運(yùn)行千億大
    的頭像 發(fā)表于 07-30 14:26 ?1190次閱讀
    Yuan2.0千億大<b class='flag-5'>模型</b><b class='flag-5'>在</b>通用服務(wù)器NF8260G7上的推理<b class='flag-5'>部署</b>