99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀(guān)看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

為何AI需要新的芯片架構(gòu)?

新思科技 ? 來(lái)源:未知 ? 2023-05-13 04:45 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

人工智能AI)時(shí)代已經(jīng)開(kāi)啟。Allied Market Research報(bào)告顯示,到2031年,全球AI芯片市場(chǎng)規(guī)模預(yù)計(jì)將達(dá)到2636億美元。AI芯片市場(chǎng)非常龐大,市場(chǎng)細(xì)分方式多樣,包括芯片種類(lèi)、處理器架構(gòu)類(lèi)型、技術(shù)、應(yīng)用、垂直行業(yè)等。不過(guò),AI芯片主要應(yīng)用于兩個(gè)領(lǐng)域,即終端應(yīng)用(例如手機(jī)智能手表中的芯片)和數(shù)據(jù)中心應(yīng)用(用于深度學(xué)習(xí)推理和訓(xùn)練)。

無(wú)論具體應(yīng)用如何,所有AI芯片都可定義為用來(lái)運(yùn)行機(jī)器學(xué)習(xí)工作負(fù)載的集成電路(IC),包括FPGAGPU或定制ASIC AI加速器等。AI芯片的工作方式與人腦非常相似,能夠在復(fù)雜且快速變化的世界中執(zhí)行和處理各種決策及任務(wù)。傳統(tǒng)芯片與AI芯片之間的真正區(qū)別在于所能處理的數(shù)據(jù)量和數(shù)據(jù)類(lèi)型,以及可以同時(shí)運(yùn)行的計(jì)算量。與此同時(shí),新的軟件AI算法突破正在推動(dòng)新的AI芯片架構(gòu),助力實(shí)現(xiàn)高效的深度學(xué)習(xí)計(jì)算。

本文將進(jìn)一步討論AI芯片的獨(dú)特需求、AI芯片架構(gòu)的諸多優(yōu)勢(shì),以及AI芯片架構(gòu)的應(yīng)用和未來(lái)發(fā)展。

AI芯片的獨(dú)特需求

AI工作負(fù)載非常繁重且要求嚴(yán)苛,所需的算力遠(yuǎn)超傳統(tǒng)工作負(fù)載,因此,在2010年之前,AI芯片的設(shè)計(jì)還無(wú)法做到經(jīng)濟(jì)且高效。由于A(yíng)I需要并行處理大量乘積累加函數(shù),比如點(diǎn)積函數(shù),而傳統(tǒng)的GPU恰好能夠以類(lèi)似的方式并行處理圖形,因此開(kāi)發(fā)者在A(yíng)I應(yīng)用中為GPU找到了新的用途。

過(guò)去十年,我們看到了明顯的優(yōu)化。AI要求芯片架構(gòu)具有合適的處理器、存儲(chǔ)器陣列、高安全性,以及傳感器之間可靠的實(shí)時(shí)數(shù)據(jù)連接。因此,理想的AI芯片架構(gòu)應(yīng)能夠?qū)⒑芏嘤?jì)算元件和存儲(chǔ)器融合到一個(gè)芯片中。如今,隨著單芯片的能力逐漸接近極限,AI芯片設(shè)計(jì)正在轉(zhuǎn)向采用多芯片系統(tǒng)。

在設(shè)計(jì)中,為了讓激活值達(dá)到最大,芯片開(kāi)發(fā)者需要考慮“權(quán)重”和“激活”的參數(shù)。展望未來(lái),要優(yōu)化AI芯片架構(gòu)以提高效率,兼顧AI的軟硬件設(shè)計(jì)極其重要。

AI芯片架構(gòu)的優(yōu)勢(shì)

毫無(wú)疑問(wèn),我們正處于A(yíng)I復(fù)興時(shí)期?,F(xiàn)在,我們正在攻克AI芯片設(shè)計(jì)中的種種障礙,AI芯片設(shè)計(jì)領(lǐng)域也涌現(xiàn)出了很多創(chuàng)新型企業(yè),這些企業(yè)致力于設(shè)計(jì)更出色的AI芯片,讓芯片具備前所未有的強(qiáng)大功能。

隨著追求更先進(jìn)的工藝節(jié)點(diǎn),AI芯片設(shè)計(jì)中的時(shí)鐘速度可以降低15%-20%,密度可以增加15%-30%,這讓開(kāi)發(fā)者能夠在一個(gè)芯片上集成更多的計(jì)算元件。此外,存儲(chǔ)元件也會(huì)有所增加,AI技術(shù)可以在幾分鐘而不是幾小時(shí)內(nèi)完成訓(xùn)練,從而節(jié)省大量的時(shí)間和精力。如果企業(yè)從在線(xiàn)數(shù)據(jù)中心租借空間來(lái)設(shè)計(jì)AI芯片,這種節(jié)省尤為顯著,但即使企業(yè)使用內(nèi)部資源,也可以通過(guò)更有效的反復(fù)試驗(yàn)和試錯(cuò)而獲益。

現(xiàn)在,AI本身也被用來(lái)設(shè)計(jì)新的AI芯片架構(gòu)和計(jì)算新的優(yōu)化路徑,根據(jù)來(lái)自眾多不同行業(yè)和應(yīng)用的大數(shù)據(jù)對(duì)功耗、性能和面積(PPA)進(jìn)行優(yōu)化。

AI芯片架構(gòu)應(yīng)用和未來(lái)發(fā)展

在我們身邊,AI幾乎無(wú)處不在。小到物聯(lián)網(wǎng)芯片,大到服務(wù)器、數(shù)據(jù)中心和圖形加速器,AI處理器現(xiàn)已集成到幾乎所有芯片中。當(dāng)然,需要更高性能的行業(yè)會(huì)更多地利用AI芯片架構(gòu),但隨著AI芯片的生產(chǎn)成本越來(lái)越低,AI芯片架構(gòu)將會(huì)被運(yùn)用到物聯(lián)網(wǎng)等領(lǐng)域,用于優(yōu)化功耗和實(shí)現(xiàn)其他未知的優(yōu)化。

對(duì)于A(yíng)I芯片架構(gòu)來(lái)說(shuō),這是一個(gè)激動(dòng)人心的時(shí)刻。新思科技預(yù)計(jì),由于性能需求,AI芯片設(shè)計(jì)會(huì)繼續(xù)積極采用下一代工藝節(jié)點(diǎn)。此外,開(kāi)發(fā)者已經(jīng)圍繞不同類(lèi)型的存儲(chǔ)器、不同類(lèi)型的處理器技術(shù)以及與這些相關(guān)的軟件組件,進(jìn)行了很多探索。

在存儲(chǔ)器方面,芯片開(kāi)發(fā)者開(kāi)始將存儲(chǔ)器放在硬件中的實(shí)際計(jì)算元件旁邊甚至是集成到計(jì)算元件中,以加快處理速度。此外,軟件正在推動(dòng)硬件發(fā)展,也就是說(shuō),新的神經(jīng)網(wǎng)絡(luò)等軟件AI模型需要新的AI芯片架構(gòu)。經(jīng)驗(yàn)證的實(shí)時(shí)接口以高速、低延遲的方式提供所需的數(shù)據(jù)連接,同時(shí)安全策略需要確保整個(gè)系統(tǒng)及其數(shù)據(jù)的安全。

最后,在新的AI芯片架構(gòu)中,光電子技術(shù)和Multi-Die系統(tǒng)發(fā)揮著愈加重要的作用,有助于克服一些AI芯片瓶頸。光電子技術(shù)提供了一種更加節(jié)能的計(jì)算方式,與此同時(shí),隨著不同處理元件之間以及處理單元與存儲(chǔ)器單元之間的連接速度不斷提高,Multi-Die系統(tǒng)(涉及到裸片的異構(gòu)集成,通常存儲(chǔ)器直接堆疊在計(jì)算板上)也有助于提高芯片性能。

AI芯片架構(gòu)創(chuàng)新將繼續(xù)涌現(xiàn)。新思科技也將走在行業(yè)前沿,積極幫助千行百業(yè)設(shè)計(jì)下一代AI芯片。


聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀(guān)點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 新思科技
    +關(guān)注

    關(guān)注

    5

    文章

    870

    瀏覽量

    51558

原文標(biāo)題:為何AI需要新的芯片架構(gòu)?

文章出處:【微信號(hào):Synopsys_CN,微信公眾號(hào):新思科技】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    AI芯片:加速人工智能計(jì)算的專(zhuān)用硬件引擎

    處理等應(yīng)用落地的關(guān)鍵硬件基礎(chǔ)。 ? AI芯片的核心技術(shù)特點(diǎn) ? ? AI芯片的設(shè)計(jì)重點(diǎn)在于提升計(jì)算效率,主要技術(shù)特點(diǎn)包括: ? 1. ? 并行計(jì)算
    的頭像 發(fā)表于 07-09 15:59 ?161次閱讀

    行業(yè)觀(guān)察——邊緣AI芯片架構(gòu)的思考:為何可擴(kuò)展GPU架構(gòu)值得關(guān)注

    在算法不斷演化的時(shí)代,架構(gòu)的“適配力”遠(yuǎn)比一時(shí)的TOPS值更重要。
    的頭像 發(fā)表于 04-18 09:33 ?252次閱讀
    行業(yè)觀(guān)察——邊緣<b class='flag-5'>AI</b><b class='flag-5'>芯片</b><b class='flag-5'>架構(gòu)</b>的思考:<b class='flag-5'>為何</b>可擴(kuò)展GPU<b class='flag-5'>架構(gòu)</b>值得關(guān)注

    端側(cè) AI 芯片:終端智能落地的核心引擎

    AI 計(jì)算,構(gòu)成了端側(cè) AI 落地的核心硬件基礎(chǔ)。 ? 為何需要端側(cè) AI 芯片?隨著 AI
    的頭像 發(fā)表于 04-14 02:11 ?2506次閱讀

    首創(chuàng)開(kāi)源架構(gòu),天璣AI開(kāi)發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手

    科正將AI能力體系化并賦能終端生態(tài)。 大會(huì)上,聯(lián)發(fā)科定義了“智能體化用戶(hù)體驗(yàn)”的五大特征:主動(dòng)及時(shí)、知你懂你、互動(dòng)協(xié)作、學(xué)習(xí)進(jìn)化和專(zhuān)屬隱私信息守護(hù)。這五大特征需要跨越從芯片、模型、應(yīng)用、終端乃至整個(gè)
    發(fā)表于 04-13 19:52

    2.5D封裝為何成為AI芯片的“寵兒”?

    2.5D封裝領(lǐng)域,英特爾的EMIB和臺(tái)積電的CoWoS是兩大明星技術(shù)。眾所周知,臺(tái)積電的CoWoS產(chǎn)能緊缺嚴(yán)重制約了AI芯片的發(fā)展,這正是英特爾EMIB技術(shù)可以彌補(bǔ)的地方。本文我們將以英特爾EMIB為例,深入解析2.5D封裝之所以能成為
    的頭像 發(fā)表于 03-27 18:12 ?312次閱讀
    2.5D封裝<b class='flag-5'>為何</b>成為<b class='flag-5'>AI</b><b class='flag-5'>芯片</b>的“寵兒”?

    AI Agent 應(yīng)用與項(xiàng)目實(shí)戰(zhàn)》閱讀心得3——RAG架構(gòu)與部署本地知識(shí)庫(kù)

    技術(shù)不僅解決了LLM的知識(shí)更新問(wèn)題,更為構(gòu)建專(zhuān)業(yè)領(lǐng)域的智能問(wèn)答系統(tǒng)提供了完整的技術(shù)方案。通過(guò)與向量數(shù)據(jù)庫(kù)的深度集成,RAG實(shí)現(xiàn)了知識(shí)的動(dòng)態(tài)擴(kuò)展和精準(zhǔn)檢索,這種架構(gòu)設(shè)計(jì)為AI系統(tǒng)的持續(xù)進(jìn)化提供了可能。在
    發(fā)表于 03-07 19:49

    FPGA+AI王炸組合如何重塑未來(lái)世界:看看DeepSeek東方神秘力量如何預(yù)測(cè)......

    的三重革命1) 硬件架構(gòu)革命:英特爾IPU路線(xiàn)圖顯示,到2026年將推出FPGA+Xeon的異構(gòu)加速卡;AMD計(jì)劃2023年集成Xilinx AI Engine的CPU芯片...... 2) 系統(tǒng)集成革命
    發(fā)表于 03-03 11:21

    進(jìn)迭時(shí)空 K1 系列 8 核 64 位 RISC - V AI CPU 芯片介紹

    在不同 AI 平臺(tái)上應(yīng)用。(四)領(lǐng)先的算力能效架構(gòu)設(shè)計(jì) :RISC - V 架構(gòu)的精簡(jiǎn)和卓越的微架構(gòu)設(shè)計(jì)。同負(fù)載場(chǎng)景功耗只有 ARM 芯片
    發(fā)表于 01-06 17:37

    《算力芯片 高性能 CPUGPUNPU 微架構(gòu)分析》第3篇閱讀心得:GPU革命:從圖形引擎到AI加速器的蛻變

    在數(shù)據(jù)挖掘工作中,我經(jīng)常需要處理海量數(shù)據(jù)的深度學(xué)習(xí)任務(wù),這讓我對(duì)GPU架構(gòu)和張量運(yùn)算充滿(mǎn)好奇。閱讀《算力芯片》第7-9章,讓我對(duì)這些關(guān)鍵技術(shù)有了全新認(rèn)識(shí)。 GPU架構(gòu)從早期的固定功能流
    發(fā)表于 11-24 17:12

    存算一體架構(gòu)創(chuàng)新助力國(guó)產(chǎn)大算力AI芯片騰飛

    在灣芯展SEMiBAY2024《AI芯片與高性能計(jì)算(HPC)應(yīng)用論壇》上,億鑄科技高級(jí)副總裁徐芳發(fā)表了題為《存算一體架構(gòu)創(chuàng)新助力國(guó)產(chǎn)大算力AI芯片
    的頭像 發(fā)表于 10-23 14:48 ?885次閱讀

    Arm如何賦能無(wú)處不在的AI

    作為人工智能 (AI) 的創(chuàng)新基礎(chǔ),眾多企業(yè)都在使用通用且應(yīng)用廣泛的 Arm 計(jì)算平臺(tái)。迄今為止,合作伙伴基于 Arm 架構(gòu)芯片出貨量已逾 2,800 億顆。如今,Arm 已為各類(lèi)技術(shù)領(lǐng)域的
    的頭像 發(fā)表于 09-14 09:38 ?910次閱讀

    名單公布!【書(shū)籍評(píng)測(cè)活動(dòng)NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析

    社會(huì)資源和資本力量關(guān)注算力芯片的發(fā)展,希望我們的國(guó)家能夠更獨(dú)立自主地設(shè)計(jì)制造高性能算力芯片。 內(nèi)容簡(jiǎn)介: 本書(shū)介紹了超級(jí)計(jì)算機(jī)算力和AI算力的異同,從CPU流水線(xiàn)開(kāi)始,描述主要的眾核處理器架構(gòu)
    發(fā)表于 09-02 10:09

    AI芯片的混合精度計(jì)算與靈活可擴(kuò)展

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)當(dāng)前,AI技術(shù)和應(yīng)用蓬勃發(fā)展,其中離不開(kāi)AI芯片的支持。AI芯片是一個(gè)復(fù)雜而多樣的領(lǐng)域,根據(jù)其設(shè)計(jì)目標(biāo)和應(yīng)用場(chǎng)
    的頭像 發(fā)表于 08-23 00:08 ?5939次閱讀

    主流芯片架構(gòu)包括哪些類(lèi)型

    主流芯片架構(gòu)芯片設(shè)計(jì)領(lǐng)域中的核心組成部分,它們決定了芯片的功能、性能、功耗等多個(gè)方面。當(dāng)前,全球范圍內(nèi)主流的芯片
    的頭像 發(fā)表于 08-22 11:08 ?2788次閱讀

    自動(dòng)駕駛?cè)笾髁?b class='flag-5'>芯片架構(gòu)分析

    當(dāng)前主流的AI芯片主要分為三類(lèi),GPU、FPGA、ASIC。GPU、FPGA均是前期較為成熟的芯片架構(gòu),屬于通用型芯片。ASIC屬于為
    的頭像 發(fā)表于 08-19 17:11 ?2412次閱讀
    自動(dòng)駕駛?cè)笾髁?b class='flag-5'>芯片</b><b class='flag-5'>架構(gòu)</b>分析