99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

為AI端點(diǎn)應(yīng)用選擇合適的閃存

星星科技指導(dǎo)員 ? 來(lái)源:嵌入式計(jì)算設(shè)計(jì) ? 作者:Craig Huang ? 2022-10-25 09:33 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

人工智能的起源

從1955年到1956年,達(dá)特茅斯學(xué)院的助理教授約翰·麥卡錫(John McCarthy)被廣泛認(rèn)為是人工智能(AI)之父。來(lái)自哈佛大學(xué)的馬文·明斯基(Marvin Minsky)、IBM的克勞德·香農(nóng)(Claude Shannon)和美國(guó)貝爾實(shí)驗(yàn)室的納撒尼爾·羅切斯特(Nathaniel Rochester)共同創(chuàng)造了人工智能(AI)的概念,稱(chēng)“如果機(jī)器可以使用不同的語(yǔ)言來(lái)形成抽象或概念,解決現(xiàn)在為人類(lèi)保留的各種問(wèn)題,并通過(guò)自主學(xué)習(xí)來(lái)改善自己,我們稱(chēng)之為AI。

牛津詞典將人工智能定義為“能夠執(zhí)行通常需要人類(lèi)智能的任務(wù)的計(jì)算機(jī)系統(tǒng)的理論和發(fā)展,例如視覺(jué)感知,語(yǔ)音識(shí)別,決策和語(yǔ)言之間的翻譯。

隨著系統(tǒng)的發(fā)展,人工智能技術(shù)將出現(xiàn)在更多的物聯(lián)網(wǎng)應(yīng)用中,如傳感、智能手機(jī)、網(wǎng)絡(luò)搜索、人臉或車(chē)輛車(chē)牌識(shí)別、智能電表、工業(yè)控制自動(dòng)駕駛。

在自動(dòng)駕駛領(lǐng)域,4級(jí)測(cè)試(被認(rèn)為是全自動(dòng)駕駛,盡管人類(lèi)駕駛員仍然可以請(qǐng)求控制)已經(jīng)在美國(guó)進(jìn)行。隨著5級(jí)(真正的自動(dòng)駕駛,汽車(chē)完成所有駕駛,沒(méi)有駕駛艙)自動(dòng)駕駛即將到來(lái),我們不僅將依靠交通法律法規(guī),還將依靠AI算法的開(kāi)發(fā)人員來(lái)確保車(chē)輛和行人的安全。

根據(jù)國(guó)際數(shù)據(jù)公司(IDC)的統(tǒng)計(jì)數(shù)據(jù),到2024年,全球人工智能服務(wù)預(yù)計(jì)將上升至18.4%,市值約為378億美元。這包括定制應(yīng)用程序以及針對(duì)定制平臺(tái)的相關(guān)支持和服務(wù),例如深度學(xué)習(xí)架構(gòu)、卷積神經(jīng)網(wǎng)絡(luò)(一類(lèi)人工神經(jīng)網(wǎng)絡(luò),最常用于分析視覺(jué)圖像)和人工智能相關(guān)芯片(CPU、GPU、FPGA、TPU、ASIC)等。

IDC還預(yù)測(cè),全球數(shù)據(jù)存儲(chǔ)將從2018年的33ZB飆升至2025年的175ZB,其中50%以上將來(lái)自物聯(lián)網(wǎng)設(shè)備。

考慮到到2025年,全球?qū)⒉渴鸺s140億臺(tái)物聯(lián)網(wǎng)設(shè)備,因此我們大幅增加云中的計(jì)算單元數(shù)量和計(jì)算能力以應(yīng)對(duì)海量數(shù)據(jù)增長(zhǎng),這難道不是最重要的嗎?

好吧,簡(jiǎn)短的答案是否定的。它沒(méi)有考慮從端點(diǎn)到云的數(shù)據(jù)傳輸鏈中的帶寬和延遲等真正挑戰(zhàn),這就是為什么“邊緣計(jì)算”如此迅速地出現(xiàn)的原因。

沒(méi)有必要增加帶寬和服務(wù)器數(shù)量來(lái)應(yīng)對(duì)物聯(lián)網(wǎng)設(shè)備的快速增長(zhǎng)。最好將應(yīng)用程序移動(dòng)到端點(diǎn)設(shè)備,這樣就無(wú)需將所有數(shù)據(jù)發(fā)送到云進(jìn)行處理、傳輸、存儲(chǔ)和分析。例如,在工業(yè)自動(dòng)化應(yīng)用中,數(shù)據(jù)存儲(chǔ)距離會(huì)影響效率 - 5G移動(dòng)設(shè)備制造商如果不加強(qiáng)端點(diǎn)人工智能并改革計(jì)算存儲(chǔ)架構(gòu),可能會(huì)遇到嚴(yán)重的電池壽命困難。

安全性是另一個(gè)重要問(wèn)題,尤其是在萬(wàn)物互聯(lián)(IoE)時(shí)代,機(jī)密信息,數(shù)據(jù)泄漏或黑客攻擊事件很常見(jiàn)。在邊緣進(jìn)行計(jì)算可以最大限度地減少數(shù)據(jù)在“云 -管道-端點(diǎn)”路徑中傳輸?shù)拇螖?shù),在這種情況下,功耗和總系統(tǒng)擁有成本降低,同時(shí)確保數(shù)據(jù)和網(wǎng)絡(luò)安全。

比較人工智能芯片

AI技術(shù)分為兩類(lèi);訓(xùn)練和推理。訓(xùn)練由 CPU、GPU 和 TPU 在云中執(zhí)行,以不斷增加用于構(gòu)建數(shù)據(jù)模型的數(shù)據(jù)庫(kù)資源。推理依賴(lài)于訓(xùn)練的數(shù)據(jù)模型,更適合于完成邊緣設(shè)備和特定應(yīng)用。它通常由專(zhuān)用集成電路和FPGA芯片處理。

人工智能相關(guān)芯片包括中央處理器、顯卡、現(xiàn)場(chǎng)可編程門(mén)陣列、熱塑性聚氨酯和集成電路。為了了解這些芯片之間的比較情況,以下是5個(gè)關(guān)鍵因素的比較重點(diǎn)。這些是:

計(jì)算機(jī)科學(xué)

靈活性

兼容性

權(quán)力

成本。

-中央處理器

CPU具有強(qiáng)大的計(jì)算能力和首屈一指的軟件和硬件兼容性。但由于馮·諾依曼架構(gòu)的限制,數(shù)據(jù)需要在內(nèi)存和處理器之間來(lái)回傳輸。這限制了平均處理速度,并且與其他解決方案相比,在功耗和成本方面推動(dòng)了自身發(fā)展的能力。

- 顯卡

例如,由于采用了計(jì)算統(tǒng)一設(shè)備架構(gòu),Nvidia的GPU可以主觀地讀取內(nèi)存位置,并通過(guò)共享虛擬內(nèi)存來(lái)提高計(jì)算能力。平均計(jì)算能力超過(guò)CPU數(shù)百甚至數(shù)千倍。

GPU已經(jīng)開(kāi)發(fā)具有良好的軟硬件兼容性,但在功耗和成本效益方面需要改進(jìn)。對(duì)硬件的投資,如額外的冷卻系統(tǒng),對(duì)于減少任何熱量問(wèn)題也是必不可少的。

- 亞瑟士

ASIC芯片專(zhuān)為特定應(yīng)用而設(shè)計(jì)。它們的計(jì)算能力、整體功耗和成本效益都可以在驗(yàn)證和調(diào)整后得到優(yōu)化。

- 現(xiàn)場(chǎng)可編程門(mén)陣列

FPGA的軟硬件兼容性值得稱(chēng)道,即使整體計(jì)算能力、成本效益和功耗都不是最好的。對(duì)于開(kāi)發(fā)人員來(lái)說(shuō),從FPGA開(kāi)始AI芯片開(kāi)發(fā)仍然是一個(gè)好主意。

突破馮·諾依曼架構(gòu)的界限

馮·諾依曼架構(gòu)被傳統(tǒng)計(jì)算設(shè)備廣泛采用,它不分離計(jì)算和存儲(chǔ),而是更注重計(jì)算。處理器和內(nèi)存之間的無(wú)休止數(shù)據(jù)傳輸消耗了大約80%的時(shí)間和功率。學(xué)者們已經(jīng)提出了許多不同的方法來(lái)解決這個(gè)問(wèn)題 - 通過(guò)光互連和2.5D / 3D堆疊實(shí)現(xiàn)高帶寬數(shù)據(jù)通信。通過(guò)增加緩存層和近數(shù)據(jù)存儲(chǔ)(如高密度片上存儲(chǔ))的數(shù)量來(lái)降低內(nèi)存訪問(wèn)延遲和功耗。

但是,在人腦中,計(jì)算和存儲(chǔ)之間有什么區(qū)別嗎?我們是否使用左半球進(jìn)行計(jì)算,使用正確的半球進(jìn)行存儲(chǔ)?顯然不是。人腦的計(jì)算和存儲(chǔ)發(fā)生在同一個(gè)地方,不需要數(shù)據(jù)遷移。

然后,學(xué)術(shù)界和業(yè)界都渴望找到一種類(lèi)似于人腦結(jié)構(gòu)的新架構(gòu),并且能夠?qū)⒂?jì)算和存儲(chǔ)有機(jī)地結(jié)合起來(lái),這并不奇怪。解決方案是“計(jì)算存儲(chǔ)設(shè)備”,它直接使用存儲(chǔ)單元進(jìn)行計(jì)算,或者對(duì)計(jì)算單元進(jìn)行分類(lèi),以便它們對(duì)應(yīng)于不同的存儲(chǔ)單元 - 最大限度地降低數(shù)據(jù)遷移引起的功耗。

存儲(chǔ)行業(yè)的一些制造商已經(jīng)探索了不同的選擇。例如,非易失性存儲(chǔ)器(NVM)存儲(chǔ)數(shù)模轉(zhuǎn)換器產(chǎn)生的模擬信號(hào)并輸出計(jì)算能力。同時(shí),輸入電壓和輸出電流在NVM中起可變電阻的作用,模擬電流信號(hào)通過(guò)模數(shù)轉(zhuǎn)換器轉(zhuǎn)換為數(shù)字信號(hào)。這樣就完成了從數(shù)字信號(hào)輸入到數(shù)字信號(hào)輸出的轉(zhuǎn)換過(guò)程。這種方法的最大優(yōu)點(diǎn)是可以充分利用成熟的20/28nm CMOS工藝,而不是像CPU/GPU那樣追求昂貴的7nm/5nm先進(jìn)工藝。

隨著成本和功耗的降低,延遲得到了顯著改善,這對(duì)于無(wú)人機(jī),智能機(jī)器人,自動(dòng)駕駛和安全監(jiān)控等應(yīng)用至關(guān)重要。

通常,端點(diǎn)推理過(guò)程的計(jì)算復(fù)雜度較低,所涉及的任務(wù)相對(duì)固定。由于硬件加速功能的通用性要求較低,因此無(wú)需頻繁更改體系結(jié)構(gòu)。這更適合于內(nèi)存計(jì)算的實(shí)現(xiàn)。相關(guān)統(tǒng)計(jì)數(shù)據(jù)顯示,2017年之前,人工智能無(wú)論是訓(xùn)練還是參考,都是在云端完成的;但到2023年,邊緣設(shè)備/芯片上的AI參考將占市場(chǎng)的一半以上,總計(jì)200-300億美元。對(duì)于IC制造商來(lái)說(shuō),這是一個(gè)巨大的市場(chǎng)。

人工智能需要什么樣的閃存?

每個(gè)人都會(huì)同意高質(zhì)量、高可靠性和低延遲的閃存對(duì)于AI芯片和應(yīng)用的重要性。為不同的應(yīng)用找到性能、功耗、安全性、可靠性和高效率的適當(dāng)平衡至關(guān)重要。成本雖然重要,但不應(yīng)該是最重要的考慮因素。

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 智能手機(jī)
    +關(guān)注

    關(guān)注

    66

    文章

    18627

    瀏覽量

    183909
  • 物聯(lián)網(wǎng)
    +關(guān)注

    關(guān)注

    2931

    文章

    46264

    瀏覽量

    392912
  • 人工智能
    +關(guān)注

    關(guān)注

    1807

    文章

    49035

    瀏覽量

    249750
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    如何選擇合適的臺(tái)慶電感?

    選擇合適的臺(tái)慶電感時(shí),需要根據(jù)實(shí)際應(yīng)用場(chǎng)景和使用需求來(lái)考慮多個(gè)因素。以下是一些關(guān)鍵的步驟和考慮因素: 一、了解電感的基本參數(shù) 額定電流 :根據(jù)電路中的功耗和電流負(fù)載來(lái)選擇合適的額定電流
    的頭像 發(fā)表于 04-14 15:51 ?308次閱讀

    怎么選擇合適的境外云服務(wù)器?

    選擇合適的境外云服務(wù)器需圍繞業(yè)務(wù)需求、性能匹配、安全合規(guī)、成本效益四大核心維度展開(kāi),通過(guò)精準(zhǔn)定位目標(biāo)用戶(hù)群體、評(píng)估資源需求、平衡安全與成本,實(shí)現(xiàn)最優(yōu)配置。以下UU云小編將詳細(xì)介紹怎么選擇合適
    的頭像 發(fā)表于 02-28 09:54 ?614次閱讀

    如何選擇合適的鋁殼電阻

    選擇合適的鋁殼電阻,需要綜合多方面因素進(jìn)行考量。以下是一些關(guān)鍵要點(diǎn): 根據(jù)電路的具體需求確定所需阻值,在簡(jiǎn)單的分壓電路中,若想獲得特定的電壓輸出,需依據(jù)輸入電壓和期望的輸出電壓,利用歐姆定律計(jì)算出
    發(fā)表于 02-20 13:48

    如何選擇合適的PLD型號(hào)

    選擇合適的PLD(可編程邏輯器件)型號(hào)時(shí),需要考慮多個(gè)因素,以確保所選器件能夠滿(mǎn)足應(yīng)用需求并具有成本效益。以下是一些關(guān)鍵的步驟和考慮因素: 一、明確應(yīng)用需求 功能需求 :確定PLD需要實(shí)現(xiàn)的具體
    的頭像 發(fā)表于 01-20 09:40 ?534次閱讀

    淺談如何選擇合適的傳感器

    :傳感器可以測(cè)量多種物理量,如溫度、壓力、光強(qiáng)、位移、重量等。明確需要測(cè)量的物理量是選擇傳感器的第一步。 ? ? ? 2. 測(cè)量范圍:根據(jù)應(yīng)用場(chǎng)景選擇合適的測(cè)量范圍。例如,如果應(yīng)用場(chǎng)景的溫度范圍
    的頭像 發(fā)表于 01-20 00:11 ?625次閱讀
    淺談如何<b class='flag-5'>選擇</b><b class='flag-5'>合適</b>的傳感器

    怎么選擇合適的漏電保護(hù)開(kāi)關(guān)

    選擇合適的漏電保護(hù)開(kāi)關(guān)是確保家庭電氣安全的重要步驟。以下是一些選擇漏電保護(hù)開(kāi)關(guān)的關(guān)鍵要點(diǎn): 一、品牌與認(rèn)證 品牌選擇 :優(yōu)先選擇知名品牌,因
    的頭像 發(fā)表于 12-20 16:54 ?1885次閱讀

    如何選擇合適的電機(jī)驅(qū)動(dòng)芯片

    在現(xiàn)代生活中,電機(jī)廣泛使用在家電產(chǎn)品、汽車(chē)電子、工業(yè)控制等眾多應(yīng)用領(lǐng)域,每一個(gè)電機(jī)的運(yùn)轉(zhuǎn)都離不開(kāi)合適的驅(qū)動(dòng)芯片。納芯微提供豐富的電機(jī)驅(qū)動(dòng)產(chǎn)品選擇,本期視頻將重點(diǎn)介紹常見(jiàn)電機(jī)種類(lèi)與感性負(fù)載應(yīng)用,幫助大家更深入了解如何選擇
    的頭像 發(fā)表于 11-21 12:31 ?1444次閱讀
    如何<b class='flag-5'>選擇</b><b class='flag-5'>合適</b>的電機(jī)驅(qū)動(dòng)芯片

    直播報(bào)名丨第3講:如何選擇合適的算法模塊

    AI檢測(cè)實(shí)戰(zhàn)技能,實(shí)現(xiàn)職業(yè)發(fā)展的新跨越。本系列課程共分為4講:第1講AI檢測(cè)系統(tǒng)開(kāi)發(fā)流程概述第2講熱門(mén)AI檢測(cè)案例解析第3講如何選擇合適的算
    的頭像 發(fā)表于 11-16 01:06 ?407次閱讀
    直播報(bào)名丨第3講:如何<b class='flag-5'>選擇</b><b class='flag-5'>合適</b>的算法模塊

    如何選擇合適的UWB模塊

    選擇合適的UWB(超寬帶)模塊需要考慮多個(gè)因素,以確保模塊能夠滿(mǎn)足特定應(yīng)用場(chǎng)景的需求。以下是一些關(guān)鍵因素和步驟,幫助您選擇合適的UWB模塊: 一、了解UWB技術(shù)基礎(chǔ) 工作原理 :UWB
    的頭像 發(fā)表于 10-31 11:18 ?1024次閱讀

    如何選擇合適AI云平臺(tái)

    選擇合適AI云平臺(tái)是企業(yè)成功實(shí)施AI戰(zhàn)略的關(guān)鍵一步。通過(guò)深入分析業(yè)務(wù)需求、全面評(píng)估平臺(tái)功能、審慎考察技術(shù)架構(gòu)、嚴(yán)格確保數(shù)據(jù)安全、合理控制成本并關(guān)注服務(wù)提供商的生態(tài)系統(tǒng),企業(yè)可以更加科
    的頭像 發(fā)表于 10-14 10:06 ?549次閱讀

    怎樣選擇合適的MOSFET

    怎樣選擇合適的MOSFET
    的頭像 發(fā)表于 10-01 08:01 ?677次閱讀
    怎樣<b class='flag-5'>選擇</b><b class='flag-5'>合適</b>的MOSFET

    顯存技術(shù)不斷升級(jí),AI計(jì)算中如何選擇合適的顯存

    和推理過(guò)程至關(guān)重要。足夠的顯存容量能夠確保顯卡在執(zhí)行AI任務(wù)時(shí)能夠同時(shí)存儲(chǔ)和操作所需的數(shù)據(jù),避免因?yàn)轱@存不足而導(dǎo)致的性能瓶頸。 ? 在AI 計(jì)算中如何選擇合適的顯存 ? 顯存對(duì)
    的頭像 發(fā)表于 09-11 00:11 ?4804次閱讀

    如何選擇合適的過(guò)載保護(hù)器

    選擇合適的過(guò)載保護(hù)器是確保電氣系統(tǒng)安全穩(wěn)定運(yùn)行的關(guān)鍵步驟。以下將詳細(xì)闡述如何選擇合適的過(guò)載保護(hù)器,包括考慮的因素、選擇步驟以及注意事項(xiàng)。
    的頭像 發(fā)表于 09-06 11:53 ?2329次閱讀

    太陽(yáng)能應(yīng)用選擇合適的太陽(yáng)能電池充電器

    電子發(fā)燒友網(wǎng)站提供《太陽(yáng)能應(yīng)用選擇合適的太陽(yáng)能電池充電器.pdf》資料免費(fèi)下載
    發(fā)表于 09-04 09:54 ?0次下載
    <b class='flag-5'>為</b>太陽(yáng)能應(yīng)用<b class='flag-5'>選擇</b><b class='flag-5'>合適</b>的太陽(yáng)能電池充電器

    如何選擇合適的邊緣ai分析一體機(jī)解決方案

    的解決方案,成為企業(yè)決策者亟需解決的問(wèn)題。本文將從需求分析、技術(shù)考量、生態(tài)兼容及未來(lái)可擴(kuò)展性四個(gè)方面,探討如何科學(xué)合理地選擇合適的邊緣AI分析一體機(jī)。一、明確需求分析
    的頭像 發(fā)表于 08-08 15:25 ?621次閱讀
    如何<b class='flag-5'>選擇</b><b class='flag-5'>合適</b>的邊緣<b class='flag-5'>ai</b>分析一體機(jī)解決方案