英偉達(dá)最新發(fā)布首款面向邊緣設(shè)備的AI平臺(tái)Nvidia EGX,將 AI 帶到了網(wǎng)絡(luò)的邊緣。該平臺(tái)可以實(shí)時(shí)感知、理解和處理數(shù)據(jù),而無需先將數(shù)據(jù)發(fā)送到云端或數(shù)據(jù)中心。
在今天臺(tái)北電腦展COMPUTEX 2019上,英偉達(dá)帶來了一項(xiàng)重大發(fā)布:推出首款面向邊緣設(shè)備的AI平臺(tái)Nvidia EGX。
此外,發(fā)布會(huì)還公布了另幾項(xiàng)好消息,包括將最先進(jìn)的RTXGPU 帶到了筆記本電腦上,免費(fèi)提供帶有實(shí)時(shí)光線追蹤的體驗(yàn)版游戲等。
新的Nvidia EGX平臺(tái),將AI帶到了網(wǎng)絡(luò)的邊緣。該平臺(tái)可以實(shí)時(shí)感知、理解和處理數(shù)據(jù),而無需先將數(shù)據(jù)發(fā)送到云端或數(shù)據(jù)中心。
將AI應(yīng)用到智能手機(jī)、傳感器和工廠機(jī)器等邊緣設(shè)備上,是AI技術(shù)發(fā)展的下一步。最早的AI算法非常復(fù)雜,只能在運(yùn)行在云端數(shù)據(jù)中心的強(qiáng)大機(jī)器上處理,這意味著要通過網(wǎng)絡(luò)發(fā)送大量信息。但這是不可取的,因?yàn)檫@樣做需要大量帶寬,并且會(huì)導(dǎo)致更高的延遲,使得“實(shí)時(shí)”非常難。
“在[物聯(lián)網(wǎng)]傳感器的增長推動(dòng)下,計(jì)算行業(yè)發(fā)生了巨大的變化,”英偉達(dá)企業(yè)與邊緣計(jì)算高級(jí)主管Justin Boitano在新聞發(fā)布會(huì)上表示?!坝杏糜谟^察世界的攝像頭,用于聆聽世界的麥克風(fēng),還有一些設(shè)備可以讓機(jī)器探測(cè)到現(xiàn)實(shí)世界正在發(fā)生什么。”
這些都意味著需要分析的原始數(shù)據(jù)量正在呈指數(shù)增長。
“我們很快就會(huì)到達(dá)一個(gè)交叉點(diǎn),在這個(gè)交叉點(diǎn),邊緣的計(jì)算能力比數(shù)據(jù)中心更強(qiáng),”Boitano說。
企業(yè)真正想要的是讓AI在數(shù)據(jù)產(chǎn)生的地方執(zhí)行,無論是在制造設(shè)施、零售店還是倉庫。領(lǐng)先的科技公司一直試圖解決的問題,包括最近英特爾也推出了其首款面向邊緣計(jì)算的10納米“Ice Lake”芯片,此外,許多初創(chuàng)公司也推出了這類芯片。
但英偉達(dá)進(jìn)軍AI領(lǐng)域的舉動(dòng)引人注目,因?yàn)橛ミ_(dá)的GPU被廣泛認(rèn)為是最好的AI處理硬件之一。其中包括用于深度學(xué)習(xí)的Tesla V100,以及能夠?qū)崟r(shí)進(jìn)行光線追蹤的Quadro GV100。
英偉達(dá)邊緣AI平臺(tái)三大特性
新的NVIDIA EGX平臺(tái)專為邊緣新型的高吞吐量AI應(yīng)用而設(shè)計(jì),其中數(shù)據(jù)來源可實(shí)現(xiàn)即時(shí)或保證響應(yīng)時(shí)間,同時(shí)減少云帶寬。
EGX平臺(tái)是可擴(kuò)展的??梢詮幕?strong>Jetson Nano處理器的輕型服務(wù)器擴(kuò)展到基于NVIDIA T4的邊緣服務(wù)器的微型數(shù)據(jù)中心,前者每秒可執(zhí)行0.5萬億次操作,僅需幾瓦特;后者每秒可執(zhí)行10,000萬億次操作。芯片的節(jié)能能力對(duì)AI來說非常重要,因?yàn)閭鹘y(tǒng)硬件在運(yùn)行這類任務(wù)時(shí)耗電量巨大。
Justin Boitano表示,到2025年,全球?qū)⒂屑s1500億臺(tái)機(jī)器傳感器和“物聯(lián)網(wǎng)”設(shè)備,因此對(duì)NGX這樣的平臺(tái)的需求將是巨大的。他說,其中許多傳感器將用于“智能城市”等項(xiàng)目,并將輸出需要在現(xiàn)場(chǎng)處理的數(shù)據(jù),原因包括需要更低的延遲、實(shí)時(shí)響應(yīng)、數(shù)據(jù)主權(quán)規(guī)則或隱私方面的擔(dān)憂。
“無論是視覺方面還是在語言方面上,AI確實(shí)是所有行業(yè)的殺手級(jí)應(yīng)用,”Boitano說。
如果人們真的想要充分利用這些芯片,那么合作關(guān)系也很重要。出于這個(gè)原因,Nvidia正在將運(yùn)行在EGX上的Nvidia Edge Stack軟件與Red Hat公司的OpenShift Kubernetes容器編排平臺(tái)相整合,以使其與現(xiàn)代軟件應(yīng)用程序兼容。
該平臺(tái)還集成了來自Mellanox technologies Ltd.的安全、存儲(chǔ)和網(wǎng)絡(luò)技術(shù)。英偉達(dá)計(jì)劃在年底前以69億美元的價(jià)格收購這家公司。
總結(jié)而言,NVIDIA EGX具有以下特性:
高性能和可擴(kuò)展
EGX從小型的NVIDIA?Jetson Nano?開始,幾瓦的功率就可以提供每秒0.5萬億次(TOPS)的處理操作,用于圖像識(shí)別等任務(wù)。此外,EGX可擴(kuò)展到所有的NVIDIA T4服務(wù)器,提供超過10,000 TOPS,可以為數(shù)百名用戶提供實(shí)時(shí)語音識(shí)別和其他復(fù)雜的AI體驗(yàn)。
混合云和多云物聯(lián)網(wǎng)
NVIDIA EGX在架構(gòu)上與主要云提供的NVIDIA AI計(jì)算兼容。在云上開發(fā)的AI應(yīng)用可以運(yùn)行在NVIDIA EGX上,反之亦然。NVIDIA Edge Stack連接主要的云物聯(lián)網(wǎng)服務(wù),客戶可以通過AWS IoT Greengrass和微軟的Azure IoT Edge遠(yuǎn)程管理他們的服務(wù)。
企業(yè)級(jí)和安全性
NVIDIA Edge Stack在領(lǐng)先的企業(yè)級(jí)Kubernetes容器編排平臺(tái)Red Hat OpenShift上進(jìn)行了優(yōu)化。Mellanox Smart NIC可以卸載和加速軟件定義的網(wǎng)絡(luò),從而在不影響CPU性能的情況下實(shí)現(xiàn)更高級(jí)別的隔離和安全性。
Mellanox的首席技術(shù)官M(fèi)ichael Kagan說:“Mellanox Smart NIC和交換機(jī)為從邊緣到超大規(guī)模數(shù)據(jù)中心的數(shù)據(jù)訪問提供了理想的I/O連接?!?/p>
NGX還與運(yùn)行在主要云基礎(chǔ)設(shè)施服務(wù)(如AWS和Microsoft Azure)上的AI應(yīng)用程序兼容,并可以連接到物聯(lián)網(wǎng)服務(wù),如AWS Greengrass和Azure IoT Edge等。
筆記本電腦也可以用英偉達(dá)最先進(jìn)的專業(yè)級(jí)GPU
作為Computex 2019新聞發(fā)布會(huì)的一部分,英偉達(dá)宣布了全新的“筆記本電腦品牌認(rèn)證推廣計(jì)劃”,即Nvidia RTX Studio。
首款支持的是Quadro RTX 5000,與臺(tái)式機(jī)版本相同,有3072顆CUDA核心、48顆RT核心、384顆Tensor核心和16GB GDDR6 RAM,專為那些從事大量圖形或視頻工作的專業(yè)人士而設(shè)計(jì)。
首批共有7家合作伙伴公司(華碩,戴爾,惠普,微星,雷蛇,技嘉和宏碁)的一共17款筆記本電腦由,這些筆記本電腦將搭載新的Quadro GPU,都以“RTX Studio”的名稱命名。
用英偉達(dá)GeForce軟件與技術(shù)總經(jīng)理Jason Paul的話說,這些筆記本將能夠“隨時(shí)隨地”提供“桌面級(jí)性能”。英偉達(dá)還宣稱這些筆記本的運(yùn)行速度比同等級(jí)的MacBook Pro快7倍,配備32GB RAM和AMD的Pro Vega 20 GPU。
One More Thing:快來玩帶光線追蹤的《雷神之錘2》
在今年GDC上,英偉達(dá)展示了實(shí)時(shí)光線追蹤加強(qiáng)版的《雷神之錘2》demo,新技術(shù)加持后的老游戲魅力大放異彩,收獲了非常多的關(guān)注。
今天在Computex上,英偉達(dá)宣布將從6月6日起免費(fèi)向玩家提供《雷神之錘2 RTX》的體驗(yàn)版本,大家可以親身體驗(yàn)堪稱游戲革命的實(shí)時(shí)光線追蹤技術(shù)了!
據(jù)介紹,這個(gè)體驗(yàn)版總共只有三關(guān),之后可以通過NVIDIA官網(wǎng)或Steam下載。NVIDIA內(nèi)部的Lightspeed Studios為游戲加入了更真實(shí)的光影效果,比如即時(shí)光線、間接照明、水面反光等視覺元素在作品中都可以找到。
-
NVIDIA
+關(guān)注
關(guān)注
14文章
5309瀏覽量
106472 -
AI
+關(guān)注
關(guān)注
88文章
35194瀏覽量
280268
原文標(biāo)題:英偉達(dá)首款邊緣計(jì)算AI平臺(tái)EGX重磅發(fā)布!實(shí)時(shí)處理,高性能、可擴(kuò)展
文章出處:【微信號(hào):AI_era,微信公眾號(hào):新智元】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
打通邊緣智能之路:面向嵌入式設(shè)備的開源AutoML正式發(fā)布----加速邊緣AI創(chuàng)新

Nordic收購 Neuton.AI 關(guān)于產(chǎn)品技術(shù)的分析
邊緣AI實(shí)現(xiàn)的核心環(huán)節(jié):硬件選擇和模型部署

邊緣AI的優(yōu)勢(shì)和技術(shù)基石

邊緣AI實(shí)現(xiàn)的核心環(huán)節(jié):硬件選擇和模型部署
Deepseek海思SD3403邊緣計(jì)算AI產(chǎn)品系統(tǒng)
英特爾借助開放生態(tài)系統(tǒng),加速邊緣AI創(chuàng)新

Banana Pi 發(fā)布 BPI-AI2N & BPI-AI2N Carrier,助力 AI 計(jì)算與嵌入式開發(fā)
AI賦能邊緣網(wǎng)關(guān):開啟智能時(shí)代的新藍(lán)海
英飛凌發(fā)布邊緣AI軟件新品牌DEEPCRAFT?
研華科技邊緣AI平臺(tái)榮獲2024年IoT邊緣計(jì)算卓越獎(jiǎng)
研華發(fā)布高性能工業(yè)邊緣 AI 算力方案 攜手昇騰引領(lǐng)邊緣 AI 革新

NVIDIA IGX平臺(tái)加速實(shí)時(shí)邊緣AI應(yīng)用

評(píng)論