99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

生成式AI帶來的機遇與挑戰(zhàn)

趣味科技v ? 來源:趣味科技v ? 2023-12-27 14:49 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

在大咖云集的亞馬遜科技re:Invent 2023全球大會現(xiàn)場,大家最關(guān)注的焦點話題是什么?

對于這個問題,相信很多人都會不假思索地在第一時間給出答案——生成式AI

然而生成式AI的應用以及大語言模型的訓練,都對算力有著極高的需求。身為全球云計算開拓者和領(lǐng)軍者,亞馬遜云科技認為這意味著怎樣的機遇?同時又帶來了怎樣的挑戰(zhàn)?企業(yè)可以通過生成式AI實現(xiàn)怎樣的轉(zhuǎn)型升級?為了滿足客戶的迫切需求,亞馬遜云科技又提供了怎樣的解決方案?

生成式AI帶來的機遇與挑戰(zhàn)

“生成式AI帶來的機遇非常明顯,對吧?大家都已經(jīng)有目共睹。”亞馬遜云科技計算和網(wǎng)絡(luò)副總裁David Brown向趣味科技表示,“我們希望亞馬遜云科技能夠成為運行這些工作負載的最佳場所,并且已經(jīng)為此投入了大量資金和資源。”

David Brown指出,生成式AI的發(fā)展帶來了極其廣袤的市場,通過與NVIDIA等合作伙伴的攜手合作,以及自研的Amazon Graviton和Amazon Trainium系列定制芯片,亞馬遜云科技正在努力為客戶提供更好的性價比,希望能夠幫助客戶以更低的成本引入和運行他們的模型。

而在挑戰(zhàn)方面,如何幫助客戶理解生成式AI,以及如何利用生成式AI為客戶的業(yè)務服務,是當下生成式AI應用的難點,也是亞馬遜云科技一直在努力的事情。在探索與試驗的過程中,亞馬遜云科技很快意識到,在Amazon Bedrock模型中為客戶提供選擇是正確的做法。為此亞馬遜云科技在re:Invent 2023全球大會上宣布推出Amazon Bedrock更多模型選擇和強大功能,讓用戶可輕松訪問來自AI21 Labs、Anthropic、Cohere、Meta、Stability AI以及亞馬遜的多種行業(yè)領(lǐng)先的大語言模型和其他模型,從而幫助企業(yè)更加輕松地構(gòu)建適合自身業(yè)務的定制化生成式AI應用,極大地降低了生成式AI應用的門檻。

當前面臨的另一項挑戰(zhàn),是如何確保在客戶需要時提供足夠的GPU算力。為此亞馬遜云科技一邊持續(xù)在全球范圍內(nèi)構(gòu)建數(shù)據(jù)中心和電力足跡,一邊開展了多項技術(shù)和服務創(chuàng)新,包括推出Capacity Blocks服務,使得即使是在供應受限的環(huán)境中,也能夠幫助客戶找到電源、GPU和加速器,獲得GPU訪問權(quán)限,從而支持他們的生成式AI工作負載。

努力為客戶提供更好性價比

強大的算力自然離不開強勁的芯片。在這方面,亞馬遜云科技主要是通過兩種方式來實現(xiàn)自己的目標。

一種方式是與NVIDIA的緊密合作。亞馬遜云科技與NVIDIA攜手進行了大量投資,將最新的NVIDIA GPU引入亞馬遜云科技。繼成為全球首家提供NVIDIA GH100 Grace Hopper數(shù)據(jù)中心GPU訪問的云服務商之后,NVIDIA創(chuàng)始人、CEO黃仁勛又在re:Invent 2023全球大會現(xiàn)場宣布,亞馬遜云科技成為全球首家推出NVIDIA GH200 NVL32實例的云服務商。

“在數(shù)據(jù)中心運行NVIDIA GPU的工作非常具有挑戰(zhàn)性,工程設(shè)計非常困難,需要世界上最好的供應商才能做好這些事情?!盌avid Brown表示,“我認為在這方面,亞馬遜云科技確實比其他任何公司都要出色?!?/p>

另一種方式是投資和設(shè)計自己的定制芯片。在re:Invent 2023全球大會上,亞馬遜云科技就宣布其自研芯片家族推出Amazon Graviton4和Amazon Trainium2等新一代產(chǎn)品,為生成式AI應用和機器學習訓練等廣泛的工作負載提供了更高的性價比和能效。其中Graviton4較上一代產(chǎn)品性能提升30%,獨立核心增加50%以上,內(nèi)存帶寬提升75%以上;Trainium2較上一代產(chǎn)品訓練速度提升4倍,能效提升2倍,并能在EC2 UltraClusters中部署多達100,000個芯片。

“芯片是用戶所有工作負載的基礎(chǔ),如果你是一個希望運行生成式AI工作負載的客戶,你自然會選擇性價比最高、對自己來說最合理的芯片?!盌avid Brown表示,“亞馬遜云科技每一代自研芯片都持續(xù)提升性價比和能效,為客戶提供了基于AMDIntel以及NVIDIA等的最新芯片和實例組合之外的更多選擇,這使得Amazon EC2可以為客戶虛擬運行幾乎所有應用和工作負載,同時也為客戶提供了更好的性價比?!?/p>

利用生成式AI助力企業(yè)轉(zhuǎn)型

如今越來越多的企業(yè)都對生成式AI投入了更多的關(guān)注。如何將生成式AI技術(shù)應用到自身業(yè)務,如何實現(xiàn)降本增效,如何為公司帶來價值,也成為了廣大企業(yè)正在努力研究的課題。

“生成式AI太新了,許多客戶都在努力研究如何將這一技術(shù)應用到自己的業(yè)務當中。我真正需要思考的主要是兩件事。”David Brown說道。

第一件事,是企業(yè)如何利用生成式AI的能力,并想出用這些能力為最終用戶構(gòu)建什么?David Brown認為這是每家企業(yè)都在考慮的事情,實際上在亞馬遜云科技內(nèi)部,就有團隊通過機器學習實驗室與客戶合作,幫助他們構(gòu)建概念證明,以實際測試生成式AI可以為客戶業(yè)務做些什么。目前在幫助客戶構(gòu)建生成式AI解決方案方面,亞馬遜云科技已經(jīng)取得了很大的成功。

第二件事,是一旦企業(yè)有了一個生成式AI解決方案,那么就必須確保公司盈虧能夠負擔得起它的運行成本。因為如果運行成本太高的話,企業(yè)實際上是無法實施部署的。因此亞馬遜云科技所做的就是幫助客戶找到成本優(yōu)化的方法。無論是改進開發(fā)模型的方式,還是通過像Trainium這樣的自研芯片,亞馬遜云科技都希望能夠真正降低生成式AI應用的成本。

在re:Invent 2023全球大會上,亞馬遜云科技數(shù)據(jù)與機器學習副總裁Swami Sivasubramanian博士在主題演講中重點介紹了亞馬遜云科技推出的生成式AI技術(shù)堆棧。該堆棧包括了底層負責訓練和推理的基礎(chǔ)設(shè)施層、中間微調(diào)模型需求的工具服務層、上層構(gòu)建生成式AI應用層等三個重要層級。通過對這三個層級的不斷重構(gòu),亞馬遜云科技能夠為客戶提供更具性價比和安全性的技術(shù)與服務,從而利用生成式AI更好地助力企業(yè)轉(zhuǎn)型升級。

摩爾定律失效但芯片仍在進步

說起芯片,很多人都會想起英特爾創(chuàng)始人之一戈登·摩爾多年前提出的大名鼎鼎的“摩爾定律”,也就是集成電路芯片上可容納的晶體管數(shù)目,大約每隔18個月便會增加一倍。

在上個世紀,摩爾定律被證明是有效的,并且著實推動了芯片市場的進步。然而近年來,由于晶體管尺寸和制造工藝的限制,摩爾定律也日益逼近極限。NVIDIA CEO黃仁勛就認為,這種蠻力增加晶體管的方法基本上已經(jīng)走到了盡頭,從而引發(fā)了眾多業(yè)界人士有關(guān)“摩爾定律是否已死”的爭論。

“摩爾定律的爭論非常有趣,如果我們回到上個世紀,有時會看到英特爾工程師們在為如何讓下一版CPU晶體管數(shù)量翻倍而絞盡腦汁,有時又會看到他們已經(jīng)實現(xiàn)了晶體管翻倍,反而要為下一代產(chǎn)品故意做一些保留?!闭勂鹉柖傻脑掝},David Brown如是表示,“但是令人驚訝的是,在幾十年后的今天,我們似乎已經(jīng)看到了摩爾定律的極限,因為現(xiàn)階段物理問題的限制,我們在技術(shù)上已經(jīng)無法再使CPU上的晶體管數(shù)量在短期內(nèi)實現(xiàn)翻倍。”

David Brown指出,事實上除了增加晶體管的數(shù)量之外,還有各種各樣的其他方法可以提升芯片的性能,包括改變設(shè)計芯片的方式,改變構(gòu)建芯片的方式,改變?yōu)樾酒峁┠芰康姆绞降鹊?。因此即便是摩爾定律失效,也并不意味著芯片不會繼續(xù)創(chuàng)新和提高性能。這就是Amazon Graviton和Amazon Trainium系列芯片向其他芯片制造商展示的意義所在。

審核編輯:黃飛

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 摩爾定律
    +關(guān)注

    關(guān)注

    4

    文章

    640

    瀏覽量

    79903
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    5309

    瀏覽量

    106477
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35194

    瀏覽量

    280321
  • 亞馬遜
    +關(guān)注

    關(guān)注

    8

    文章

    2697

    瀏覽量

    84702
  • AI算力
    +關(guān)注

    關(guān)注

    0

    文章

    97

    瀏覽量

    9263

原文標題:生成式AI算力如此緊張,怎樣選擇才最劃算

文章出處:【微信號:funnytechnology,微信公眾號:趣味科技v】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    NVIDIA recsys-examples在生成推薦系統(tǒng)中的高效實踐

    生成 AI 浪潮的推動下,推薦系統(tǒng)領(lǐng)域正經(jīng)歷深刻變革。傳統(tǒng)的深度學習推薦模型 (DLRMs) 雖已展現(xiàn)出一定效果,但在捕捉用戶興趣偏好和動態(tài)行為序列變化時,常面臨可擴展性挑戰(zhàn)
    的頭像 發(fā)表于 07-04 14:43 ?229次閱讀
    NVIDIA recsys-examples在<b class='flag-5'>生成</b><b class='flag-5'>式</b>推薦系統(tǒng)中的高效實踐

    邊緣生成AI面臨哪些工程挑戰(zhàn)?

    內(nèi)就吸引了超過100萬用戶)在市場上迅速崛起并被廣泛采用。而手機用戶則經(jīng)常使用語音搜索功能。這些應用有什么共同點呢?它們都依賴于云端來處理AI工作負載。盡管云端生成
    的頭像 發(fā)表于 06-25 10:44 ?456次閱讀
    邊緣<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>面臨哪些工程<b class='flag-5'>挑戰(zhàn)</b>?

    IBM利用生成AI推動銀行業(yè)數(shù)字化轉(zhuǎn)型

    。然而,挑戰(zhàn)也伴隨著機遇。報告指出,生成 AI 和人工智能 (AI) 將成為銀行業(yè)轉(zhuǎn)型升級的關(guān)
    的頭像 發(fā)表于 03-10 17:06 ?710次閱讀

    聚云科技榮獲亞馬遜云科技生成AI能力認證

    助力企業(yè)加速生成AI應用落地 北京2025年2月14日?/美通社/ -- 云管理服務提供商聚云科技獲得亞馬遜云科技生成
    的頭像 發(fā)表于 02-14 16:07 ?411次閱讀

    聚云科技榮獲亞馬遜云科技生成AI能力認證 助力企業(yè)加速生成AI應用落地

    北京 ——2025 年 2 月 14 日 云管理服務提供商聚云科技獲得亞馬遜云科技生成AI能力認證,利用亞馬遜云科技全托管的生成
    發(fā)表于 02-14 13:41 ?154次閱讀

    OpenAI計劃開發(fā)可替代手機的生成AI專用終端

    AI 領(lǐng)域已經(jīng)取得了顯著成果。此次開發(fā)專用終端,旨在進一步拓展生成 AI 的應用場景,讓用戶能夠更便捷地享受 AI 技術(shù)
    的頭像 發(fā)表于 02-05 14:50 ?493次閱讀

    生成AI如何驅(qū)動收入和投資回報率飆升

    生成 AI 正在以前所未有的速度重塑商業(yè)格局,為企業(yè)帶來前所未有的增長機遇
    的頭像 發(fā)表于 01-24 11:49 ?646次閱讀

    生成AI工具好用嗎

    當下,生成AI工具正以其強大的內(nèi)容生成能力,為用戶帶來了前所未有的便捷與創(chuàng)新。那么,生成
    的頭像 發(fā)表于 01-17 09:54 ?467次閱讀

    Google兩款先進生成AI模型登陸Vertex AI平臺

    生成 AI 正在引領(lǐng)商業(yè)增長與轉(zhuǎn)型。在已經(jīng)將生成 AI 部署到生產(chǎn)環(huán)境的企業(yè)中,有86%的企
    的頭像 發(fā)表于 12-30 09:56 ?630次閱讀

    IDC生成AI白皮書亮點速遞

    在數(shù)字化浪潮中,生成 AI 正成為推動創(chuàng)新和變革的關(guān)鍵力量。本文將分享由 IDC 發(fā)布的《技術(shù)革新引領(lǐng)未來——生成
    的頭像 發(fā)表于 11-04 10:12 ?810次閱讀

    生成AI工具作用

    生成AI工具是指那些能夠自動生成文本、圖像、音頻、視頻等多種類型數(shù)據(jù)的人工智能技術(shù)。在此,petacloud.ai小編為您整理
    的頭像 發(fā)表于 10-28 11:19 ?760次閱讀

    生成AI的迅猛發(fā)展與安全挑戰(zhàn):CPU在構(gòu)建云端可信環(huán)境中的關(guān)鍵作用

    隨著生成AI技術(shù)的飛速進步,AI應用已經(jīng)廣泛融入我們的日常生活,從AI手機、AI PC到
    的頭像 發(fā)表于 10-08 16:21 ?979次閱讀

    共話出海未來,共謀發(fā)展新篇—“生成AI,解鎖出海新機遇”沙龍成功舉辦

    近日由FutureCloud與亞馬遜云科技(AWS),偉仕佳杰共同主辦的“生成AI,解鎖出海新機遇”線下沙龍在上海圓滿落幕。本次活動匯聚了AWS資深專家以及多位擁有豐富出海經(jīng)驗的行業(yè)
    的頭像 發(fā)表于 09-25 10:53 ?550次閱讀
    共話出海未來,共謀發(fā)展新篇—“<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>,解鎖出海新<b class='flag-5'>機遇</b>”沙龍成功舉辦

    AI普及給嵌入設(shè)計人員帶來挑戰(zhàn)

    探討了人工智能(AI)的普及給嵌入設(shè)計人員帶來的新挑戰(zhàn)。在創(chuàng)建“邊緣機器學習(ML)”應用時,設(shè)計人員必須確保其能有效運行,同時最大限度地降低處理器和存儲開銷,以及物聯(lián)網(wǎng)(IoT)設(shè)
    發(fā)表于 08-22 14:20 ?891次閱讀
    <b class='flag-5'>AI</b>普及給嵌入<b class='flag-5'>式</b>設(shè)計人員<b class='flag-5'>帶來</b>新<b class='flag-5'>挑戰(zhàn)</b>

    生成AI在學術(shù)領(lǐng)域的應用亟需高度重視

    隨著生成人工智能(AI)工具的迅速普及,其在學術(shù)寫作領(lǐng)域的應用正以前所未有的速度增長,為科研人員帶來了諸多便利,如時間節(jié)省、語言障礙減少以及論文表達的清晰化。然而,這一趨勢也引發(fā)了關(guān)
    的頭像 發(fā)表于 08-09 15:43 ?1079次閱讀