99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

閃存破局“內(nèi)存焦慮”,AI微調(diào)訓(xùn)練增加閃存消耗

花茶晶晶 ? 來源:電子發(fā)燒友 ? 作者:黃晶晶 ? 2025-03-26 09:28 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)面對蓬勃發(fā)展的AI,在MemoryS 2025上,群聯(lián)電子執(zhí)行長潘健成表示,面對AI服務(wù)器成本太高、數(shù)據(jù)上云端不安全等挑戰(zhàn),在地端的AI微調(diào)訓(xùn)練對于解決問題而言是必須的。若一味增加GPU和內(nèi)存數(shù)量,無疑將導(dǎo)致本地AI訓(xùn)練的成本奇高,無法獲得普及效應(yīng)。

wKgZO2fiDHGASBv9AAJO4VKl5Gc569.jpg
圖:群聯(lián)電子執(zhí)行長潘健成


群聯(lián)電子推出了獨(dú)家發(fā)明且也是全球第一家將NAND應(yīng)用于AI服務(wù)器中的滿血版AI訓(xùn)推一體機(jī)平價(jià)方案aiDAPTIV+。通過aiDAPTIV+,企業(yè)可以在本地邊緣環(huán)境中執(zhí)行AI模型后微調(diào)訓(xùn)練,確保數(shù)據(jù)安全的同時(shí)顯著降低AI訓(xùn)練成本。

群聯(lián)電子aiDAPTIV+ 技術(shù)通過動(dòng)態(tài)緩存,結(jié)合基于NAND 閃存“aiDAPTIVCache”緩存技術(shù),擴(kuò)展 HBM 和 GDDR 內(nèi)存,顯著提升性能。據(jù)悉,在 GTC 2025 大會(huì)上,群聯(lián)攜手 Maingear 公司推出了搭載 aiDAPTIV+ 技術(shù)的全球首款支援 LLMOps (Large Language Model Operations; 大型語言模型運(yùn)作) 的消費(fèi)級筆電,用戶將可使用自身企業(yè)或個(gè)人資料來微調(diào)(Post-training/Fine-tuning) 最多 80億 (8B) 參數(shù)的大型語言模型 (LLM),讓預(yù)訓(xùn)練 (Pre-trained) 的AI模型能依據(jù)邊緣應(yīng)用場景與使用者需求進(jìn)行客制化 (Post-training),以達(dá)到真正的AI落地普及化;此外,通過 aiDAPTIVLink 3.0 新版中間件 (Middleware),負(fù)責(zé) SSD 的 NAND 和 GPU 之間的數(shù)據(jù)傳輸,提供更快的首個(gè) Token 時(shí)間(TTFT)回調(diào)響應(yīng),并支持更大的 LLM(大型語言模型)提示上下文。

“我們的地端AI模型微調(diào)方案aiDAPTIV+,與NVIDIA創(chuàng)辦人黃仁勛于CES演講中提及的地端推論 (Inference) 機(jī)器設(shè)備策略相呼應(yīng),將為AI應(yīng)用的地端模型微調(diào)訓(xùn)練以及推論帶來更廣泛的應(yīng)用場景及SSD有很大幫助?!迸私〕烧f道,本地AI微調(diào)訓(xùn)練將進(jìn)一步增加英偉達(dá)GPU的銷量,也將為閃存產(chǎn)業(yè)鏈打開新的市場空間,尤其是企業(yè)級SSD需求將從云端下沉到邊緣端市場。

群聯(lián)電子2024年業(yè)績表現(xiàn)亮眼,總營收金額達(dá)新臺(tái)幣589.36億元,較2023年增長達(dá)22%,創(chuàng)下歷史第三高紀(jì)錄。潘健成表示,2024年雖然面臨全球消費(fèi)市場疲軟的挑戰(zhàn),但群聯(lián)憑借堅(jiān)強(qiáng)的技術(shù)實(shí)力與多樣的產(chǎn)品布局,依舊在業(yè)界交出亮眼成績。我們的存儲(chǔ)解決方案在各大應(yīng)用領(lǐng)域持續(xù)受到市場肯定,展現(xiàn)出群聯(lián)的靈活應(yīng)對能力與市場競爭力。

潘健成在演講中指出,2024年群聯(lián)電子研發(fā)支出近30億元人民幣,巨額研發(fā)支出帶來了巨大壓力,同樣的,盈利難也導(dǎo)致NAND原廠資本支出開始放緩。

在他看來,若談NAND產(chǎn)業(yè)未來路在何方,如何協(xié)助NAND原廠創(chuàng)造價(jià)值是重要課題之一。渠道市場存儲(chǔ)產(chǎn)品需求快速下滑,“要能夠生存就要長進(jìn)”,系統(tǒng)整合廠要做NAND存儲(chǔ)差異化、要?jiǎng)?chuàng)造價(jià)值。如在PC應(yīng)用上,群聯(lián)開發(fā)了PQC防偽方案,安裝于PC的存儲(chǔ),可辨識(shí)AI合成圖片、視頻、文件,強(qiáng)化PC資料防護(hù),價(jià)值是原來SSD的3倍。

他進(jìn)一步認(rèn)為,電子產(chǎn)業(yè)經(jīng)歷三大周期,從90年代的PC、到2000年左右的智能手機(jī),再到現(xiàn)在的AI走入端側(cè),回看過去每一次的產(chǎn)業(yè)大爆發(fā)都帶動(dòng)半導(dǎo)體產(chǎn)業(yè)鏈10多年的成長動(dòng)能。而這一次AI的到來也將產(chǎn)生新的長周期的半導(dǎo)體繁榮。毋庸置疑,端側(cè)AI將帶給存儲(chǔ)巨大的機(jī)會(huì)。




聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 閃存
    +關(guān)注

    關(guān)注

    16

    文章

    1845

    瀏覽量

    115968
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35136

    瀏覽量

    279713
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    HBM不再是主戰(zhàn)場?256TB、QLC、企業(yè)級…閃存激蕩AI存力

    電子發(fā)燒友網(wǎng)綜合報(bào)道,在今年的MemoryS 2025上最熱的話題當(dāng)然是AI,DeepSeek徹底引爆存儲(chǔ)需求,例如企業(yè)級SSD不僅用于云端訓(xùn)練,還將拓展到AI訓(xùn)推一體機(jī)等場景。對數(shù)據(jù)中心AI
    發(fā)表于 03-17 09:14 ?665次閱讀

    紫光國芯亮相2025全球閃存峰會(huì)

    近日,由DOIT傳媒主辦的2025全球閃存峰會(huì)(FMW 2025) 在南京盛大開幕。本屆峰會(huì)以“存力覺醒 AI未來”為主題,聚焦以閃存內(nèi)存芯片為核心的存儲(chǔ)器產(chǎn)業(yè)生態(tài)創(chuàng)新與變革。作為國
    的頭像 發(fā)表于 07-11 16:12 ?513次閱讀

    什么是Flash閃存以及STM32使用NAND Flash

    NAND 文章目錄 NAND 一、FLASH閃存是什么? 二、SD NAND Flash 三、STM32例程 一、FLASH閃存是什么? 簡介 FLASH閃存是屬于內(nèi)存器件的一種,“F
    發(fā)表于 07-03 14:33

    15%成本撬動(dòng)100%體驗(yàn)!國產(chǎn)閃存如何改寫AI玩具競爭規(guī)則

    ,AI玩具還被應(yīng)用于早教、學(xué)習(xí)等領(lǐng)域,例如AI智能早教機(jī)等產(chǎn)品,這些應(yīng)用場景需要存儲(chǔ)大量的教育資源和數(shù)據(jù),進(jìn)一步增加了對閃存的需求。 ? 并且不同類型的
    的頭像 發(fā)表于 06-25 00:22 ?6445次閱讀

    海思SD3403邊緣計(jì)算AI數(shù)據(jù)訓(xùn)練概述

    AI數(shù)據(jù)訓(xùn)練:基于用戶特定應(yīng)用場景,用戶采集照片或視頻,通過AI數(shù)據(jù)訓(xùn)練工程師**(用戶公司****員工)** ,進(jìn)行特征標(biāo)定后,將標(biāo)定好的訓(xùn)練
    發(fā)表于 04-28 11:11

    3D閃存的制造工藝與挑戰(zhàn)

    3D閃存有著更大容量、更低成本和更高性能的優(yōu)勢,本文介紹了3D閃存的制造工藝與挑戰(zhàn)。
    的頭像 發(fā)表于 04-08 14:38 ?1047次閱讀
    3D<b class='flag-5'>閃存</b>的制造工藝與挑戰(zhàn)

    使用OpenVINO?訓(xùn)練擴(kuò)展對水平文本檢測模型進(jìn)行微調(diào),收到錯(cuò)誤信息是怎么回事?

    已針對水平文本檢測模型運(yùn)行OpenVINO?訓(xùn)練擴(kuò)展中的 微調(diào) 步驟,并收到錯(cuò)誤消息: RuntimeError: Failed to find annotation files
    發(fā)表于 03-05 06:48

    DDR4內(nèi)存價(jià)格下跌,NAND閃存減產(chǎn)效果未顯

    TrendForce集邦咨詢最新發(fā)布的內(nèi)存現(xiàn)貨價(jià)格趨勢報(bào)告顯示,DRAM和NAND閃存市場近期呈現(xiàn)出不同的態(tài)勢。
    的頭像 發(fā)表于 02-08 16:41 ?605次閱讀

    為什么ai模型訓(xùn)練要用gpu

    GPU憑借其強(qiáng)大的并行處理能力和高效的內(nèi)存系統(tǒng),已成為AI模型訓(xùn)練不可或缺的重要工具。
    的頭像 發(fā)表于 10-24 09:39 ?960次閱讀

    什么是閃存?它有哪些類型?

    閃存(Flash Memory)是一種電子式可清除程序化只讀存儲(chǔ)器的形式,它允許在操作中被多次擦除和寫入數(shù)據(jù)。這種技術(shù)主要用于一般性數(shù)據(jù)存儲(chǔ),以及在計(jì)算機(jī)與其他數(shù)字產(chǎn)品間交換傳輸數(shù)據(jù),如儲(chǔ)存卡與U盤
    的頭像 發(fā)表于 09-26 15:35 ?2708次閱讀

    NAND閃存的發(fā)展歷程

    NAND閃存的發(fā)展歷程是一段充滿創(chuàng)新與突破的歷程,它自誕生以來就不斷推動(dòng)著存儲(chǔ)技術(shù)的進(jìn)步。以下是對NAND閃存發(fā)展歷程的詳細(xì)梳理,將全面且深入地介紹其關(guān)鍵節(jié)點(diǎn)和重要進(jìn)展。
    的頭像 發(fā)表于 08-10 16:32 ?2395次閱讀

    NAND閃存和NOR閃存有什么區(qū)別

    NAND閃存和NOR閃存是兩種常見的閃存存儲(chǔ)器技術(shù),它們在多個(gè)方面存在顯著的差異。以下將從技術(shù)原理、結(jié)構(gòu)、性能特點(diǎn)、應(yīng)用場景以及發(fā)展趨勢等方面對兩者進(jìn)行詳細(xì)比較。
    的頭像 發(fā)表于 08-10 16:14 ?6249次閱讀

    NAND閃存是什么意思

    NAND閃存,又稱之為“NAND Flash”,是一種基于Flash存儲(chǔ)技術(shù)的非易失性閃存芯片。下面將從NAND閃存的定義、工作原理、特點(diǎn)、應(yīng)用領(lǐng)域以及未來發(fā)展等幾個(gè)方面進(jìn)行詳細(xì)闡述。
    的頭像 發(fā)表于 08-10 15:57 ?8564次閱讀

    如何讓閃存多次編程呢?

    你好,我正在做引導(dǎo)加載器項(xiàng)目,我使用了英飛凌示例中的閃存編程驅(qū)動(dòng)程序,我重新加載了示例,之后它就正常工作了,當(dāng)我再次重新加載示例時(shí),它在閃存寫入部分導(dǎo)致總線陷阱錯(cuò)誤,如何讓閃存多次編程呢?
    發(fā)表于 07-23 07:33