99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

酷睿輕薄本也能運(yùn)行大語(yǔ)言模型,英特爾推動(dòng) PC 生成式 AI 落地

looger123 ? 來(lái)源:looger123 ? 作者:looger123 ? 2023-08-25 09:26 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

IT之家8 月 24 日消息,2023 年 8 月 18 日上午,英特爾在大灣區(qū)舉辦了一場(chǎng)技術(shù)分享會(huì),主題是英特爾在 AIGC(人工智能生成式計(jì)算)領(lǐng)域的最新進(jìn)展。會(huì)上,英特爾的技術(shù)專家向與會(huì)者展示了他們?cè)?AIGC 上的技術(shù)方向,并進(jìn)行了多個(gè)應(yīng)用的演示。

首先,英特爾介紹了他們?cè)诖笳Z(yǔ)言模型方面的優(yōu)化和支持。在我們傳統(tǒng)的認(rèn)知里,運(yùn)行類似 ChatGPT 這種大語(yǔ)言模型必須要有大顯存的顯卡支持。但這場(chǎng)交流會(huì)卻顛覆了我們的認(rèn)知。英特爾為了讓 12、13代酷睿平臺(tái)也能夠順利運(yùn)行各種大語(yǔ)言模型并提供流暢的使用體驗(yàn),構(gòu)建了 BigDL-LLM 庫(kù)。通過(guò)這個(gè)庫(kù),可以對(duì)各種大語(yǔ)言模型進(jìn)行優(yōu)化和支持,包括一些開(kāi)源的、可以在本地運(yùn)行的大語(yǔ)言模型。這個(gè)庫(kù)甚至可以在一臺(tái)搭載 16GB 內(nèi)存的英特爾輕薄本的機(jī)器上運(yùn)行參數(shù)量高達(dá) 16B 的大語(yǔ)言模型。此外還支持 LLaMA / LLaMA2、ChatGLM / ChatGLM2 等多個(gè)大語(yǔ)言模型。

接下來(lái),英特爾展示了他們?cè)诖笳Z(yǔ)言模型應(yīng)用方面的表現(xiàn)。通過(guò)集成了 ChatGLM2、LLaMA2 和 StarCoder 這三個(gè)大語(yǔ)言模型的 Demo,他們演示了這些模型在中文和英文應(yīng)用上的表現(xiàn)。通過(guò)優(yōu)化和量化操作,這些大語(yǔ)言模型在生成回答時(shí)能夠以非??斓乃俣壬桑⑶也挥绊戦喿x體驗(yàn)。英特爾已經(jīng)發(fā)布了這套 Demo,任何搭載 12、13代酷睿的電腦都可以直接安裝并體驗(yàn)。

我們這里選擇了一臺(tái)通過(guò)英特爾Evo平臺(tái)認(rèn)證的輕薄本:華為 MateBook 16s 來(lái)進(jìn)行測(cè)試。處理器為酷睿 i9-13900H + 32G 內(nèi)存,看看在核顯輕薄本上究竟能不能跑 AIGC。

英特爾大語(yǔ)言模型的 Demo 安裝過(guò)程非常傻瓜,英特爾已經(jīng)打包成了 EXE 文件,安裝并導(dǎo)入.Bin 格式的大語(yǔ)言模型就可以運(yùn)行了。打開(kāi)界面我們可以看到左側(cè)可以選擇聊天內(nèi)容、調(diào)整模型參數(shù)和查看運(yùn)算延遲,右側(cè)則是聊天框。

wKgaomToAy6APZN-AAD3K3E2GZE492.png

筆者先嘗試問(wèn)了他一些人情世故方面的問(wèn)題,沒(méi)想到回答非常出色,響應(yīng)速度也很快。這樣一個(gè)問(wèn)題只花了 658.87ms 就完成了響應(yīng)。

wKgZomToAy-AZijhAAK_uxoFikA008.png

在運(yùn)算過(guò)程中我們可以看到,i9-13900H 占用率達(dá)到了 100%,內(nèi)存占用達(dá)到了 16G,Xe 核顯也有一定占用??磥?lái)這個(gè)運(yùn)算過(guò)程確實(shí)是在本地進(jìn)行的。經(jīng)過(guò)英特爾不斷的優(yōu)化和 13代酷睿處理器算力的提升,我們真的在輕薄本上實(shí)現(xiàn)了 AIGC 的落地。

wKgaomToAy-AA8nCAADZ5jTDLt0978.png

在情感分析功能中,我們讓大語(yǔ)言模型分析了一段經(jīng)典散文??梢钥吹诫m然分析的角度比較淺顯,但沒(méi)有邏輯錯(cuò)誤,還是可以自洽的。

wKgZomToAy-AUDnYAAR8sEEjX9k713.png

而在這個(gè)中文翻譯功能中,英特爾大語(yǔ)言,模型的表現(xiàn)就更加令我意外了,它的翻譯質(zhì)量相當(dāng)高,速度也很快。哪怕是有如此多專有名詞的稿件,也能準(zhǔn)確無(wú)誤地翻譯。

wKgaomToAzCAWZR-AAQvkh6HHSM181.png

在故事創(chuàng)作方面,這套大語(yǔ)言模型也展現(xiàn)出了令我驚訝的邏輯能力和創(chuàng)造能力。我這邊讓它寫(xiě)一篇關(guān)羽大戰(zhàn)林黛玉,最后林黛玉取勝的故事。但 AI 居然認(rèn)識(shí)到了這兩人根本不是一個(gè)時(shí)代的,最后寫(xiě)了一個(gè)穿越時(shí)空的戲碼,雖然漏洞百出,但大體上沒(méi)有問(wèn)題。

wKgZomToAzCAZ8eVAARce_HOUD4171.png

生成大綱功能則是一個(gè)非常有用的功能,我們只要輸入想要撰寫(xiě)的稿件,就能幫我們列出一套邏輯清晰的稿件大綱了。這對(duì)于經(jīng)常需要寫(xiě)文章的群體來(lái)說(shuō)能起到很好的輔助作用。

wKgaomToAzGAQ_OtAAIodgQOTzA339.png

信息提取功能對(duì)于經(jīng)常需要閱讀報(bào)告的群體來(lái)說(shuō)很有幫助。可以快速?gòu)拈L(zhǎng)篇文章中提取核心信息。我這邊嘗試讓 AI 從英文文章中提取中文信息,效果卻依然非常好。

wKgZomToAzGABOe5AARn_cviFiY339.png

最后,筆者讓 AI 給出一份青島美食建議和青島旅游建議。由于這個(gè)大語(yǔ)言模型是完全離線運(yùn)行的,所以給到的信息也會(huì)比較陳舊,但單從撰寫(xiě)水平來(lái)看還是不錯(cuò)的。

wKgaomToAzKAEZ2UAAPeMSbjK24867.png

wKgZomToAzKASNTOAAM9pewLIeQ798.png

除了大語(yǔ)言模型應(yīng)用外,英特爾還展示了在 AI 文生圖算法 Stable Diffusion 上的支持。他們啟用了 OpenVINO 的加速,開(kāi)發(fā)了一套 AI 框架,通過(guò)一行代碼的安裝,就可以加速 PyTorch 模型的運(yùn)行。通過(guò) Stable Diffusion 的 WebUI,可以在集成顯卡和 Arc 獨(dú)立顯卡上運(yùn)行 Stable Diffusion Automatic1111。通過(guò)演示,可以看到在 Evo 輕薄本和搭載 i7-13700H 處理器的機(jī)器上,Stable Diffusion 在集成顯卡上的表現(xiàn)效果。96EU 版本的英特爾銳炬 Xe 顯卡強(qiáng)大的算力,可以支持 Stable Diffusion 軟件上運(yùn)行 FP16 精度的模型,快速生成高質(zhì)量圖片。

同時(shí),他們還展示了在搭載 i7-13700K CPU + Arc A770 獨(dú)顯的機(jī)器上運(yùn)行 Stable Diffusion 的效果,速度非??臁?/p>

此外,英特爾還展示了基于 Arc 顯卡的人物動(dòng)作的三維數(shù)字重建技術(shù)。通過(guò) Arc 強(qiáng)大的算力和 OpenVINO 框架對(duì) AI 算法的優(yōu)化推理,可以實(shí)時(shí)探測(cè)和重建人物動(dòng)作,并進(jìn)行后期渲染。這項(xiàng)技術(shù)不需要智能穿戴設(shè)備,只需連接家用攝像頭,即可實(shí)現(xiàn)實(shí)時(shí)探測(cè)和重建人物動(dòng)作,并通過(guò)數(shù)字人的形象進(jìn)行動(dòng)畫(huà)渲染。通過(guò)實(shí)時(shí)的骨骼點(diǎn)信息和 3D 重建,數(shù)字人可以展現(xiàn)出靈活多樣的肢體動(dòng)作,實(shí)現(xiàn)真實(shí)的三維動(dòng)效。同時(shí),根據(jù)用戶的需求,可以自定義渲染器的畫(huà)風(fēng),快速打造各種元宇宙應(yīng)用。

在最后的渦輪卡展示環(huán)節(jié),英特爾展示了他們新的渦輪 GPU 卡,Arc A770 16G。這張卡具有雙槽全長(zhǎng)全高的設(shè)計(jì),適應(yīng)各種邊緣側(cè)服務(wù)器機(jī)箱或設(shè)備機(jī)箱。它采用渦輪風(fēng)扇設(shè)計(jì),減少對(duì)機(jī)箱內(nèi)流場(chǎng)的干擾,更適合多卡混合計(jì)算的服務(wù)器、煉丹爐場(chǎng)景。

wKgZomToAzSAeHmWAAIGGO30mfg71.jpeg

從本次分享會(huì)看來(lái),英特爾一直著力于發(fā)展 AI 技術(shù),特別是當(dāng)下火熱的 AIGC 領(lǐng)域,英特爾也沒(méi)有缺席。憑借 13代酷睿強(qiáng)勁的算力和不斷的算法優(yōu)化,現(xiàn)在即便是輕薄本也可支持大語(yǔ)言模型的本地運(yùn)行。而在 Arc 顯卡的加持下,Stable Diffusion 文生圖的支持也在不斷開(kāi)展。同時(shí),英特爾也在探索 AI 的下一代應(yīng)用場(chǎng)景,并為企業(yè)級(jí)用戶提供算力更強(qiáng)的解決方案。

wKgaomToAzSAFiKpAAG2d-U6IlA19.jpeg

通過(guò)這些技術(shù)的展示,英特爾向大家展示了他們?cè)?AIGC 領(lǐng)域的領(lǐng)先地位和不斷創(chuàng)新的能力。他們致力于為用戶提供更智能、高效的計(jì)算體驗(yàn),推動(dòng)人工智能技術(shù)的發(fā)展和應(yīng)用。隨著技術(shù)的不斷進(jìn)步和完善,我們可以期待在未來(lái)看到更多來(lái)自英特爾的 AIGC 應(yīng)用和解決方案。


審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 英特爾
    +關(guān)注

    關(guān)注

    61

    文章

    10196

    瀏覽量

    174697
  • 酷睿
    +關(guān)注

    關(guān)注

    2

    文章

    437

    瀏覽量

    36875
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35164

    瀏覽量

    279995
  • 語(yǔ)言模型
    +關(guān)注

    關(guān)注

    0

    文章

    561

    瀏覽量

    10792
  • AIGC
    +關(guān)注

    關(guān)注

    1

    文章

    388

    瀏覽量

    2470
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    英特爾Ultra 200HX游戲本發(fā)布

    近日,英特爾舉辦了“英特爾 Ultra 200HX新品分享會(huì)”,來(lái)自10家OEM的20款高性能筆記本集中亮相,為廣大游戲發(fā)燒友和高性能專業(yè)用戶帶來(lái)更多選擇。借助
    的頭像 發(fā)表于 04-09 09:24 ?562次閱讀

    英特爾Ultra AI PC上部署多種圖像生成模型

    全新英特爾Ultra 200V系列處理器對(duì)比上代Meteor Lake,升級(jí)了模塊化結(jié)構(gòu)、封裝工藝,采用全新性能核與效核、英特爾硬件線
    的頭像 發(fā)表于 04-02 15:47 ?521次閱讀
    在<b class='flag-5'>英特爾</b><b class='flag-5'>酷</b><b class='flag-5'>睿</b>Ultra <b class='flag-5'>AI</b> <b class='flag-5'>PC</b>上部署多種圖像<b class='flag-5'>生成</b><b class='flag-5'>模型</b>

    英特爾Ultra處理器助力亦心AI閃繪本地功能上線

    英特爾Ultra處理器支持的AI實(shí)時(shí)繪畫(huà)軟件“亦心AI閃繪”本地功能已正式上線,能夠基于本地大模型
    的頭像 發(fā)表于 04-02 15:27 ?515次閱讀

    微星攜英特爾為玩家打造非凡游戲體驗(yàn),兩款泰坦家族新品均搭載全新英特爾Ultra HX處理器

    3月29日,在英特爾Ultra 200HX新品分享會(huì)上,搭載該處理器的高性能筆記齊聚一堂,英特爾攜手生態(tài)合作伙伴致力于以創(chuàng)新技術(shù)滿足用
    的頭像 發(fā)表于 04-02 09:37 ?536次閱讀

    英特爾發(fā)布最強(qiáng)大的商用AI PC產(chǎn)品陣容

    處理器。在臺(tái)式機(jī)和移動(dòng)設(shè)備形態(tài)中,該產(chǎn)品組合為全球企業(yè)提供包含計(jì)算性能、效、連接性、安全性和可管理性的全面解決方案。 如今是PC更新?lián)Q代的關(guān)鍵節(jié)點(diǎn),憑借英特爾?
    的頭像 發(fā)表于 03-08 09:28 ?649次閱讀

    英特爾Ultra AI PC上用NPU部署YOLOv11與YOLOv12

    最新的英特爾 Ultra 處理器(第二代)讓我們能夠在臺(tái)式機(jī)、移動(dòng)設(shè)備和邊緣中實(shí)現(xiàn)大多數(shù) AI 體驗(yàn),將 AI 加速提升到新水平,在
    的頭像 發(fā)表于 03-03 15:32 ?1664次閱讀
    在<b class='flag-5'>英特爾</b><b class='flag-5'>酷</b><b class='flag-5'>睿</b>Ultra <b class='flag-5'>AI</b> <b class='flag-5'>PC</b>上用NPU部署YOLOv11與YOLOv12

    內(nèi)置大語(yǔ)言模型的綠聯(lián)AI NAS私有云存儲(chǔ)驚艷CES,Ultra為AI算力保駕護(hù)航

    近日,在全球消費(fèi)電子領(lǐng)域備受矚目的年度盛會(huì)CES上,綠聯(lián)科技憑借其卓越的創(chuàng)新能力,以及英特爾Ultra AI強(qiáng)算力,向世界展示了綠聯(lián)全球首款內(nèi)置大型
    的頭像 發(fā)表于 01-13 10:34 ?501次閱讀

    英特爾Ultra 7處理器助力聯(lián)想YOGA Air 15 Aura AI元啟版樹(shù)立輕薄新標(biāo)桿

    作為第二代英特爾Ultra 7處理器首發(fā)護(hù)航產(chǎn)品,年貨送禮的難題或許能在這臺(tái)旗艦級(jí)AI PC上找到答案。對(duì)于事業(yè)有成的親友,普通的禮品難
    的頭像 發(fā)表于 12-31 16:05 ?1605次閱讀

    智譜發(fā)布清言英特爾Ultra專享版

    近日,國(guó)內(nèi)知名大模型廠商智譜在其官方網(wǎng)站——智譜清言上,正式推出了針對(duì)英特爾Ultra處理器的專享版應(yīng)用。這一版充分利用了
    的頭像 發(fā)表于 12-24 10:49 ?787次閱讀

    智譜發(fā)布智譜清言英特爾Ultra專享版

    近日,國(guó)內(nèi)頂尖的大模型廠商智譜在官方網(wǎng)站智譜清言上,正式推出了智譜清言英特爾Ultra專享版。這一版充分利用了
    的頭像 發(fā)表于 12-19 11:37 ?710次閱讀

    智譜清言英特爾Ultra專享版發(fā)布,離線模型玩轉(zhuǎn)AIPC

    近日,國(guó)內(nèi)領(lǐng)先的大模型廠商智譜在智譜清言的官網(wǎng)發(fā)布了智譜清言英特爾Ultra專享版,這個(gè)版本可以利用英特爾
    的頭像 發(fā)表于 12-18 11:52 ?642次閱讀

    英特爾發(fā)布Ultra 200S系列臺(tái)式機(jī)處理器

    近日,英特爾正式推出了Ultra 200S系列處理器家族,為臺(tái)式機(jī)平臺(tái)帶來(lái)了全新的AI PC功能。此次發(fā)布的處理器家族涵蓋了5款未鎖頻的
    的頭像 發(fā)表于 10-11 17:36 ?922次閱讀

    英特爾? ? Ultra 處理器面向多行業(yè)加速AI產(chǎn)業(yè)升級(jí)

    持競(jìng)爭(zhēng)力,企業(yè)亟需更高效的計(jì)算平臺(tái)來(lái)處理日益復(fù)雜的數(shù)據(jù)分析和AI推理任務(wù)。 為響應(yīng)這一時(shí)代需求,英特爾正式發(fā)布英特爾? ? Ultra
    發(fā)表于 09-14 20:36 ?1.3w次閱讀
    <b class='flag-5'>英特爾</b>? <b class='flag-5'>酷</b><b class='flag-5'>睿</b>? Ultra 處理器面向多行業(yè)加速<b class='flag-5'>AI</b>產(chǎn)業(yè)升級(jí)

    AI PC市場(chǎng)爆發(fā),英特爾、高通相繼推出新一代AI PC芯片,戰(zhàn)況火熱升級(jí)

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)2024年9月4日,在德國(guó)柏林國(guó)際消費(fèi)電子展(IFA 2024)上,英特爾正式發(fā)布了Ultra 200V系列處理器。 ?
    的頭像 發(fā)表于 09-06 00:16 ?4709次閱讀

    如何將Llama3.1模型部署在英特爾Ultra處理器

    本文從搭建環(huán)境開(kāi)始,一步一步幫助讀者實(shí)現(xiàn)只用五行代碼便可將Llama3.1模型部署在英特爾 Ultra 處理器上。
    的頭像 發(fā)表于 07-26 09:51 ?3100次閱讀
    如何將Llama3.1<b class='flag-5'>模型</b>部署在<b class='flag-5'>英特爾</b><b class='flag-5'>酷</b><b class='flag-5'>睿</b>Ultra處理器