99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀(guān)看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

高通支持Meta Llama 3大語(yǔ)言模型在驍龍旗艦平臺(tái)上實(shí)現(xiàn)終端側(cè)執(zhí)行

高通中國(guó) ? 來(lái)源:高通中國(guó) ? 2024-04-20 09:13 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

要點(diǎn)

?高通和Meta合作優(yōu)化Meta Llama 3大語(yǔ)言模型,支持在未來(lái)的驍龍旗艦平臺(tái)上實(shí)現(xiàn)終端側(cè)執(zhí)行。

?開(kāi)發(fā)者將能夠訪(fǎng)問(wèn)高通AI Hub中的資源和工具,以實(shí)現(xiàn)在驍龍平臺(tái)上優(yōu)化運(yùn)行Llama 3,從而縮短產(chǎn)品上市時(shí)間并充分發(fā)揮終端側(cè)AI的優(yōu)勢(shì)。

?高通技術(shù)公司的終端側(cè)AI能力包括行業(yè)領(lǐng)先的NPU、CPUGPU技術(shù)組合,賦能生成式AI應(yīng)用實(shí)現(xiàn)即時(shí)性、增強(qiáng)的可靠性、隱私性、情境感知個(gè)性化和成本效益。

今日,高通技術(shù)公司和Meta宣布合作,以?xún)?yōu)化Meta Llama 3大語(yǔ)言模型(LLM)直接在智能手機(jī)、PC、VR/AR頭顯和汽車(chē)等終端上的執(zhí)行。在終端側(cè)運(yùn)行Llama 3具有顯著優(yōu)勢(shì),包括出色的響應(yīng)能力、增強(qiáng)的隱私性和可靠性,以及為用戶(hù)帶來(lái)更加個(gè)性化的體驗(yàn)。

高通技術(shù)公司高級(jí)副總裁兼技術(shù)規(guī)劃和邊緣解決方案業(yè)務(wù)總經(jīng)理馬德嘉(Durga Malladi)表示:

我們贊賞Meta針對(duì)Meta Llama 3的開(kāi)放策略,高通和Meta都致力于賦能開(kāi)發(fā)者,激發(fā)AI創(chuàng)新。高通的終端側(cè)AI領(lǐng)導(dǎo)力,結(jié)合跨不同邊緣終端的廣泛市場(chǎng)布局,使我們能夠在全球范圍內(nèi)擴(kuò)大Llama生態(tài)系統(tǒng)優(yōu)勢(shì),賦能客戶(hù)、合作伙伴和開(kāi)發(fā)者打造新一代開(kāi)創(chuàng)性AI體驗(yàn)。

此次合作旨在賦能OEM廠(chǎng)商和開(kāi)發(fā)者,在搭載未來(lái)旗艦驍龍平臺(tái)的終端上支持Llama 3,推動(dòng)生成式AI功能的普及。高通技術(shù)公司強(qiáng)大的異構(gòu)計(jì)算能夠無(wú)縫利用行業(yè)領(lǐng)先的CPU、GPU和NPU處理器,并結(jié)合先進(jìn)的內(nèi)存架構(gòu),賦能客戶(hù)、合作伙伴和開(kāi)發(fā)者實(shí)現(xiàn)最佳應(yīng)用性能、能效和電池續(xù)航。

開(kāi)發(fā)者可通過(guò)高通AI Hub訪(fǎng)問(wèn)相關(guān)資源和工具,以實(shí)現(xiàn)在驍龍平臺(tái)上優(yōu)化運(yùn)行Llama 3。高通AI Hub目前可提供約100個(gè)優(yōu)化AI模型,能夠?yàn)殚_(kāi)發(fā)者縮短產(chǎn)品上市時(shí)間,并使他們的應(yīng)用能夠發(fā)揮終端側(cè)AI的優(yōu)勢(shì)。

高通技術(shù)公司和Meta致力于驅(qū)動(dòng)創(chuàng)新,打造下一代AI體驗(yàn)。此次合作是雙方持續(xù)合作關(guān)系的重要里程碑,彰顯了雙方以強(qiáng)大AI能力賦能開(kāi)發(fā)者和用戶(hù)的不懈努力。



審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀(guān)點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    19896

    瀏覽量

    235225
  • 高通
    +關(guān)注

    關(guān)注

    78

    文章

    7624

    瀏覽量

    193231
  • GPU芯片
    +關(guān)注

    關(guān)注

    1

    文章

    305

    瀏覽量

    6204
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3146

    瀏覽量

    4070

原文標(biāo)題:高通支持Meta Llama 3在驍龍終端上運(yùn)行

文章出處:【微信號(hào):Qualcomm_China,微信公眾號(hào):高通中國(guó)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    使用 NPU 插件對(duì)量化的 Llama 3.1 8b 模型進(jìn)行推理時(shí)出現(xiàn)“從 __Int64 轉(zhuǎn)換為無(wú)符號(hào) int 的錯(cuò)誤”,怎么解決?

    安裝了 OpenVINO? GenAI 2024.4。 使用以下命令量化 Llama 3.1 8B 模型: optimum-cli export openvino -m meta-llama
    發(fā)表于 06-25 07:20

    通推出第四代7移動(dòng)平臺(tái)

    Elite Gaming特性盡享緊張刺激的游戲體驗(yàn),第四代7極具吸引力的出色功能讓用戶(hù)能夠全身心沉浸所愛(ài)。第四代7還帶來(lái)了創(chuàng)新的AI功能,
    的頭像 發(fā)表于 05-19 15:02 ?599次閱讀

    8至尊版移動(dòng)平臺(tái)革新終端側(cè)AI影像體驗(yàn)

    自智能手機(jī)時(shí)代以來(lái),人們對(duì)于手機(jī)攝影的專(zhuān)業(yè)追求從未停歇。憑借前沿的影像和終端側(cè)AI技術(shù),持續(xù)引領(lǐng)移動(dòng)計(jì)算攝影發(fā)展。最新的
    的頭像 發(fā)表于 03-31 11:09 ?931次閱讀

    無(wú)法OVMS上運(yùn)行來(lái)自Meta的大型語(yǔ)言模型 (LLM),為什么?

    無(wú)法 OVMS 上運(yùn)行來(lái)自 Meta 的大型語(yǔ)言模型 (LLM),例如 LLaMa2。 從 OVMS GitHub* 存儲(chǔ)庫(kù)運(yùn)行
    發(fā)表于 03-05 08:07

    使用NVIDIA TensorRT提升Llama 3.2性能

    Llama 3.2 模型集擴(kuò)展了 Meta Llama 開(kāi)源模型集的模型陣容,包含視覺(jué)
    的頭像 發(fā)表于 11-20 09:59 ?803次閱讀

    通推出第三代7s移動(dòng)平臺(tái)

    近日,通技術(shù)公司推出第三代7s移動(dòng)平臺(tái),延續(xù)7系的強(qiáng)勁勢(shì)頭,為更多用戶(hù)帶來(lái)更強(qiáng)大的功能
    的頭像 發(fā)表于 11-08 11:13 ?3121次閱讀

    Meta發(fā)布Llama 3.2量化版模型

    近日,Meta開(kāi)源Llama 3.2的1B與3B模型后,再次為人工智能領(lǐng)域帶來(lái)了新進(jìn)展。10月24日,
    的頭像 發(fā)表于 10-29 11:05 ?846次閱讀

    Llama 3 語(yǔ)言模型應(yīng)用

    人工智能領(lǐng)域,語(yǔ)言模型的發(fā)展一直是研究的熱點(diǎn)。隨著技術(shù)的不斷進(jìn)步,我們見(jiàn)證了從簡(jiǎn)單的關(guān)鍵詞匹配到復(fù)雜的上下文理解的轉(zhuǎn)變。 一、Llama 3
    的頭像 發(fā)表于 10-27 14:15 ?740次閱讀

    使用OpenVINO 2024.4算力魔方上部署Llama-3.2-1B-Instruct模型

    前面我們分享了《三步完成Llama3算力魔方的本地量化和部署》。2024年9月25日,Meta又發(fā)布了Llama3.2:一個(gè)多語(yǔ)言大型
    的頭像 發(fā)表于 10-12 09:39 ?1451次閱讀
    使用OpenVINO 2024.4<b class='flag-5'>在</b>算力魔方上部署<b class='flag-5'>Llama</b>-3.2-1B-Instruct<b class='flag-5'>模型</b>

    亞馬遜云科技上線(xiàn)Meta Llama 3.2模型

    亞馬遜云科技近日宣布,Meta公司的新一代模型Llama 3.2已在其平臺(tái)上正式上線(xiàn)。該模型包括Meta
    的頭像 發(fā)表于 10-11 18:08 ?747次閱讀

    亞馬遜云科技正式上線(xiàn)Meta Llama 3.2模型

    亞馬遜云科技宣布,Meta的新一代模型Llama 3.2,包括其首款多模態(tài)模型,現(xiàn)已在A(yíng)mazon Bedrock和Amazon SageMaker中正式可用。
    的頭像 發(fā)表于 10-11 09:20 ?874次閱讀

    AMD發(fā)布首款小語(yǔ)言AI模型Llama-135m

    近日,AMDHuggingface平臺(tái)上正式推出了自家首款“小語(yǔ)言模型”——AMD-Llama-135m。這款
    的頭像 發(fā)表于 09-30 16:38 ?1676次閱讀

    通第三代7s移動(dòng)平臺(tái)發(fā)布,賦能中端智能手機(jī)以卓越AI新體驗(yàn)

    圣迭戈8月20日訊——通公司今日盛大宣布了其第三代7s移動(dòng)平臺(tái)的問(wèn)世,此舉標(biāo)志著
    的頭像 發(fā)表于 08-21 15:42 ?3116次閱讀

    PerfXCloud平臺(tái)成功接入Meta Llama3.1

    近日,Meta對(duì)外宣布推出迄今為止最強(qiáng)大的開(kāi)源模型——Llama3.1 405B,同時(shí)還發(fā)布了全新優(yōu)化升級(jí)的70B和8B版本,技術(shù)革新的浪潮再次洶涌來(lái)襲!在此,我們滿(mǎn)懷欣喜地向您宣告,PerfXCloud
    的頭像 發(fā)表于 07-25 10:26 ?902次閱讀

    Meta發(fā)布全新開(kāi)源大模型Llama 3.1

    科技巨頭Meta近期震撼發(fā)布了其最新的開(kāi)源人工智能(AI)模型——Llama 3.1,這一舉措標(biāo)志著MetaAI領(lǐng)域的又一重大突破。
    的頭像 發(fā)表于 07-24 18:25 ?1784次閱讀