近日,Meta對外宣布推出迄今為止最強(qiáng)大的開源模型——Llama3.1 405B,同時還發(fā)布了全新優(yōu)化升級的70B和8B版本,技術(shù)革新的浪潮再次洶涌來襲!在此,我們滿懷欣喜地向您宣告,PerfXCloud平臺現(xiàn)已成功接入Llama3.1,為您呈上超乎想象的開發(fā)新體驗(yàn)。
Llama3.1特性
多種版本:有405B、70B和8B三個參數(shù)規(guī)模不同的版本。
性能強(qiáng)大:Llama 3.1 405B在常識、可操作性、數(shù)學(xué)、工具使用以及多語言翻譯等一系列任務(wù)中,可以和 GPT - 4o、Claude 3.5 Sonnet 以及 Gemini Ultra 等業(yè)界頂尖模型不分伯仲。
超長上下文窗口:128k的上下文,多語言,良好的代碼生成能力,復(fù)雜推理能力,以及工具使用能力。
多語言支持:支持英語、德語、法語、意大利語、葡萄牙語、印地語、西班牙語和泰語等多種語言。
開源策略:堅(jiān)持開源,更新許可條款,允許開發(fā)者通過其輸出開發(fā)第三方 AI 模型。
PerfXCloud介紹
PerfXCloud是澎峰科技為開發(fā)者和企業(yè)量身打造的AI開發(fā)和部署平臺。它專注于滿足大模型的微調(diào)和推理需求,為用戶提供極致便捷的一鍵部署體驗(yàn)。
PerfXCloud為算力中心提供大模型AI科學(xué)與工程計(jì)算的整體運(yùn)營解決方案,助力算力中心升級成為“AI超級工廠”
PerfXCloud核心優(yōu)勢
PerfXCloud為開發(fā)者和業(yè)務(wù)部署,帶來絲滑體驗(yàn)。
PerfXCloud注重保護(hù)客戶私有模型權(quán)益和數(shù)據(jù)安全。
PerfXCloud集成澎峰高性能的加速計(jì)算模塊。
-
AI
+關(guān)注
關(guān)注
88文章
35165瀏覽量
280076 -
模型
+關(guān)注
關(guān)注
1文章
3521瀏覽量
50440 -
Meta
+關(guān)注
關(guān)注
0文章
303瀏覽量
11869
原文標(biāo)題:PerfXCloud重磅更新|Llama3.1震撼發(fā)布,PerfXCloud現(xiàn)已支持!
文章出處:【微信號:perfxlab,微信公眾號:perfxlab】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
使用 NPU 插件對量化的 Llama 3.1 8b 模型進(jìn)行推理時出現(xiàn)“從 __Int64 轉(zhuǎn)換為無符號 int 的錯誤”,怎么解決?
無法在OVMS上運(yùn)行來自Meta的大型語言模型 (LLM),為什么?
Meta重磅發(fā)布Llama 3.3 70B:開源AI模型的新里程碑

使用NVIDIA TensorRT提升Llama 3.2性能
Meta發(fā)布Llama 3.2量化版模型
亞馬遜云科技上線Meta Llama 3.2模型
亞馬遜云科技正式上線Meta Llama 3.2模型
Meta發(fā)布多模態(tài)LLAMA 3.2人工智能模型
英偉達(dá)發(fā)布AI模型 Llama-3.1-Nemotron-51B AI模型
PerfXCloud 重大更新 端側(cè)多模態(tài)模型 MiniCPM-Llama3-V 2.5 閃亮上架

Meta Llama 3.1系列模型可在Google Cloud上使用
PerfXCloud順利接入MOE大模型DeepSeek-V2

如何將Llama3.1模型部署在英特爾酷睿Ultra處理器

Meta發(fā)布全新開源大模型Llama 3.1
NVIDIA AI Foundry 為全球企業(yè)打造自定義 Llama 3.1 生成式 AI 模型

評論