谷歌提出PaLI：一種多模態(tài)大模型，刷新多個(gè)任務(wù)SOTA！

PaLI 使用單獨(dú) “Image-and-text to text” 接口執(zhí)行很多圖像、語(yǔ)言以及 "圖像 + 語(yǔ)言" 任務(wù)。PaLI...

2023-01-29 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)圖像模型 2037 0

大模型工業(yè)化的方法論，都藏在 GPU 里

本文轉(zhuǎn)載自?DataFunTalk 編輯推薦 大模型已經(jīng)是人工智能的基礎(chǔ)設(shè)施了，如何進(jìn)一步普惠商用并盈利是當(dāng)務(wù)之急。近日，NVIDIA 邀請(qǐng)百度、字節(jié)跳...

2023-01-07 標(biāo)簽：英偉達(dá)大模型 1001 0

一張RTX 2080Ti搞定大模型訓(xùn)練！算力節(jié)省136倍！

在自然語(yǔ)言處理（NLP）領(lǐng)域，基于 Transformer 架構(gòu)的預(yù)訓(xùn)練模型已經(jīng)成為主流，并帶來(lái)諸多突破性進(jìn)展。很大程度上，這些模型性能強(qiáng)大的原因是它們...

2023-01-03 標(biāo)簽：gpu自然語(yǔ)言處理算力 2250 0

百度智算峰會(huì)精彩回顧：視覺(jué)大模型訓(xùn)練與推理優(yōu)化

在昨日舉行的 “2022 百度云智峰會(huì)·智算峰會(huì)” 上，百度智能云發(fā)布國(guó)內(nèi)首個(gè)全棧自研的 AI 基礎(chǔ)設(shè)施 “百度 AI 大底座”，引發(fā)行業(yè)的廣泛關(guān)注。其...

2022-12-29 標(biāo)簽：英偉達(dá)大模型 1025 0

全球首個(gè)面向遙感任務(wù)設(shè)計(jì)的億級(jí)視覺(jué)Transformer大模型

簡(jiǎn)單來(lái)說(shuō)，為了更好地應(yīng)對(duì)遙感圖像所具有的大尺寸特性以及圖像中的目標(biāo)物體的朝向任意性，我們提出了一種新的旋轉(zhuǎn)可變尺寸窗口的注意力（Rotated Vari...

2022-12-09 標(biāo)簽：視覺(jué)數(shù)據(jù)集Transformer 991 0

AI大模型開(kāi)源之困：壟斷、圍墻與算力之殤

也是在這樣的共識(shí)下，前不久阿里巴巴達(dá)摩院在云棲大會(huì)上推出的中文模型開(kāi)源社區(qū)“魔搭”（ModelScope）在AI界引起了很大的關(guān)注，目前國(guó)內(nèi)的一些機(jī)構(gòu)已...

2022-12-06 標(biāo)簽：AI模型大模型 824 0

CNCC 論壇 | NVIDIA 攜手百度、京東、騰訊、小冰，共同解讀超大模型的推理和部署實(shí)踐

NVIDIA 四大主題論壇 全棧式解決方案 為您啟動(dòng) AI 引擎 12 月 8 日-10 日，CNCC 邀您共赴 “計(jì)算之約”。以算力、數(shù)據(jù)、生態(tài)為主題...

2022-12-05 標(biāo)簽：英偉達(dá)大模型 1196 0

王井東：大模型已經(jīng)成為自動(dòng)駕駛能力提升核心驅(qū)動(dòng)力

在后融合方案里面通常需要規(guī)則的方法，把這三種傳感器的感知結(jié)果融合在一起，那這種基于規(guī)則的方法是不可學(xué)習(xí)的，它相對(duì)而言它的泛化能力不夠?；诖耍俣乳_(kāi)發(fā)了...

2022-12-02 標(biāo)簽：自動(dòng)駕駛毫米波雷達(dá)Apollo 1266 0

百度王海峰：深度學(xué)習(xí)平臺(tái)+大模型，產(chǎn)業(yè)智能化基座

11月30日，由深度學(xué)習(xí)技術(shù)及應(yīng)用國(guó)家工程研究中心主辦的Wave Summit+ 2022深度學(xué)習(xí)開(kāi)發(fā)者峰會(huì)如期舉行。鵬城實(shí)驗(yàn)室主任、中國(guó)工程院高文院士...

2022-12-01 標(biāo)簽：百度開(kāi)發(fā)者深度學(xué)習(xí) 1321 0

高通在AI領(lǐng)域的布局，驍龍 8 Gen 2支持Transformer大模型！

電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）前不久，在2022驍龍技術(shù)峰會(huì)上，高通正式發(fā)布了全新一代旗艦移動(dòng)平臺(tái)驍龍 8 Gen 2。驍龍 8 Gen 2搭載一顆專門(mén)...

2022-12-01 標(biāo)簽：電子發(fā)燒友網(wǎng)大模型 1812 0

大模型，化繁為簡(jiǎn)歸文心

大模型，已經(jīng)變成今天AI產(chǎn)業(yè)最為關(guān)注、最受期待的技術(shù)方向，甚至沒(méi)有之一。 其原因在于，大模型帶來(lái)了強(qiáng)大的泛化能力以及優(yōu)異的效果，并且能夠?qū)崿F(xiàn)AI模型研發(fā)...

2022-11-30 標(biāo)簽：AI模型大模型 838 0

高通在AI領(lǐng)域的布局，驍龍 8 Gen 2支持Transformer大模型！

電子發(fā)燒友網(wǎng)報(bào)道（文/李彎彎）前不久，在2022驍龍技術(shù)峰會(huì)上，高通正式發(fā)布了全新一代旗艦移動(dòng)平臺(tái)驍龍 8 Gen 2。驍龍 8 Gen 2搭載一顆專門(mén)...

2022-12-01 標(biāo)簽：高通AI大模型 4641 0

NVIDIA GPU加速潞晨科技Colossal-AI大模型開(kāi)發(fā)進(jìn)程

通過(guò) NVIDIA GPU 加速平臺(tái)，Colossal-AI 實(shí)現(xiàn)了通過(guò)高效多維并行、異構(gòu)內(nèi)存管理、大規(guī)模優(yōu)化庫(kù)、自適應(yīng)任務(wù)調(diào)度等方式，更高效快速部署 ...

2022-10-19 標(biāo)簽：NVIDIAgpuAI 1774 0

數(shù)據(jù)、算法與大模型研討交流會(huì)在易華錄召開(kāi)

10月11日，北京智譜華章科技有限公司（以下簡(jiǎn)稱“智譜AI”）董事長(zhǎng)劉德兵、南京三眼精靈信息技術(shù)有限公司（以下簡(jiǎn)稱“三眼精靈”）創(chuàng)始人汪利鵬及相關(guān)技術(shù)負(fù)...

2022-10-12 標(biāo)簽：算法AI大數(shù)據(jù) 1994 0

谷歌多模態(tài)大模型PaLI研究神經(jīng)網(wǎng)絡(luò)

語(yǔ)言和視覺(jué)任務(wù)的建模中，更大的神經(jīng)網(wǎng)絡(luò)模型能獲得更好的結(jié)果，幾乎已經(jīng)是共識(shí)。在語(yǔ)言方面，T5、GPT-3、Megatron-Turing、GLAM、Ch...

2022-10-09 標(biāo)簽：谷歌神經(jīng)網(wǎng)絡(luò)大模型 1411 0

AI大模型的白堊紀(jì)

美好的長(zhǎng)假即將過(guò)去，我們又該忙起來(lái)了。在AI領(lǐng)域，這兩年最忙的一項(xiàng)基礎(chǔ)技術(shù)應(yīng)該非大模型莫屬。 隨著最近AI繪畫(huà)、AI生成視頻等能力不斷刷新大眾對(duì)AI技術(shù)...

2022-10-08 標(biāo)簽：AI人工智能大模型 983 0

大模型的禾下乘涼夢(mèng)，百度自己來(lái)做試驗(yàn)田

禾下乘涼夢(mèng)，是一個(gè)今天國(guó)人無(wú)比熟悉的詞。它來(lái)自袁隆平院士對(duì)雜交水稻高產(chǎn)的理想追求，是袁隆平的中國(guó)夢(mèng)。他生前多次提到，夢(mèng)想到禾下乘涼，夢(mèng)里水稻長(zhǎng)得有高粱那...

2022-09-27 標(biāo)簽：AI人工智能大模型 1051 0

百度文心大模型實(shí)現(xiàn)端到端極致的性能優(yōu)化

王海峰在致辭中提出，大模型的產(chǎn)業(yè)模式將是“類臺(tái)積電”模式。大模型加深度學(xué)習(xí)平臺(tái)，貫通AI全產(chǎn)業(yè)鏈，是產(chǎn)業(yè)智能化的基座。

2022-09-02 標(biāo)簽：百度人工智能飛槳 788 0

如何在GPU資源受限的情況下訓(xùn)練transformers庫(kù)上面的大模型

自BERT出現(xiàn)以來(lái)，nlp領(lǐng)域已經(jīng)進(jìn)入了大模型的時(shí)代，大模型雖然效果好，但是畢竟不是人人都有著豐富的GPU資源，在訓(xùn)練時(shí)往往就捉襟見(jiàn)肘，出現(xiàn)顯存out ...

2022-08-31 標(biāo)簽：gpu自然語(yǔ)言處理nlp 2909 0