怎樣讓PPO訓(xùn)練更穩(wěn)定？早期人類征服RLHF的馴化經(jīng)驗

盡管魯迅先生曾言：真的強化敢于直面慘淡的結(jié)果，敢于正視崩壞的曲線。但日復(fù)一復(fù)地開盲盒難免會讓人心臟承受不了，好在前人們留下了寶貴的馴化經(jīng)驗，今天讓我們一...

2023-11-16 標簽：噪聲語言模型LLM 1185 0

華為提出Sorted LLaMA：SoFT代替SFT，訓(xùn)練多合一大語言模型

而這一切的背后，是一項名為Sorted Fine-Tuning（SoFT）的新訓(xùn)練技術(shù)。SoFT讓我們可以在一個訓(xùn)練周期內(nèi)產(chǎn)出多個子模型，無需任何額外的...

2023-09-26 標簽：華為模型語言模型 1153 0

行人摔倒檢測-在英特爾開發(fā)套件上基于OpenVINO? C# API部署PP-Human

OpenVINO 2023.1 于 2023 年 9 月 18 日發(fā)布，該工具包帶來了挖掘生成人工智能全部潛力的新功能。生成人工智能的覆蓋范圍得到了擴展...

2023-10-13 標簽：英特爾視頻監(jiān)控語言模型 1148 0

計算機視覺迎來GPT時刻！UC伯克利三巨頭祭出首個純CV大模型！

在損失函數(shù)上，研究者從自然語言社區(qū)汲取靈感，即掩碼 token 建模已經(jīng)「讓位給了」序列自回歸預(yù)測方法。一旦圖像、視頻、標注圖像都可以表示為序列，則訓(xùn)練...

2023-12-05 標簽：圖像計算機視覺語言模型 1131 0

Scaling Law大模型設(shè)計實操案例

縱軸是"Bits for words", 這也是交叉熵的一個單位。在計算交叉熵時，如果使用以 2 為底的對數(shù)，交叉熵的單位就是 &q...

2023-11-22 標簽：語言模型GPTOpenAI 1125 0

時下改變AI的6大NLP語言模型

消除早期語言模型的局限性，特別是在預(yù)訓(xùn)練中表現(xiàn)出的單向性。這些限制了可用于預(yù)訓(xùn)練的架構(gòu)選擇，以及微調(diào)的方法。例如，OpenAI的GPT v1使用從左到右...

2023-05-26 標簽：語言模型nlp 1124 0

DreamLLM：多功能多模態(tài)大型語言模型，你的DreamLLM~

由于固有的模態(tài)缺口，如CLIP語義主要關(guān)注模態(tài)共享信息，往往忽略了可以增強多模態(tài)理解的模態(tài)特定知識。因此，這些研究并沒有充分認識到多模式創(chuàng)造和理解之間潛...

2023-09-25 標簽：框架語言模型機器智能 1121 0

一個通用的自適應(yīng)prompt方法，突破了零樣本學(xué)習(xí)的瓶頸

為了解決這個問題，這篇研究提出了一種Universal Self-adaptive Prompting (USP)方法，對LLMs的零樣本學(xué)習(xí)進行了優(yōu)化...

2023-06-01 標簽：語言模型數(shù)據(jù)集自然語言 1113 0

開源LLEMMA發(fā)布：超越未公開的頂尖模型，可直接應(yīng)用于工具和定理證明

但LLEMMA的出現(xiàn)改變了這一局面。它不僅在MATH基準測試上創(chuàng)下了新高，甚至超越了某些還未對外公開的頂尖模型，如Minerva。更讓人欣喜的是，LLE...

2023-10-22 標簽：模型語言模型python 1113 0

使用NVIDIA NeMo定制LLM的過程

如何創(chuàng)建自定義語言模型

2023-07-05 標簽：NVIDIAAI語言模型 1096 0

基于檢索的大語言模型簡介

簡介章節(jié)講的是比較基礎(chǔ)的，主要介紹了本次要介紹的概念，即檢索（Retrieval）和大語言模型（LLM）

2023-11-15 標簽：語言模型LLM 1088 0

大語言模型推斷中的批處理效應(yīng)

隨著開源預(yù)訓(xùn)練大型語言模型（Large Language Model, LLM ）變得更加強大和開放，越來越多的開發(fā)者將大語言模型納入到他們的項目中。其...

2024-01-04 標簽：語言模型機器學(xué)習(xí)LoRa 1072 0

深入理解語言模型的突顯能力

最近，人們對大型語言模型所展示的強大能力（例如思維鏈 ^[2]^ 、便簽本 ^[3]^ ）產(chǎn)生了極大的興趣，并開展了許多工作。我們將之統(tǒng)稱為大模型的突現(xiàn)...

2023-02-22 標簽：語言模型nlpChatGPT 1067 0

多模態(tài)上下文指令調(diào)優(yōu)數(shù)據(jù)集MIMIC-IT

然而，一個理想的 AI 對話助手應(yīng)該能夠解決涉及多種模態(tài)的任務(wù)。這需要獲得一個多樣化和高質(zhì)量的多模式指令跟隨數(shù)據(jù)集。比如，LLaVAInstruct-1...

2023-06-12 標簽：AI語言模型數(shù)據(jù)集 1058 0

探索ChatGPT模型的人工智能語言模型

最大的區(qū)別ChatGPT是通過對話數(shù)據(jù)進行預(yù)訓(xùn)練，而不僅僅是通過單一的句子進行預(yù)訓(xùn)練，這使得ChatGPT能夠更好地理解對話的上下文，并進行連貫的回復(fù)。

2024-04-24 標簽：編碼器人工智能語言模型 1036 0

一文速覽大語言模型提示最新進展

盡管基本的CoT提示策略在復(fù)雜推理任務(wù)中展示出了強大的能力，但它仍然面臨著一些問題，比如推理過程存在錯誤和不穩(wěn)定等。因此，一系列的研究通過增強的提示方法...

2023-12-27 標簽：生成器語言模型自然語言處理 1021 0

邱錫鵬團隊提出具有內(nèi)生跨模態(tài)能力的SpeechGPT，為多模態(tài)LLM指明方向

大型語言模型（LLM）在各種自然語言處理任務(wù)上表現(xiàn)出驚人的能力。與此同時，多模態(tài)大型語言模型，如 GPT-4、PALM-E 和 LLaVA，已經(jīng)探索了 ...

2023-05-22 標簽：編碼器生成器語言模型 1018 0

大型語言模型與知識圖譜：機遇與挑戰(zhàn)

這對知識表示領(lǐng)域來說是一個巨大的步驟。長時間以來，人們關(guān)注的是明確的知識，例如嵌入在文本中的知識，有時也被稱為非結(jié)構(gòu)化數(shù)據(jù)，以及以結(jié)構(gòu)化形式存在的知識，...

2023-08-24 標簽：語言模型自然語言知識圖譜 1013 0