在生成式 AI 領(lǐng)域，構(gòu)建企業(yè)級(jí)大語(yǔ)言模型（LLM）需要具備采集高質(zhì)量數(shù)據(jù)、設(shè)置加速基礎(chǔ)設(shè)施和優(yōu)化模型方面的專(zhuān)業(yè)知識(shí)。

開(kāi)發(fā)者可以從預(yù)訓(xùn)練模型開(kāi)始，根據(jù)自己的用例對(duì)模型進(jìn)行微調(diào)，從而節(jié)省時(shí)間并使其解決方案更快地投入市場(chǎng)。開(kāi)發(fā)者需要一種簡(jiǎn)單的方法來(lái)試用模型，并通過(guò) API 集成這些模型來(lái)評(píng)估其能力。這有助于他們確定哪種模型最適合其應(yīng)用。

NVIDIA AI Foundation Models

NVIDIA AI Foundation Models是由精心挑選的社區(qū)模型和 NVIDIA 構(gòu)建的模型組成，并針對(duì)峰值性能進(jìn)行了優(yōu)化。開(kāi)發(fā)者可以通過(guò) API 或圖形用戶(hù)界面直接在瀏覽器中快速使用這些模型，無(wú)需進(jìn)行任何設(shè)置。這些模型通過(guò)NVIDIA TensorRT-LLM和激活感知權(quán)重量化（AWQ）技術(shù)進(jìn)行優(yōu)化，以便確定最高吞吐量和最低延遲的配置，并且在 NVIDIA 加速計(jì)算堆棧上大規(guī)模運(yùn)行。

NVIDIA Nemotron-3 8B 系列 LLM 介紹

NVIDIA Nemotron-3 8B系列模型為想要構(gòu)建生產(chǎn)就緒生成式 AI 應(yīng)用的客戶(hù)提供了基礎(chǔ)。這些模型是基于可靠的數(shù)據(jù)集構(gòu)建，其運(yùn)行性能可媲美規(guī)模遠(yuǎn)超它們的模型，因此非常適合企業(yè)部署。

NVIDIA Nemotron-3 8B 系列模型的一大關(guān)鍵優(yōu)勢(shì)在于其具有多語(yǔ)言功能，這使其成為全球企業(yè)的理想選擇。這些模型精通 53 種語(yǔ)言，包括英語(yǔ)、德語(yǔ)、俄語(yǔ)、西班牙語(yǔ)、法語(yǔ)、日語(yǔ)、中文、意大利語(yǔ)和荷蘭語(yǔ)。

該系列模型還采用了一系列對(duì)齊技術(shù)，包括監(jiān)督微調(diào)（SFT）、人類(lèi)反饋強(qiáng)化學(xué)習(xí)（RLHF）以及全新的NVIDIA SteerLM定制化技術(shù)，使客戶(hù)可以在推理時(shí)調(diào)整模型。無(wú)論是自定義模型還是從頭開(kāi)始運(yùn)行模型，這些變體為支持各種不同的用例打下了基礎(chǔ)。

Nemotron-3 8B 系列模型包含：

• Nemotron-3-8B-Chat-SteerLM：一個(gè)基于 NV-Nemotron-3-8B 基本模型的生成式語(yǔ)言模型，專(zhuān)為在推理過(guò)程中使用戶(hù)能夠采用 SteerLM 技術(shù)控制模型輸出而定制。

• Nemotron-3-8B-QA：一個(gè)基于 NV-Nemotron-3-8B 基礎(chǔ)模型的生成式語(yǔ)言模型，可針對(duì)問(wèn)題回答指令進(jìn)行進(jìn)一步微調(diào)。

經(jīng)過(guò) NVIDIA 優(yōu)化的社區(qū)模型

此外，NVIDIA 還提供領(lǐng)先的社區(qū)模型，這些模型均經(jīng)過(guò) NVIDIA TensorRT-LLM 的優(yōu)化，具有最高的性?xún)r(jià)比，企業(yè)機(jī)構(gòu)可根據(jù)企業(yè)應(yīng)用對(duì)它們進(jìn)行自定義。這些模型包括：

• Llama 2：最流行的 LLM 之一，能夠根據(jù)提示生成文本。

• Stable Diffusion XL：一種熱門(mén)的生成式 AI 模型，可使用文本創(chuàng)建富有表現(xiàn)力的圖像。

• Code Llama：Llama 2 模型的微調(diào)版本，可使用 Java、C++、Python 等多種流行語(yǔ)言生成代碼。

• Mistral 7B：一種能遵循指令、完成請(qǐng)求并生成有創(chuàng)意的文本格式的 LLM。

• Contrastive Language-Image Pre-Training (CLIP)：一種流行的開(kāi)源模型，能同時(shí)理解圖像和文本，從而完成圖像分類(lèi)、物體檢測(cè)等任務(wù)。

當(dāng)開(kāi)發(fā)者確定了合適的基礎(chǔ)模型后，就可以輕松地對(duì)這些模型進(jìn)行微調(diào)和部署，無(wú)論是在自己的基礎(chǔ)設(shè)施上，還是通過(guò)NVIDIA DGX Cloud在 NVIDIA 維護(hù)的基礎(chǔ)設(shè)施上。

下面讓我們一起體驗(yàn)、定制和部署微調(diào)后的 Llama 2 模型。

體驗(yàn) Llama 2

NVIDIA 提供了一個(gè)易于使用的界面，使開(kāi)發(fā)者能夠直接在瀏覽器上與 Llama 2 模型進(jìn)行交互。只需在提示字段中輸入文本并點(diǎn)擊生成，模型就會(huì)立即開(kāi)始生成信息回復(fù)。

在圖 1 中，用戶(hù)要求模型進(jìn)行 SQL 查詢(xún)，檢索 2021 年第一季度至少消費(fèi) 50,000 美元的客戶(hù)名單。模型不但正確理解了用戶(hù)的查詢(xún)，并提供了答案和詳細(xì)解釋。

圖 1. Llama 2 模型對(duì) SQL 查詢(xún)“獲取 2021 年第一季度

至少消費(fèi) 50,000 美元的客戶(hù)名單”所做出的響應(yīng)

而開(kāi)發(fā)者通常對(duì)代碼更感興趣。因此，NVIDIA 也直接在瀏覽器中提供了一個(gè) API 小工具，讓用戶(hù)可以通過(guò) API 無(wú)縫體驗(yàn)這些模型。

如要試用這個(gè)瀏覽器內(nèi)置的 API，請(qǐng)單擊 API 模式，然后從下拉菜單中選擇您傾向的語(yǔ)言。圖 2 顯示了通過(guò) cURL 調(diào)用該 API 的 API 指令。

圖 2. 用于體驗(yàn) Llama 2 模型的

瀏覽器內(nèi)置 API 小工具（cURL 語(yǔ)言）

自定義模型

通常情況下，一般模型無(wú)法滿(mǎn)足開(kāi)發(fā)者的需求，必須使用專(zhuān)有數(shù)據(jù)進(jìn)行微調(diào)。因此，NVIDIA 提供了多種自定義可用模型的途徑。

NVIDIA NeMo是一個(gè)端到端企業(yè)級(jí)云原生框架，開(kāi)發(fā)者可用它來(lái)構(gòu)建、定制和部署具有數(shù)十億參數(shù)的生成式 AI 模型。此外，NeMo 還提供用于微調(diào) LLM（如 Llama）的 API。

為了快速上手，我們也提供了一個(gè) NVIDIA LaunchPad 實(shí)驗(yàn)室。這個(gè)通用的試驗(yàn)場(chǎng)可對(duì)最新的 NVIDIA 企業(yè)級(jí)軟硬件進(jìn)行全方位測(cè)試。

該 LaunchPad 實(shí)驗(yàn)室體驗(yàn)中的以下示例使用自定義數(shù)據(jù)集對(duì) Llama 2 7B 文本-文本模型進(jìn)行了微調(diào)，以更好地執(zhí)行問(wèn)答任務(wù)。

1. 如要開(kāi)始使用，請(qǐng)單擊“Llama 2 微調(diào)實(shí)驗(yàn)室”(https://www.nvidia.com/en-us/launchpad/ai/customize-llama-2-with-enterprise-data/)并申請(qǐng)?jiān)L問(wèn)。在 Launchpad 上工作時(shí)，Llama 2 模型文件會(huì)以 .nemo 檢查點(diǎn)的形式預(yù)先下載，從而實(shí)現(xiàn)與 NVIDIA NeMo Framework 的微調(diào)兼容性。

2. 模型準(zhǔn)備就緒后，我們從 Hugging Face 加載 Dolly 數(shù)據(jù)集(https://huggingface.co/datasets/databricks/databricks-dolly-15k)并對(duì)其進(jìn)行預(yù)處理，刪除不必要的字段、重命名某些字段，以更好地適應(yīng)提示調(diào)整任務(wù)，并將數(shù)據(jù)集分割成訓(xùn)練文件和測(cè)試文件。

   dataset=load_dataset("aisquared/databricks-dolly-15k")

   上面所示的是一個(gè)數(shù)據(jù)樣本。為了適應(yīng)特定的用例，數(shù)據(jù)集可以互換。

   {
   "question": "When did Virgin Australia start operating?", 
   "context": "Virgin Australia, the trading name of Virgin Australia Airlines Pty Ltd, is an Australian-based airline. It is the largest airline by fleet size to use the Virgin brand. It commenced services on 31 August 2000 as Virgin Blue, with two aircraft on a single route.[3] It suddenly found itself as a major airline in Australia's domestic market after the collapse of Ansett Australia in September 2001. The airline has since grown to directly serve 32 cities in Australia, from hubs in Brisbane, Melbourne and Sydney.[4]", 
   "answer": "Virgin Australia commenced services on 31 August 2000 as Virgin Blue, with two aircraft on a single route.", 
   "taskname": "genqa"
   }

3. 然后，通過(guò)更新默認(rèn) NeMo 配置文件的某些字段來(lái)設(shè)置微調(diào)作業(yè)，以適應(yīng)當(dāng)前的訓(xùn)練任務(wù)。接著，使用 NeMo 訓(xùn)練腳本啟動(dòng)作業(yè)，運(yùn)行微調(diào)并在過(guò)程中生成模型檢查點(diǎn)。

4. 微調(diào)任務(wù)完成后，我們就可以運(yùn)行筆記本內(nèi)推理，生成一些示例輸出，并評(píng)估微調(diào)后模型的性能。

5. 接著讓我們來(lái)看看這樣一個(gè)示例輸出。我們?cè)谏舷挛闹刑峁┝藘煞N產(chǎn)品的描述：割草機(jī)和廚房機(jī)器人，并詢(xún)問(wèn)模型割草機(jī)是否由太陽(yáng)能供電。

   該模型準(zhǔn)確地把握了上下文，并給出了“是”的回答。在對(duì)該模型進(jìn)行微調(diào)后，它就能夠根據(jù)所提供的上下文準(zhǔn)確回答我們的問(wèn)題了。

   {
   "input": "Context: The Auto Chef Master is a personal kitchen robot that effortlessly turns raw ingredients into gourmet meals with the precision of a Michelin-star chef. The Eco Lawn Mower is a solar powered high-tech lawn mower that provides an eco-friendly and efficient way to maintain your lawn. Question: Is the lawn mower product solar powered? 
   Answer:", 
   "pred": "Yes", 
   "label": "Yes, the Eco Lawn Mower is solar powered.", 
   "taskname": "genqa"
   }

部署模型

NVIDIA AI FoundationEndpoints提供完全無(wú)服務(wù)器和可擴(kuò)展的 API，這些 API 可部署在您自己的云或NVIDIA DGX Cloud上。填寫(xiě)此表(https://developer.nvidia.com/login)即可開(kāi)始使用 AI Foundation Endpoints。

您還可以使用NVIDIA AI Enterprise在自己的云或數(shù)據(jù)中心基礎(chǔ)設(shè)施上進(jìn)行部署。這一端到端的云原生軟件平臺(tái)憑借其企業(yè)級(jí)的安全性、穩(wěn)定性、可管理性和支持，能夠加速生產(chǎn)級(jí)生成式 AI 的開(kāi)發(fā)和部署。當(dāng)您準(zhǔn)備從實(shí)驗(yàn)轉(zhuǎn)向生產(chǎn)階段時(shí)，就可以使用 NVIDIA AI Enterprise 的企業(yè)級(jí)運(yùn)行時(shí)來(lái)微調(diào)和部署這些模型。

更多信息

通過(guò)這篇文章，我們了解了 NVIDIA AI Foundation 模型是如何通過(guò)提供易于使用的模型體驗(yàn)界面，以及簡(jiǎn)化的模型微調(diào)和部署路徑，從而幫助企業(yè)開(kāi)發(fā)者找到適合各種用例的模型。

歡迎探索NVIDIA NGC 目錄中提供的不同AI Foundation 模型(https://catalog.ngc.nvidia.com/ai-foundation-models)，找到適合您的模型。

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國(guó)加州圣何塞會(huì)議中心舉行，線(xiàn)上大會(huì)也將同期開(kāi)放。點(diǎn)擊“閱讀原文”或掃描下方海報(bào)二維碼，立即注冊(cè) GTC 大會(huì)。