完善資料讓更多小伙伴認識你，還能領取20積分哦，立即完善>
標簽 > 語言模型
文章：546個 瀏覽：10801次 帖子：4個
這對知識表示領域來說是一個巨大的步驟。長時間以來，人們關注的是明確的知識，例如嵌入在文本中的知識，有時也被稱為非結構化數(shù)據(jù)，以及以結構化形式存在的知識，...
Allen AI推出集成主流大語言模型的LLM-BLENDER框架
在推理階段，計算一個矩陣，該矩陣包含表示成對比較結果的logits。給定該矩陣，可以推斷給定輸入x的N個輸出的排序。隨后，可以使用來自PAIRRANKE...
進一步，本文研究了在更依賴 KG 的知識庫問答任務中如何利用 PLM。已有研究通常割裂地建模檢索-推理兩階段，先從大規(guī)模知識圖譜上檢索問題相關的小子圖，...
2023-04-07 標簽：PLM語言模型數(shù)據(jù)集 997 0
加利福尼亞州圣克拉拉——Nvidia通過一個名為TensorRT LLM的新開源軟件庫，將其H100、A100和L4 GPU的大型語言模型(LLM)推理...
誠然，專有模型很方便，“開箱即用”。但是，當務之急是投資于開源的 LLM，既要幫助建立它們，又要將它們用于研究。我很樂觀地認為，它們將被廣泛采用，就像開...
同樣的，使用這些低資源語言的研究人員在ML和NLP社區(qū)中的代表性同樣不足。例如，雖然我們可以觀察到隸屬于非洲大學的作者數(shù)量在頂級機器學習（ML）和NLP...
Prompt Tuning 可以讓預訓練的語言模型快速適應下游任務。雖然有研究證明：當訓練數(shù)據(jù)足夠多的時候，Prompt Tuning 的微調(diào)結果可以媲...
2023-06-20 標簽：模塊數(shù)據(jù)語言模型 981 0
? 大型語言模型能否捕捉到它們所處理和生成的文本中的語義信息？這一問題在計算機科學和自然語言處理領域一直存在爭議。然而，MIT的一項新研究表明，僅基于文...
2023-05-25 標簽：數(shù)據(jù)語言模型自然語言 980 0
ToolLLM：促進大型語言模型掌握16000+真實世界的APIs
盡管開源大語言模型 (LLM) 及其變體（例如 LLaMA 和 Vicuna）取得了進步，但它們在執(zhí)行更高級別的任務方面仍然受到很大限制，例如遵循人類指...
2023-08-02 標簽：數(shù)據(jù)開源語言模型 980 0
面對推測性解碼的復雜性，研究人員推出了Medusa技術，這個框架回歸了Transformer模型的本質(zhì)，減少了復雜度，增強了效率，讓每個生成階段都能快速...
2023-09-20 標簽：神經(jīng)網(wǎng)絡語言模型LLM 979 0
這種“幻覺”現(xiàn)象可能是無意中產(chǎn)生的，它可以由多種因素導致，包括訓練數(shù)據(jù)集中存在的偏見、模型不能獲取最新的信息，或是其在理解和生成準確回應時的固有限制。為...
Llama 2是 Meta 發(fā)布了其最新的大型語言模型，Llama2 是基于 Transformer 的人工神經(jīng)網(wǎng)絡，以一系列單詞作為輸入，遞歸地預測下...
2023-08-06 標簽：英特爾神經(jīng)網(wǎng)絡AI 975 0
蒸餾也能Step-by-Step：新方法讓小模型也能媲美2000倍體量大模型
為了解決大型模型的這個問題，部署者往往采用小一些的特定模型來替代。這些小一點的模型用常見范式 —— 微調(diào)或是蒸餾來進行訓練。微調(diào)使用下游的人類注釋數(shù)據(jù)升...
無監(jiān)督域自適應場景：基于檢索增強的情境學習實現(xiàn)知識遷移
本文對比了多種基線方法，包括無監(jiān)督域自適應的傳統(tǒng)方法（如Pseudo-labeling和對抗訓練）、基于檢索的LM方法（如REALM和RAG）和情境學習...
Falcon-7B大型語言模型在心理健康對話數(shù)據(jù)集上使用QLoRA進行微調(diào)
使用領域適應技術對預訓練LLM進行微調(diào)可以提高在特定領域任務上的性能。但是，進行完全微調(diào)可能會很昂貴，并且可能會導致CUDA內(nèi)存不足錯誤。當進行完全微調(diào)...
2023-09-19 標簽：模型語言模型數(shù)據(jù)集 873 0
號稱「碾壓」LLaMA的Falcon實測得分僅49.08，HuggingFace決定重寫排行榜代碼
這是一組由 Meta 開源的大型語言模型，共有 7B、13B、33B、65B 四種版本。其中，LLaMA-13B 在大多數(shù)數(shù)據(jù)集上超過了 GPT-3（1...
爆火Llama 2一周請求下載超15萬，有人開源了Rust實現(xiàn)版本
隨著 Llama 2 的逐漸走紅，大家對它的二次開發(fā)開始流行起來。前幾天，OpenAI 科學家 Karpathy 利用周末時間開發(fā)了一個明星項目 lla...
FPGA加速器支撐ChatGPT類大語言模型創(chuàng)新
作者：Bill Jenkins，Achronix人工智能/機器學習產(chǎn)品營銷總監(jiān) 探索FPGA加速語言模型如何通過更快的推理、更低的延遲和更好的語言理解來...
在一些非自然圖像中要比傳統(tǒng)模型表現(xiàn)更好 CoOp 增加一些 prompt 會讓模型能力進一步提升 怎么讓能力更好？可以引入其他知識，即其他的預訓練模型，...
考慮到強化學習[10]訓練大語言模型的困難性，我們從語言建模的角度對大語言模型進行解毒。已有工作將解毒視為單一的任務，可以實現(xiàn)從有毒內(nèi)容到無毒內(nèi)容的直接...
換一批
編輯推薦廠商產(chǎn)品技術軟件/工具OS/語言教程專題
| 電機控制 | DSP | 氮化鎵 | 功率放大器 | ChatGPT | 自動駕駛 | TI | 瑞薩電子 |
| BLDC | PLC | 碳化硅 | 二極管 | OpenAI | 元宇宙 | 安森美 | ADI |
| 無刷電機 | FOC | IGBT | 逆變器 | 文心一言 | 5G | 英飛凌 | 羅姆 |
| 直流電機 | PID | MOSFET | 傳感器 | 人工智能 | 物聯(lián)網(wǎng) | NXP | 賽靈思 |
| 步進電機 | SPWM | 充電樁 | IPM | 機器視覺 | 無人機 | 三菱電機 | ST |
| 伺服電機 | SVPWM | 光伏發(fā)電 | UPS | AR | 智能電網(wǎng) | 國民技術 | Microchip |
| Arduino | BeagleBone | 樹莓派 | STM32 | MSP430 | EFM32 | ARM mbed | EDA |
| 示波器 | LPC | imx8 | PSoC | Altium Designer | Allegro | Mentor | Pads |
| OrCAD | Cadence | AutoCAD | 華秋DFM | Keil | MATLAB | MPLAB | Quartus |
| C++ | Java | Python | JavaScript | node.js | RISC-V | verilog | Tensorflow |
| Android | iOS | linux | RTOS | FreeRTOS | LiteOS | RT-THread | uCOS |
| DuerOS | Brillo | Windows11 | HarmonyOS |
關注我們的微信
下載發(fā)燒友APP
電子發(fā)燒友觀察
版權所有 ? 湖南華秋數(shù)字科技有限公司
長沙市望城經(jīng)濟技術開發(fā)區(qū)航空路6號手機智能終端產(chǎn)業(yè)園2號廠房3層（0731-88081133）
電子發(fā)燒友 （電路圖） 湘公網(wǎng)安備43011202000918
工商網(wǎng)監(jiān)
湘ICP備2023018690號-1
