利用知識圖譜與Llama-Index技術(shù)構(gòu)建大模型驅(qū)動的RAG系統(tǒng)（上）

向量數(shù)據(jù)庫是一組高維向量的集合，用于表示實(shí)體或概念，例如單詞、短語或文檔。向量數(shù)據(jù)庫可以根據(jù)實(shí)體或概念的向量表示來度量它們之間的相似性或關(guān)聯(lián)性。

2024-02-22 標(biāo)簽：數(shù)據(jù)庫大模型 1597 0

低比特量化技術(shù)如何幫助LLM提升性能

針對大語言模型 (LLM) 在部署過程中的性能需求，低比特量化技術(shù)一直是優(yōu)化效果最佳的方案之一，本文將探討低比特量化技術(shù)如何幫助 LLM 提升性能，以及...

2023-12-08 標(biāo)簽：輕量化技術(shù)大模型LLM 1594 0

對于大模型RAG技術(shù)的一些思考

大模型或者句向量在訓(xùn)練時，使用的語料都是較為通用的語料。這導(dǎo)致了這些模型，對于垂直領(lǐng)域的知識識別是有缺陷的。它們沒有辦法理解企業(yè)內(nèi)部的一些專用術(shù)語，縮寫...

2023-12-07 標(biāo)簽：向量檢索大模型 1564 0

Intel跑步進(jìn)入AI PC時代！13代酷睿支持160億參數(shù)大模型、Arc顯卡提速54％

生成式AI(AIGC)無疑是當(dāng)下最熱門的話題和應(yīng)用，各家軟硬件廠商都在全力投入。 作為擁有強(qiáng)大硬件、廣泛生態(tài)的行業(yè)領(lǐng)袖，Intel也正在大力推動PC A...

2023-08-21 標(biāo)簽：intelAI大模型 1562 0

如何快速下載OpenVINO Notebooks中的AI大模型

OpenVINO Notebooks是Jupyter Notebook形式的OpenVINO范例程序大集合，方便開發(fā)者快速學(xué)習(xí)并掌握OpenVINO推理...

2023-12-12 標(biāo)簽：Linux大模型OpenVINO 1559 0

大模型應(yīng)用：激發(fā)芯片設(shè)計(jì)新紀(jì)元

2023 年，生成式 AI 如同當(dāng)紅炸子雞，吸引著全球的目光。當(dāng)前，圍繞這一領(lǐng)域的競爭愈發(fā)白熱化，全球陷入百模大戰(zhàn)，并朝著千模大戰(zhàn)奮進(jìn)。在這場潮流中，A...

2023-08-15 標(biāo)簽：芯片AIchiplet 1549 0

基于大模型的遙感圖像變化檢測新網(wǎng)絡(luò)

高分辨率遙感圖像已經(jīng)成為復(fù)雜變化檢測的有力工具。然而，在復(fù)雜場景中執(zhí)行穩(wěn)健的變化檢測仍然是一個艱巨的挑戰(zhàn)。變化檢測聚焦“非語義變化”中的“有效變化”，即...

2024-01-12 標(biāo)簽：SAM遙感圖像深度學(xué)習(xí) 1547 0

基于AI框架的智能工廠設(shè)計(jì)

在當(dāng)今的智能制造業(yè)中，智能化和數(shù)字化的發(fā)展已經(jīng)成為制造業(yè)的主要趨勢。隨著人工智能（AI）技術(shù)的不斷發(fā)展和進(jìn)步，智能制造的智慧工廠已經(jīng)成為制造業(yè)的一個重要...

2024-01-26 標(biāo)簽：物聯(lián)網(wǎng)AI智能制造 1543 0

大模型Reward Model的trick應(yīng)用技巧

借助對比學(xué)習(xí)和元學(xué)習(xí)的方法。增加對比學(xué)習(xí)的loss，對比學(xué)習(xí)通過增強(qiáng)模型區(qū)分能力，來增強(qiáng)RM的對好壞的區(qū)分水平。元學(xué)習(xí)則使獎勵模型能夠維持區(qū)分分布外樣本...

2024-01-25 標(biāo)簽：二極管大模型 1529 0

端到端InfiniBand網(wǎng)絡(luò)解決LLM訓(xùn)練瓶頸

ChatGPT對技術(shù)的影響引發(fā)了對人工智能未來的預(yù)測，尤其是多模態(tài)技術(shù)的關(guān)注。OpenAI推出了具有突破性的多模態(tài)模型GPT-4，使各個領(lǐng)域取得了顯著的...

2024-10-23 標(biāo)簽：InfiniBandChatGPT大模型 1514 0

基于AX650N芯片部署MiniCPM-V 2.0高效端側(cè)多模態(tài)大模型

今年4月份，面壁智能&清華大學(xué)自然語言處理實(shí)驗(yàn)室推出MiniCPM系列的最新多模態(tài)版本MiniCPM-V 2.0。該模型基于MiniCPM 2....

2024-07-15 標(biāo)簽：自然語言處理愛芯元智大模型 1487 0

大模型壓縮首篇綜述來啦

模型壓縮涉及將大型資源密集型模型轉(zhuǎn)化為適合在受限移動設(shè)備上存儲的緊湊版本。此外，它還可以優(yōu)化模型以實(shí)現(xiàn)更快的執(zhí)行速度和最小的延遲，或在這些目標(biāo)之間取得平衡。

2023-09-26 標(biāo)簽：模型數(shù)據(jù)集nlp 1486 0

多任務(wù)微調(diào)框架MFTCoder詳細(xì)技術(shù)解讀

MFTCoder具備高效訓(xùn)練特征，包括提供高效的數(shù)據(jù)Tokenization模式和支持PEFT微調(diào)，能有效提升微調(diào)訓(xùn)練速度并降低對資源的需求。

2023-11-17 標(biāo)簽：函數(shù)pythonGPT 1480 0

1-2B參數(shù)規(guī)模大模型的使用心得

大模型時代，根據(jù)大模型縮放定律，大家通常都在追求模型的參數(shù)規(guī)模更大、訓(xùn)練的數(shù)據(jù)更多，從而使得大模型涌現(xiàn)出更多的智能。但是，模型參數(shù)越大部署壓力就越大。即...

2023-12-28 標(biāo)簽：手機(jī)gpu參數(shù) 1474 0

專補(bǔ)大模型短板的RAG有哪些新進(jìn)展？這篇綜述講明白了

然而，盡管它們的能力令人印象深刻，但它們并非無懈可擊。這些模型可能會產(chǎn)生誤導(dǎo)性的 “幻覺”，依賴的信息可能過時，處理特定知識時效率不高，缺乏專業(yè)領(lǐng)域的深...

2024-01-17 標(biāo)簽：人工智能語言模型大模型 1471 0

大模型微調(diào)開源項(xiàng)目全流程

對于所有“基座”（Base）模型，–template 參數(shù)可以是 default, alpaca, vicuna 等任意值。但“對話”（Chat）模型請...

2024-03-13 標(biāo)簽：機(jī)器學(xué)習(xí)大模型 1459 0

OneLLM：對齊所有模態(tài)的框架！

OneLLM 是第一個在單個模型中集成八種不同模態(tài)的MLLM。通過統(tǒng)一的框架和漸進(jìn)式多模態(tài)對齊pipelines，可以很容易地擴(kuò)展OneLLM以包含更多...

2024-01-04 標(biāo)簽：編碼器路由器大模型 1457 0

中科大提出：LLMs的個性化綜述，詳述大模型與個性化的挑戰(zhàn)與機(jī)遇

因此，我們認(rèn)為現(xiàn)在是時候?qū)徱晜€性化服務(wù)的挑戰(zhàn)以及用大型語言模型來解決它們的機(jī)會了。特別是，我們在這篇展望性論文中專門討論了以下幾個方面：現(xiàn)有個性化系統(tǒng)的...

2023-08-21 標(biāo)簽：人工智能語言模型大模型 1438 0

澎峰科技高性能大模型推理引擎PerfXLM解析

自ChatGPT問世以來，大模型遍地開花，承載大模型應(yīng)用的高性能推理框架也不斷推出，大有百家爭鳴之勢。在這種情況下，澎峰科技作為全球領(lǐng)先的智能計(jì)算服務(wù)提...

2024-09-29 標(biāo)簽：澎峰科技大模型 1429 0