將大模型裝進PC和手機，需要怎樣的底層創(chuàng)“芯”？

算力始終是支撐端側AI發(fā)展的基石，也是引領終端AI創(chuàng)新的核心引擎

2024-08-07 標簽：cpuAINPU 3084 0

人大發(fā)表迄今為止最大最全的大模型綜述

大語言模型目前已經成為學界研究的熱點。我們統(tǒng)計了arXiv論文庫中自2018年6月以來包含關鍵詞"語言模型"以及自2019年10月以...

2023-07-06 標簽：語言模型大模型 3029 0

如何在SAM時代下打造高效的高性能計算大模型訓練平臺

Segment Anything Model (SAM)是Meta 公司最近推出的一個創(chuàng)新AI 模型，專門用于計算機視覺領域圖像分割任務。借鑒ChatG...

2023-08-21 標簽：amd人工智能SAM 3021 0

大模型系列：Flash Attention V2整體運作流程

基于1.1中的思想，我們在V2中將原本的內外循環(huán)置換了位置（示意圖就不畫了，基本可以對比V1示意圖想象出來）。我們直接來看V2的偽代碼（如果對以下偽代碼...

2024-02-21 標簽：gpu并行計算大模型 3006 0

多模態(tài)大模型最全綜述來了！

其中最后一個表示監(jiān)督信號是從圖像本身中挖掘出來的，流行的方法包括對比學習、非對比學習和masked image建模。在這些方法之外，文章也進一步討論了多...

2023-09-26 標簽：圖像AIGC大模型 2946 0

大模型應用之路：從提示詞到通用人工智能（AGI）

大模型在人工智能領域的應用正迅速擴展，從最初的提示詞（Prompt）工程到追求通用人工智能（AGI）的宏偉目標，這一旅程充滿了挑戰(zhàn)與創(chuàng)新。本文將探索大模...

2024-06-14 標簽：AI人工智能Agi 2898 0

開放加速規(guī)范AI服務器的設計方法

當前語言大模型的參數(shù)量已達千億以上，訓練數(shù)據(jù)集的規(guī)模也達到了TB級別。業(yè)界典型的自然語言大模型有GPT、LLAMA、PaLM、文心、悟道、源等。如果用“...

2023-09-01 標簽：服務器AI計算系統(tǒng) 2862 0

如何從第一性原理看大模型Agent技術原理

人的視覺識別過程是一個層次性的關系，從最初級的視覺皮層一直到更高級的皮層，從簡單的視覺邊緣特征到線條的方向性，再到線條之間的組合，如角等更高維特征的形成...

2023-11-14 標簽：機器人神經網(wǎng)絡運動控制 2860 0

風口浪尖行穩(wěn)致遠 - 英偉達等企業(yè)如何順應高性能計算大模型浪潮

關鍵詞:PLM;NLP;Transformer;ChatGPT;BERT;RNN;CNN;自注意力機制;多頭注意力機制;?Decoder Only ;E...

2023-08-23 標簽：神經網(wǎng)絡AI英偉達 2747 0

谷歌重磅新作PaLI-3：視覺語言新模型！更小、更快、更強

效果怎么樣呢？PaLI-3 在需要視覺定位文本理解和目標定位的任務上實現(xiàn)了新的 SOTA，包括 RefCOCO 數(shù)據(jù)集上的 8 個視覺定位文本理解任務和...

2023-10-20 標簽：編碼器語言模型大模型 2741 0

什么是大模型？快速了解大模型基本概念

“在人工智能的世界里，大模型就像超級大腦一樣，能夠處理和理解大量的信息。你可能聽說過ChatGPT，它就是大模型的一個典型代表。那么，什么是大模型呢？讓...

2024-08-07 標簽：人工智能機器學習大模型 2709 0

基于大模型的仿真系統(tǒng)研究一——三維重建大模型

一 基于大模型的仿真系統(tǒng)框架 ? ?傳統(tǒng)的仿真測試驗證普遍基于場景，而場景的構建主要由道路和場景編輯器來人工搭建靜態(tài)場景和動態(tài)場景，這種方式費時費力，而...

2024-07-30 標簽：仿真系統(tǒng)大模型 2614 0

科大訊飛深度解析DeepSeek-V3/R1推理系統(tǒng)成本

本篇分析來自科大訊飛技術團隊，深度解析了DeepSeek-V3 / R1 推理系統(tǒng)成本，旨在助力開發(fā)者實現(xiàn)高性價比的MoE集群部署方案。感謝訊飛研究院副...

2025-04-15 標簽：開源科大訊飛大模型 2614 0

大模型外掛知識庫優(yōu)化-大模型輔助向量召回

用LLM根據(jù)用戶query生成k個“假答案”。（大模型生成答案采用sample模式，保證生成的k個答案不一樣，不懂LLM生成答案原理的同學可以看我這篇文...

2023-09-08 標簽：向量數(shù)據(jù)集大模型 2580 0

在Dify中使用PerfXCloud大模型推理服務

近日，Dify全面接入了Perf XCloud，借助Perf XCloud提供的大模型調用服務，用戶可在Dify中構建出更加經濟、高效的LLM應用。

2024-07-15 標簽：AI澎峰科技大模型 2568 0

AI新基建引領“三浪變革”，驅動產業(yè)升級與創(chuàng)新

2023年迎來“知識生產力變革”第一浪，以大語言模型為核心，實現(xiàn)知識工程的生產力變革，類似于中世紀的印刷革命。大語言模型具有超高速學習能力，可在人機協(xié)同...

2024-01-31 標簽：gpuAI人工智能 2530 0

盤點一下史上最全大語言模型訓練中的網(wǎng)絡技術

人工智能的基礎設施在大語言模型訓練和推理過程中發(fā)揮了關鍵的作用。隨著大語言模型規(guī)模不斷增大，其對計算和通信的需求也在不斷增加。高

2024-03-27 標簽：處理器人工智能網(wǎng)絡拓撲 2491 0

GTC 2023：短視頻多模態(tài)超大模型的場景應用

快手科技圍繞提高模型計算效率和可部署開展技術攻關，沉淀了一套通用的混合并行訓練、壓縮、推理整體解決方案。

2023-03-23 標簽：AI英偉達gtc 2425 0

揭秘英偉達A100、A800、H100、H800 GPU如何實現(xiàn)高性能大模型的百倍訓練加速

摘要：本文主要介紹大模型的內部運行原理、我國算力發(fā)展現(xiàn)狀。大模型指具有巨大參數(shù)量的深度學習模型，如GPT-4。其通過在大規(guī)模數(shù)據(jù)集上進行訓練，能夠產生更...

2023-09-09 標簽：NVIDIAgpu英偉達 2410 0