Splashtop如何提供快速連接和低延遲

為了使遠(yuǎn)程訪問按預(yù)期運行，用戶需要盡可能減少延遲，這既是為了提高用戶體驗，也是為了增強一般性能。延遲令人沮喪，影響工作。在進行VoIP 或視頻通話時，音...

2024-01-04 標(biāo)簽：gpu服務(wù)器中繼器 711 0

簡單聊聊半導(dǎo)體芯片

在之前的文章里，小棗君說過，行業(yè)里通常會把半導(dǎo)體芯片分為數(shù)字芯片和模擬芯片。其中，數(shù)字芯片的市場規(guī)模占比較大，達到70%左右。

2024-01-04 標(biāo)簽：處理器芯片gpu 1794 0

AI計算，為什么要用GPU？

今天這篇文章，我們繼續(xù)來聊聊芯片。 在之前的文章里，小棗君說過，行業(yè)里通常會把半導(dǎo)體芯片分為數(shù)字芯片和模擬芯片。其中，數(shù)字芯片的市場規(guī)模占比較大，達到7...

2024-01-04 標(biāo)簽：gpuAI數(shù)字芯片 907 0

四種微調(diào)大模型的方法介紹

全微調(diào)（Full Fine-tuning）：全微調(diào)是指對整個預(yù)訓(xùn)練模型進行微調(diào)，包括所有的模型參數(shù)。在這種方法中，預(yù)訓(xùn)練模型的所有層和參數(shù)都會被更新和優(yōu)...

2024-01-03 標(biāo)簽：gpu深度學(xué)習(xí)ChatGPT 2.6萬 0

基于國產(chǎn)AI編譯器ICRAFT部署YOLOv5邊緣端計算的實戰(zhàn)案例

人工智能領(lǐng)域中各種算法模型的不斷研究和改進。隨著深度學(xué)習(xí)的興起，包括卷積神經(jīng)網(wǎng)絡(luò)（CNN）、循環(huán)神經(jīng)網(wǎng)絡(luò)（RNN）、生成對抗網(wǎng)絡(luò)（GAN）、transf...

2024-01-03 標(biāo)簽：gpu物聯(lián)網(wǎng)人工智能 1.8萬 0

AI時代的計算，是不是GPU一家通吃呢？

在之前的文章里，小棗君說過，行業(yè)里通常會把半導(dǎo)體芯片分為數(shù)字芯片和模擬芯片。其中，數(shù)字芯片的市場規(guī)模占比較大，達到70%左右。

2024-01-02 標(biāo)簽：處理器gpu門電路 967 0

AI算力服務(wù)器技術(shù)及產(chǎn)業(yè)鏈報告

“算網(wǎng)大腦”即算力網(wǎng)絡(luò)中最核心的部分，主 要進行全網(wǎng)算力資源的智能編排、彈性調(diào)度，具體而言有四個作用： 1） 獲取全域?qū)崟r的算、網(wǎng)、數(shù)資源，以及云、邊...

2024-01-02 標(biāo)簽：gpu服務(wù)器AI 1242 0

深度解析HBM內(nèi)存技術(shù)

HBM作為基于3D堆棧工藝的高性能DRAM，打破內(nèi)存帶寬及功耗瓶頸。HBM(High Bandwidth Memory)即高帶寬存儲器，通過使用先進封裝...

2024-01-02 標(biāo)簽：存儲器gpu內(nèi)存 6881 0

英偉達和華為/海思主流GPU型號性能參考

一句話總結(jié)，H100 vs. A100：3 倍性能，2 倍價格 值得注意的是，HCCS vs. NVLINK的GPU 間帶寬。 對于 8 卡 A...

2023-12-29 標(biāo)簽：cpugpu英偉達 1.1萬 0

1-2B參數(shù)規(guī)模大模型的使用心得

大模型時代，根據(jù)大模型縮放定律，大家通常都在追求模型的參數(shù)規(guī)模更大、訓(xùn)練的數(shù)據(jù)更多，從而使得大模型涌現(xiàn)出更多的智能。但是，模型參數(shù)越大部署壓力就越大。即...

2023-12-28 標(biāo)簽：手機gpu參數(shù) 1476 0

英偉達vs.華為/海思：GPU性能一覽

NVIDIA NVLink采用全網(wǎng)狀拓?fù)洌缦滤?，（雙向）GPU-to-GPU 最大帶寬可達到400GB/s （需要注意的是，下方展示的是8*A100...

2023-12-27 標(biāo)簽：華為NVIDIAgpu 3090 0

揭秘：實時渲染、離線渲染、云渲染和混合渲染的區(qū)別

渲染，就是將3D模型轉(zhuǎn)換成2D圖像，并最終呈現(xiàn)在屏幕上的過程。常見的渲染類型有以下幾種：實時渲染離線渲染云渲染混合渲染它們中間有重疊交叉，也有技術(shù)區(qū)別。...

2023-12-26 標(biāo)簽：gpu模型 1292 0

DPU技術(shù)發(fā)展及落地實戰(zhàn)

Nitro DPU系統(tǒng)提供了密鑰、網(wǎng)絡(luò)、安全、服務(wù)器和監(jiān)控等功能支持，釋放了底層服務(wù)資源供客戶的虛擬機使用，并且NitroDPU使AWS可以提供更多的裸...

2023-12-26 標(biāo)簽：fpgagpuDPU 1470 0

一文詳解LLM模型基本架構(gòu)

LLM 中非常重要的一個概念是 Token，我們輸入給 LLM 和它輸出的都是 Token。Token 在這里可以看做語言的基本單位，中文一般是詞或字（...

2023-12-25 標(biāo)簽：gpurust語言LLM 4058 0

GPU集群組網(wǎng)技術(shù)詳解

? 流行的GPU/TPU集群網(wǎng)絡(luò)組網(wǎng)，包括：NVLink、InfiniBand、ROCE以太網(wǎng)Fabric、DDC網(wǎng)絡(luò)方案等，深入了解它們之間的連接方...

2023-12-25 標(biāo)簽：gpu服務(wù)器InfiniBand 6272 0

詳細(xì)解讀GPU的起源及發(fā)展

最早的算力引擎。是人類的大腦，后來演變成草繩、石頭、算籌（一種用于計算的小棍子）、算盤。到了20世紀(jì)40年代，世界上第一臺數(shù)字式電子計算機ENIAC誕生...

2023-12-25 標(biāo)簽：cpugpuAI 3180 0

NVIDIA RTX 5000 Ada顯卡性能實測報告

單精度浮點運算性能是顯卡一項重要的指標(biāo)，很多計算都是使用單精度來完成的。從測試結(jié)果來看 RTX 5000 Ada 的性能達到了 63.1T，而 RTX ...

2023-12-21 標(biāo)簽：NVIDIAgpu顯卡 1.1萬 0