在RTX 4090被限制的時(shí)代下，讓大模型使用RLHF更高效的方法來了

今年，以 ChatGPT 為首的大語言模型（Large Language Models, LLMs) 在各個(gè)方面大放光彩，由此引發(fā)了學(xué)術(shù)界和商業(yè)界對(duì) G...

2023-10-22 標(biāo)簽：語言模型ChatGPT大模型 744 0

全球首顆清華憶阻器存算一體芯片究竟是個(gè)啥？

業(yè)界很多也都在研究相關(guān)的解決方案，以實(shí)現(xiàn)更為有效的數(shù)據(jù)運(yùn)算和更大的數(shù)據(jù)吞吐量，其中“存算一體”被認(rèn)為是未來計(jì)算芯片的架構(gòu)趨勢。它是把之前集中存儲(chǔ)在外面的...

2023-10-22 標(biāo)簽：芯片人工智能憶阻器 1169 0

算力不足和能效過低，有什么方法提高AI芯片的算力呢？

隨著ChatGPT強(qiáng)勢來襲，AI人工智能應(yīng)用層出不窮。智能化時(shí)代，數(shù)據(jù)量指數(shù)型增長，摩爾定律已經(jīng)不能滿足當(dāng)前的數(shù)據(jù)處理需求，元器件的物理尺寸已經(jīng)接近極限。

2023-10-22 標(biāo)簽：場效應(yīng)晶體管人工智能憶阻器 4825 0

基于樹莓派的機(jī)器人設(shè)計(jì)方案

準(zhǔn)備樹莓派和 CRICKIT Hat 1、如果你已經(jīng)安裝了 CRICKIT Hat 的 40 針連接器的轉(zhuǎn)接端子，請(qǐng)將其取下。 如果我們希望...

2023-10-19 標(biāo)簽：機(jī)器人散熱器3D打印 1055 0

ChatGPT真的產(chǎn)生心智了嗎？ChatGPT是如何產(chǎn)生心智的？

來自斯坦福大學(xué)的最新研究結(jié)論，一經(jīng)發(fā)出就造成了學(xué)術(shù)圈的轟動(dòng)，“原本認(rèn)為是人類獨(dú)有的心智理論（Theory of Mind，ToM），已經(jīng)出現(xiàn)在ChatG...

2023-10-19 標(biāo)簽：編碼器GPT機(jī)器語言 1356 0

一款整合了ChatGPT的源IP掃描工具

由于該工具基于純Python 3開發(fā)，因此我們首先需要在本地設(shè)備上安裝并配置好Python 3環(huán)境。接下來，廣大研究人員可以使用下列命令將該項(xiàng)目源碼克隆至本地

2023-10-16 標(biāo)簽：漏洞數(shù)據(jù)集ChatGPT 1037 0

ChatGPT是怎么實(shí)現(xiàn)的

ChatGPT 能夠自動(dòng)生成類似于人類寫作的文本，這一點(diǎn)非常引人注目，也令人意外。但它是如何實(shí)現(xiàn)的？為什么它能夠如此出色地生成我們認(rèn)為有意義的文本？我的...

2023-10-16 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)語言模型ChatGPT 1424 0

MI300X能否與H100一較高下？

市場研究公司Omdia近日發(fā)布報(bào)告稱，預(yù)計(jì)英偉達(dá)二季度用于AI和高性能計(jì)算應(yīng)用的H100 GPU的出貨量超過了900噸。并且預(yù)計(jì)其在未來幾個(gè)季度的GPU...

2023-09-28 標(biāo)簽：gpu英偉達(dá)AI芯片 1915 0

邊緣生成式人工智能推理技術(shù)現(xiàn)狀

為了彌補(bǔ)性能上的不足，領(lǐng)先的半導(dǎo)體公司使用大量最好的硬件處理器構(gòu)建系統(tǒng)。為此，他們在功耗、帶寬/延遲和成本之間進(jìn)行了權(quán)衡。這種方法適用于算法訓(xùn)練，但不適...

2023-09-28 標(biāo)簽：處理器加速器AI 1312 0

重磅！OpenAI在ChatGPT內(nèi)推出語言和圖像功能

語音和圖像為用戶在生活中使用 ChatGPT 提供了更多方式。旅行時(shí)，拍下地標(biāo)性建筑的照片，然后就它的有趣之處進(jìn)行實(shí)時(shí)對(duì)話。當(dāng)您在家時(shí)，拍下冰箱和儲(chǔ)藏室...

2023-09-26 標(biāo)簽：模型OpenAIChatGPT 812 0

華為提出Sorted LLaMA：SoFT代替SFT，訓(xùn)練多合一大語言模型

而這一切的背后，是一項(xiàng)名為Sorted Fine-Tuning（SoFT）的新訓(xùn)練技術(shù)。SoFT讓我們可以在一個(gè)訓(xùn)練周期內(nèi)產(chǎn)出多個(gè)子模型，無需任何額外的...

2023-09-26 標(biāo)簽：華為模型語言模型 1104 0

GPGPU和NPU技術(shù)路線對(duì)比

FPGA是一種半定制芯片，對(duì)芯片硬件層可以靈活編譯。但是缺點(diǎn)也比較明顯，當(dāng)處理的任務(wù)重復(fù)性不強(qiáng)、邏輯較為復(fù)雜時(shí)，F(xiàn)PGA效率就會(huì)比較差。

2023-09-26 標(biāo)簽：fpga神經(jīng)網(wǎng)絡(luò)NVIDIA 5595 0

全文詳解ChatGPT 的工作原理及作用

值得指出的是，即使在第一步，也有很多可能的 “下一個(gè)詞” 可供選擇（溫度為 0.8），盡管它們的概率下降得很快（是的，這個(gè)對(duì)數(shù)圖上的直線對(duì)應(yīng)于 n-1 ...

2023-09-26 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)人工智能神經(jīng)元 1701 0

中國GenAI市場現(xiàn)狀和未來趨勢

隨著ChatGPT的火爆出圈，GenAI成為各行各業(yè)關(guān)注和熱議的話題。全球科技巨頭和AI廠商紛紛下場，唯恐錯(cuò)過此番科技盛宴。行業(yè)翹楚和媒體將GenAI浪...

2023-09-26 標(biāo)簽：gpuAI圖形處理器 1869 0

深度學(xué)習(xí)模型部署與優(yōu)化：策略與實(shí)踐；L40S與A100、H100的對(duì)比分析

深度學(xué)習(xí)、機(jī)器學(xué)習(xí)、生成式AI、深度神經(jīng)網(wǎng)絡(luò)、抽象學(xué)習(xí)、Seq2Seq、VAE、GAN、GPT、BERT、預(yù)訓(xùn)練語言模型、Transformer、Cha...

2023-09-22 標(biāo)簽：AI模型深度學(xué)習(xí) 1598 0

Chiplet是什么？Chiplet、 SoC、SiP的區(qū)別在哪？

當(dāng)一項(xiàng)顛覆性技術(shù)問世的時(shí)候，誰能搶占先機(jī)占領(lǐng)制高點(diǎn)，誰就擁有了霸權(quán)力量。

2023-09-22 標(biāo)簽：存儲(chǔ)器SoC芯片人工智能技術(shù) 1.2萬 0