資料介紹
權(quán)值和激活二值化是一種有效的深層神經(jīng)網(wǎng)絡(luò)壓縮方法,可以利用位運(yùn)算加速推理。盡管許多二值化方法通過(guò)最小化前向傳播中的量化誤差來(lái)提高模型的精度,但二值化模型與全精度模型之間仍存在明顯的性能差距。我們的實(shí)證研究表明,量化在正向和反向傳播中都會(huì)帶來(lái)信息損失,這是訓(xùn)練精確二元神經(jīng)網(wǎng)絡(luò)的瓶頸。為了解決這些問(wèn)題,我們提出了一個(gè)信息保留網(wǎng)絡(luò)(IR Net)來(lái)保留前向激活和后向梯度中的信息。紅外網(wǎng)絡(luò)主要依靠?jī)蓚€(gè)方面的技術(shù)貢獻(xiàn):(1)Libra參數(shù)二值化(Libra-PB):在前向傳播中通過(guò)平衡和標(biāo)準(zhǔn)化的權(quán)值同時(shí)最小化量化誤差和參數(shù)的信息損失;(2) 誤差衰減估計(jì)器(EDE):通過(guò)逐步逼近反向傳播中的符號(hào)函數(shù),同時(shí)考慮梯度的更新能力和精確性,使梯度的信息損失最小化。我們首次從統(tǒng)一信息的角度研究了二進(jìn)制網(wǎng)絡(luò)的前向和后向過(guò)程,這為網(wǎng)絡(luò)二值化機(jī)制提供了新的視角。在CIFAR-10和ImageNet數(shù)據(jù)集上進(jìn)行的各種網(wǎng)絡(luò)結(jié)構(gòu)的綜合實(shí)驗(yàn)表明,所提出的IR網(wǎng)絡(luò)能夠始終優(yōu)于最新的量化方法。
- GBT 9374-2012 聲音廣播接收機(jī)基本參數(shù) 0次下載
- 基于Arduino的FM調(diào)頻收音機(jī) 17次下載
- 調(diào)頻收音機(jī)開(kāi)源分享
- 使用TEF6686調(diào)諧器制作超級(jí)收音機(jī)
- 電子管收音機(jī)懷舊系列(6) 古典調(diào)頻調(diào)幅收音機(jī).pdf 32次下載
- 自制簡(jiǎn)易電子管調(diào)頻收音機(jī)教程 63次下載
- 數(shù)字式調(diào)頻收音機(jī)設(shè)計(jì)
- RDA5807M單片廣播調(diào)頻收音機(jī)調(diào)諧器的數(shù)據(jù)手冊(cè)免費(fèi)下載 70次下載
- 調(diào)頻收音機(jī)的設(shè)計(jì)與實(shí)現(xiàn)(詳解) 90次下載
- 德勁DE15數(shù)字調(diào)諧全波動(dòng)收音機(jī)說(shuō)明書(shū) 12次下載
- 收音機(jī)調(diào)頻(FM)發(fā)射機(jī)的小制作 0次下載
- 礦石收音機(jī)原理_馮報(bào)本 0次下載
- 調(diào)頻立體聲收音機(jī)
- AM-FM調(diào)諧器
- 調(diào)頻調(diào)幅單片收音機(jī)電路
- 收音機(jī)全波段的還是調(diào)頻的好 2023次閱讀
- DVB-H便攜式陸地廣播調(diào)諧器MAX2165 1255次閱讀
- 衛(wèi)星收音機(jī)與普通收音機(jī)區(qū)別 9002次閱讀
- 新型調(diào)頻收音機(jī)鑒頻器電路設(shè)計(jì) 1w次閱讀
- 硅調(diào)諧器設(shè)計(jì)的制約因素 2139次閱讀
- 電子管調(diào)頻收音機(jī)的簡(jiǎn)單制作 3.3w次閱讀
- 礦石收音機(jī)工作原理及制作 5w次閱讀
- 多功能收音機(jī)制作方法 7271次閱讀
- 如何用FM調(diào)頻頭制作一個(gè)調(diào)頻收音機(jī)? 1.7w次閱讀
- 數(shù)字調(diào)諧收音機(jī)是什么?數(shù)字調(diào)諧收音機(jī)原理分析 2w次閱讀
- 全波段收音機(jī)是什么?全波段數(shù)字調(diào)諧收音機(jī)原理分析 2.4w次閱讀
- 半導(dǎo)體收音機(jī)實(shí)物電路圖大全(六款檢波電路/六管收音機(jī)/調(diào)諧指示電路) 4.4w次閱讀
- 為什么叫半導(dǎo)體收音機(jī)_半導(dǎo)體收音機(jī)是什么時(shí)候出現(xiàn)的 4.5w次閱讀
- 礦石收音機(jī)電路圖大全(七款礦石收音機(jī)電路圖) 24.6w次閱讀
- 收音機(jī)定時(shí)器設(shè)計(jì)制作 5997次閱讀
下載排行
本周
- 1TC358743XBG評(píng)估板參考手冊(cè)
- 1.36 MB | 330次下載 | 免費(fèi)
- 2開(kāi)關(guān)電源基礎(chǔ)知識(shí)
- 5.73 MB | 11次下載 | 免費(fèi)
- 3嵌入式linux-聊天程序設(shè)計(jì)
- 0.60 MB | 3次下載 | 免費(fèi)
- 4DIY動(dòng)手組裝LED電子顯示屏
- 0.98 MB | 3次下載 | 免費(fèi)
- 5基于FPGA的C8051F單片機(jī)開(kāi)發(fā)板設(shè)計(jì)
- 0.70 MB | 2次下載 | 免費(fèi)
- 651單片機(jī)窗簾控制器仿真程序
- 1.93 MB | 2次下載 | 免費(fèi)
- 751單片機(jī)大棚環(huán)境控制器仿真程序
- 1.10 MB | 2次下載 | 免費(fèi)
- 8基于51單片機(jī)的RGB調(diào)色燈程序仿真
- 0.86 MB | 2次下載 | 免費(fèi)
本月
- 1OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234315次下載 | 免費(fèi)
- 2555集成電路應(yīng)用800例(新編版)
- 0.00 MB | 33566次下載 | 免費(fèi)
- 3接口電路圖大全
- 未知 | 30323次下載 | 免費(fèi)
- 4開(kāi)關(guān)電源設(shè)計(jì)實(shí)例指南
- 未知 | 21549次下載 | 免費(fèi)
- 5電氣工程師手冊(cè)免費(fèi)下載(新編第二版pdf電子書(shū))
- 0.00 MB | 15349次下載 | 免費(fèi)
- 6數(shù)字電路基礎(chǔ)pdf(下載)
- 未知 | 13750次下載 | 免費(fèi)
- 7電子制作實(shí)例集錦 下載
- 未知 | 8113次下載 | 免費(fèi)
- 8《LED驅(qū)動(dòng)電路設(shè)計(jì)》 溫德?tīng)栔?/a>
- 0.00 MB | 6656次下載 | 免費(fèi)
總榜
- 1matlab軟件下載入口
- 未知 | 935054次下載 | 免費(fèi)
- 2protel99se軟件下載(可英文版轉(zhuǎn)中文版)
- 78.1 MB | 537798次下載 | 免費(fèi)
- 3MATLAB 7.1 下載 (含軟件介紹)
- 未知 | 420027次下載 | 免費(fèi)
- 4OrCAD10.5下載OrCAD10.5中文版軟件
- 0.00 MB | 234315次下載 | 免費(fèi)
- 5Altium DXP2002下載入口
- 未知 | 233046次下載 | 免費(fèi)
- 6電路仿真軟件multisim 10.0免費(fèi)下載
- 340992 | 191186次下載 | 免費(fèi)
- 7十天學(xué)會(huì)AVR單片機(jī)與C語(yǔ)言視頻教程 下載
- 158M | 183279次下載 | 免費(fèi)
- 8proe5.0野火版下載(中文版免費(fèi)下載)
- 未知 | 138040次下載 | 免費(fèi)
評(píng)論