99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

鯤鵬BoostKit 2.0分布式存儲(chǔ)全局緩存如何加速數(shù)據(jù)存儲(chǔ)倍數(shù)級

7riU_gh_3a181fa ? 來源:華為計(jì)算 ? 作者:華為計(jì)算 ? 2021-12-24 10:08 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

在華為全聯(lián)接2021上,鯤鵬應(yīng)用使能套件BoostKit(以下簡稱“鯤鵬BoostKit”)正式升級為2.0,提供 “數(shù)據(jù)親和”加速組件,對數(shù)據(jù)全處理流程進(jìn)行負(fù)載優(yōu)化,從而大幅提升應(yīng)用性能。本期由華為計(jì)算產(chǎn)品線算法專家陳澤暉和何智文向大家展示鯤鵬BoostKit 2.0分布式存儲(chǔ)全局緩存(Global Cache)特性如何做到數(shù)據(jù)存儲(chǔ)和處理的倍數(shù)級加速能力。

在摩爾定律的驅(qū)使下,計(jì)算能力倍數(shù)級增長,但數(shù)據(jù)傳輸速度過慢導(dǎo)致大量計(jì)算資源浪費(fèi),也限制了系統(tǒng)性能發(fā)揮。例如,在金融行業(yè),銀行逐步采用AI技術(shù)對客戶信息、遠(yuǎn)程開戶錄像、客服中心語音、企業(yè)資料等數(shù)據(jù)進(jìn)行挖掘與利用,對海量文件的讀寫會(huì)占用大量計(jì)算資源,導(dǎo)致業(yè)務(wù)處理效率降低。

原生Ceph IO請求的處理路徑長,導(dǎo)致IO時(shí)延高,用戶數(shù)據(jù)讀寫時(shí)間長

鯤鵬BoostKit分布式存儲(chǔ)全局緩存應(yīng)運(yùn)而生,通過緩存前后臺(tái)分離、IO聚合、智能預(yù)取三大創(chuàng)新技術(shù)實(shí)現(xiàn)典型讀寫場景IOPS提升10倍,IO時(shí)延降低90%,意味著同樣時(shí)間內(nèi)銀行處理的交易筆數(shù)提升10倍,而且每筆交易處理時(shí)長降低90%!

測試模型:4K IO,7:3混合隨機(jī)讀寫;硬件配置:256GB內(nèi)存,25GE網(wǎng)絡(luò),每節(jié)點(diǎn)12 * 8TB SATA HDD,2 * 3.2TB NVMe SSD

下面帶你1分鐘get三大創(chuàng)新技術(shù):

1. 緩存前后臺(tái)分離——縮短數(shù)據(jù)處理路徑:降低IO請求的線程數(shù)量,上層應(yīng)用只需要將數(shù)據(jù)寫入到緩存池或從緩存池中讀取即可響應(yīng)用戶請求。

在數(shù)據(jù)寫入場景,數(shù)據(jù)到寫緩存后就可以給上層應(yīng)用返回?cái)?shù)據(jù)寫入成功,無需與后臺(tái)Ceph存儲(chǔ)集群等分布式存儲(chǔ)軟件交互,用戶業(yè)務(wù)應(yīng)用無感知

2. 智能預(yù)取——讀加速:將數(shù)據(jù)提前加載至讀緩存,實(shí)現(xiàn)80%以上緩存命中率和2倍以上讀性能加速。

基于IO數(shù)據(jù)統(tǒng)計(jì),智能分析IO模型特征,實(shí)現(xiàn)緩存命中率大幅提升

3. IO聚合——寫加速:技術(shù)通過批量數(shù)據(jù)聚合,實(shí)現(xiàn)全周期隨機(jī)寫入轉(zhuǎn)順序?qū)懭耄瑢?shí)現(xiàn)滿帶寬性能。

在緩存中把各種大小的數(shù)據(jù)塊聚合成以8M為單位的大數(shù)據(jù)塊,從隨機(jī)小IO轉(zhuǎn)變成順序大IO寫入后端Ceph等分布式存儲(chǔ)集群

此外,BoostKit全局緩存面向鯤鵬生態(tài),結(jié)合硬件特點(diǎn)開展軟硬協(xié)同優(yōu)化,如CPU親和、NUMA親和等,進(jìn)一步達(dá)到“數(shù)據(jù)親和”,在不增加硬件成本的前提下,全局緩存面向全命中和真實(shí)業(yè)務(wù)負(fù)載提供2~10倍端到端讀寫性能加速能力。

原文標(biāo)題:BoostKit干貨店|同樣硬件,Ceph存儲(chǔ)性能提升10倍

文章出處:【微信公眾號(hào):華為計(jì)算】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

審核編輯:彭菁
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 華為
    +關(guān)注

    關(guān)注

    216

    文章

    35212

    瀏覽量

    255959
  • 數(shù)據(jù)存儲(chǔ)

    關(guān)注

    5

    文章

    999

    瀏覽量

    51746
  • ai技術(shù)
    +關(guān)注

    關(guān)注

    1

    文章

    1308

    瀏覽量

    25167

原文標(biāo)題:BoostKit干貨店|同樣硬件,Ceph存儲(chǔ)性能提升10倍

文章出處:【微信號(hào):gh_3a181fa836b6,微信公眾號(hào):華為計(jì)算】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    Ceph分布式存儲(chǔ)系統(tǒng)解析

    在當(dāng)今數(shù)據(jù)爆炸的時(shí)代,企業(yè)對存儲(chǔ)系統(tǒng)的需求日益增長,傳統(tǒng)的集中式存儲(chǔ)已經(jīng)無法滿足大規(guī)模數(shù)據(jù)處理的要求。分布式
    的頭像 發(fā)表于 07-14 11:15 ?179次閱讀

    曙光存儲(chǔ)領(lǐng)跑中國分布式存儲(chǔ)市場

    近日,賽迪顧問發(fā)布《中國分布式存儲(chǔ)市場研究報(bào)告(2025)》,指出2024 年中國分布式存儲(chǔ)市場首次超過集中式存儲(chǔ),規(guī)模達(dá) 198.2 億元
    的頭像 發(fā)表于 05-19 16:50 ?489次閱讀

    兆芯+圖云創(chuàng)智—可信分布式存儲(chǔ)系統(tǒng)解決方案

    圖云創(chuàng)智分布式存儲(chǔ)系統(tǒng)采用全分布式設(shè)計(jì)與先進(jìn)的存儲(chǔ)虛擬化技術(shù)相結(jié)合,由多個(gè)獨(dú)立的兆芯 x86 服務(wù)器作為存儲(chǔ)節(jié)點(diǎn),聯(lián)合道熵
    的頭像 發(fā)表于 04-23 10:29 ?225次閱讀
    兆芯+圖云創(chuàng)智—可信<b class='flag-5'>分布式</b><b class='flag-5'>存儲(chǔ)</b>系統(tǒng)解決方案

    分布式存儲(chǔ)數(shù)據(jù)恢復(fù)—虛擬機(jī)上hbase和hive數(shù)據(jù)數(shù)據(jù)恢復(fù)案例

    分布式存儲(chǔ)數(shù)據(jù)恢復(fù)環(huán)境: 16臺(tái)某品牌R730xd服務(wù)器節(jié)點(diǎn),每臺(tái)服務(wù)器節(jié)點(diǎn)上有數(shù)臺(tái)虛擬機(jī)。 虛擬機(jī)上部署Hbase和Hive數(shù)據(jù)庫。
    的頭像 發(fā)表于 04-17 11:05 ?223次閱讀

    秒殺傳統(tǒng)存儲(chǔ)!億萬克DM3000分布式存儲(chǔ):EB擴(kuò)容+協(xié)議瞬通

    蛟云SoveCloud DM DM3000系列是億萬克推出的全新一代分布式統(tǒng)一存儲(chǔ)產(chǎn)品。該系列用軟件定義存儲(chǔ)理念替換傳統(tǒng)的存儲(chǔ)解決方案,助力數(shù)據(jù)
    的頭像 發(fā)表于 03-20 09:13 ?412次閱讀
    秒殺傳統(tǒng)<b class='flag-5'>存儲(chǔ)</b>!億萬克DM3000<b class='flag-5'>分布式</b><b class='flag-5'>存儲(chǔ)</b>:EB<b class='flag-5'>級</b>擴(kuò)容+協(xié)議瞬通

    分布式存儲(chǔ)和集中式存儲(chǔ)有何區(qū)別

    存儲(chǔ)產(chǎn)品千千萬,選來選去怎么辦? 戴小編來獻(xiàn)妙策,匹配需求不為難!分布式存儲(chǔ)和集中式儲(chǔ)是存儲(chǔ)系統(tǒng)中十重要的兩種架構(gòu)類型,但這兩者有何區(qū)別?
    的頭像 發(fā)表于 02-28 10:56 ?1189次閱讀

    分布式存儲(chǔ)有哪幾種類型?

    分布式存儲(chǔ)有哪幾種類型?分布式存儲(chǔ)系統(tǒng)是一種將數(shù)據(jù)分散存儲(chǔ)在多臺(tái)獨(dú)立節(jié)點(diǎn)上的技術(shù),根據(jù)
    的頭像 發(fā)表于 02-20 11:00 ?590次閱讀

    分布式云化數(shù)據(jù)庫有哪些類型

    分布式云化數(shù)據(jù)庫有哪些類型?分布式云化數(shù)據(jù)庫主要類型包括:關(guān)系型分布式數(shù)據(jù)庫、非關(guān)系型分布式數(shù)據(jù)
    的頭像 發(fā)表于 01-15 09:43 ?487次閱讀

    全國首座HPBC 2.0分布式光伏電站成功并網(wǎng)

    近日,坐落于黑龍江省伊春市的龍飛木制品廠光伏電站成功并網(wǎng),標(biāo)志著全國首座HPBC 2.0分布式光伏電站建設(shè)完成,正式進(jìn)入投運(yùn)階段。
    的頭像 發(fā)表于 12-05 15:39 ?492次閱讀

    WDS分布式存儲(chǔ)系統(tǒng)軟件助力電信工程海量數(shù)據(jù)存儲(chǔ)項(xiàng)目

    WDS分布式存儲(chǔ)系統(tǒng)軟件助力電信工程海量數(shù)據(jù)存儲(chǔ)項(xiàng)目
    的頭像 發(fā)表于 11-11 09:59 ?507次閱讀
    WDS<b class='flag-5'>分布式</b><b class='flag-5'>存儲(chǔ)</b>系統(tǒng)軟件助力電信工程海量<b class='flag-5'>數(shù)據(jù)</b><b class='flag-5'>存儲(chǔ)</b>項(xiàng)目

    分布式存儲(chǔ)費(fèi)用高嗎?大概需要多少錢

    分布式存儲(chǔ)的費(fèi)用是否高,取決于多個(gè)因素,包括存儲(chǔ)容量、性能要求、服務(wù)提供商、計(jì)費(fèi)模式等。因此,無法簡單地給出一個(gè)“高”或“不高”的答案。通常分布式
    的頭像 發(fā)表于 09-24 10:41 ?589次閱讀

    基于分布式存儲(chǔ)系統(tǒng)醫(yī)療影像數(shù)據(jù)存儲(chǔ)解決方案

    基于分布式存儲(chǔ)系統(tǒng)醫(yī)療影像數(shù)據(jù)存儲(chǔ)解決方案
    的頭像 發(fā)表于 09-14 09:53 ?697次閱讀
    基于<b class='flag-5'>分布式</b><b class='flag-5'>存儲(chǔ)</b>系統(tǒng)醫(yī)療影像<b class='flag-5'>數(shù)據(jù)</b><b class='flag-5'>存儲(chǔ)</b>解決方案

    基于分布式對象存儲(chǔ)WDS的信托非結(jié)構(gòu)化數(shù)據(jù)整合平臺(tái)

    基于分布式對象存儲(chǔ)WDS的信托非結(jié)構(gòu)化數(shù)據(jù)整合平臺(tái)
    的頭像 發(fā)表于 08-28 09:56 ?650次閱讀
    基于<b class='flag-5'>分布式</b>對象<b class='flag-5'>存儲(chǔ)</b>WDS的信托非結(jié)構(gòu)化<b class='flag-5'>數(shù)據(jù)</b>整合平臺(tái)

    醫(yī)療PACS影像數(shù)據(jù)的極速分布式存儲(chǔ)解決方案

    醫(yī)療PACS影像數(shù)據(jù)的極速分布式存儲(chǔ)解決方案
    的頭像 發(fā)表于 08-23 10:13 ?747次閱讀
    醫(yī)療PACS影像<b class='flag-5'>數(shù)據(jù)</b>的極速<b class='flag-5'>分布式</b>塊<b class='flag-5'>存儲(chǔ)</b>解決方案

    基于分布式存儲(chǔ)WDS的金融信創(chuàng)云承載數(shù)據(jù)庫類關(guān)鍵應(yīng)用

    基于分布式存儲(chǔ)WDS的金融信創(chuàng)云承載數(shù)據(jù)庫類關(guān)鍵應(yīng)用
    的頭像 發(fā)表于 08-16 09:42 ?578次閱讀
    基于<b class='flag-5'>分布式</b><b class='flag-5'>存儲(chǔ)</b>WDS的金融信創(chuàng)云承載<b class='flag-5'>數(shù)據(jù)</b>庫類關(guān)鍵應(yīng)用