99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

37年歷史的PostgreSQL數(shù)據(jù)庫將進行重大架構變更

jf_WZTOguxH ? 來源:InfoQ ? 2023-06-25 15:54 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

在瞬息萬變的開源世界中,軟件項目來得快、去得也快。如今獲得廣泛追捧的工具,很可能在短時間后就被更好的成果取代,再也無人問津。但即使在這樣殘酷的環(huán)境下,也有不少項目能夠長期保持生命力。

PostgreSQL 數(shù)據(jù)庫系統(tǒng)就是其中的典型,其歷史可以追溯到 1986 年的伯克利 POSTGRES 項目。經(jīng)過幾十年的發(fā)展,作為一款跨平臺、免費和開源的數(shù)據(jù)庫軟件,PostgreSQL 應用已經(jīng)相當廣泛:根據(jù) Stack Overflow 2023 開發(fā)者調(diào)查數(shù)據(jù)顯示,PostgreSQL 甚至超越了 MySQL,成為開發(fā)人員首選。

對擁有如此悠久歷史的大型代碼庫做根本性變更絕非易事,但項目開發(fā)團隊正在認真考慮這種可能性,希望讓 PostgreSQL 脫離長久以來的面向進程模型。

任何 PostgreSQL 實例都是以大量協(xié)作進程的形式保持運行,其中包含一個用于所有接入客戶端的進程。這些進程使用精心設計的庫通過多個共享內(nèi)存區(qū)域進行彼此通信,而這個庫的作用就是在內(nèi)存設置各異、映射地址不同的所有進程之間建立起復雜的數(shù)據(jù)結構。

多年以來,這套模型一直兢兢業(yè)業(yè)地支撐整個項目。但隨著項目發(fā)展,現(xiàn)實世界正在發(fā)生巨大變化。因此,PostgreSQL 開發(fā)團隊意識到必須盡快調(diào)整、順應現(xiàn)實的潮流。

一份提案

今年 6 月初,Heikki Linnakangas 在經(jīng)過一系列線下討論之后,發(fā)布了將 PostgreSQL 轉為線程模型的提案。

89bbb4cc-1250-11ee-962d-dac502259ad0.png

我覺得現(xiàn)在大家已經(jīng)達成了強烈共識,比以往任何時候都更支持這項重大調(diào)整。實現(xiàn)這個目標需要投入大量精力、討論很多細節(jié),但團隊高層對這個基本思路沒有異議。 這封電子郵件的發(fā)布,就是想把這種沉默的共識變成明確的發(fā)展路線。

其中簡要概括了這項遷移所涉及的種種挑戰(zhàn),并低調(diào)地承認轉化過程“肯定無法通過單一版本徹底完成”。但郵件中沒有提到推動這項重大變更的原因,好在隨著討論的進行,相關信息很快得到了補充。正如 Andres Freund(PostgreSQL Developer & Committer,EnterpriseDB 高級數(shù)據(jù)庫架構師)指出的那樣:

我認為原有流程模型開始產(chǎn)生諸多限制,這個問題在大型設備上體現(xiàn)得尤其明顯??邕M程上下文切換所帶來的開銷,原本就比在同一進程內(nèi)的不同線程間切換要更高——我估計這種開銷還將持續(xù)提升。面對大量連接,整個體系最終一定會因 TLB 未命中而浪費大量時間。這是進程模型無法跨進程共享 TLB 的天然屬性造成的必然結果。

他還提到,進程模型也增加了開發(fā)成本,迫使項目不得不維護大量重復代碼,包括在同一地址空間內(nèi)保留本不必要的多種內(nèi)存管理機制。在隨后的消息中,他還補充稱由于線程全部運行在同一地址空間之內(nèi),因此可以更高效地實現(xiàn)狀態(tài)共享。

89e34316-1250-11ee-962d-dac502259ad0.png

但有部分開發(fā)人員反映,Linnakangas 所說的“強烈共識”可能并沒有那么強烈。Postgres 的主要貢獻者 Tom Lane 表示,“我認為這將是一場災難,大量原有代碼將受到影響?!彼S后補充稱,此次調(diào)整將帶來“巨大”成本,產(chǎn)生“不止一個安全級 bug”,也無法證明其收益超過成本投入。有人提出,目前還有其他一些高優(yōu)先級工作值得早做打算。也有人擔心隨著進程模型被淘汰,原本基于各獨立進程的隔離性將被打破,導致系統(tǒng)的整體健壯性受到破壞。

盡管如此,大部分 PostgreSQL 開發(fā)者還是以謹慎樂觀的態(tài)度支持、至少愿意嘗試這一改動。EnterpriseDB 副總裁、首席數(shù)據(jù)庫科學家,PostgreSQL 主要貢獻者 Robert Haas 表示,PostgreSQL 在大型系統(tǒng)上的擴展性確實不佳,主要就是因為所有進程都在消耗資源。“其他很多數(shù)據(jù)庫并不存在這個問題。如果不進行某種重大的架構變更,PostgreSQL 將無法克服這個難題?!?/p>

也許單純轉向線程模型可能還不夠,但他認為這將為其他后續(xù)改進開個好頭。

從提案到現(xiàn)實

將 PostgreSQL 服務器的核心轉移至單一地址空間,幾乎必然帶來諸多挑戰(zhàn)。正如 Haas 等研究人員所指出,其中最大的問題就是服務器“目前正頻繁使用全局變量”。具體來講,當每個服務器進程都擁有自己的集合時,全局變量就能良好運作;而在用線程加以替代時則會引發(fā)問題。根據(jù) Konstantin Knizhnik 的說法,PostgreSQL 服務器目前使用約 2000 個全局變量。

開發(fā)團隊隨后討論了該問題的幾種解決思路。首先是將所有全局變量拉入統(tǒng)一的“會話狀態(tài)”結構,而這套結構具備線程本地化屬性。但考慮到需要創(chuàng)建并維護的是需要容納 2000 個變量成員的復雜結構時,這個提議因為可行性太低而很快失去了吸引力。另一種方法是直接把所有全局變量放入線程本地存儲內(nèi),這種方法倒是簡單可行,但大量使用線程本地存儲會導致性能損失,損耗轉為線程模型帶來的收益。Haas 指出,對全局變量做明確標記(包括將其放入線程本地存儲)本身也有積極的意義,可說為減少全局變量的使用開了個好頭。Freund 贊同這個觀點,并表示即使后續(xù)沒有全面轉向線程模型,這項調(diào)整也將有所回報。

但 Freund 也警告稱,將全局變量轉移至線程本地存儲只是這項工作中最簡單的部分:

在此之后,重新設計 postmaster、定義如何處理擴展庫、擴展兼容性、開發(fā)工具以實現(xiàn)線程化 postgres、在會話生命周期內(nèi)建立新的內(nèi)存分配和釋放機制(以往是通過退出進程實現(xiàn)內(nèi)存釋放)、保證變更的可審查性和可移植性等等,全都是更加困難的工作。

這里還有一個討論熱度不高、但卻非常有趣的觀點,即 Knizhnik 已經(jīng)完成了 PostgreSQL 的線程端口。他說全局變量的問題并不是那么難以解決。他在配置數(shù)據(jù)、錯誤處理、信號等方面遇到的麻煩還更多。另外,支持由外部維護的擴展也是個重大挑戰(zhàn)??杀M管如此,他還是認可轉向線程模型所帶來的一系列顯著回報,只是提醒項目決策層在采取任何行動之前,務必要認真做好研究分析。

PostgreSQL 開發(fā)團隊還想到了另一個復雜問題,即是否可能同時支持基于進程和基于線程兩種模式。在繼續(xù)支持進程模式的同時引入線程架構不僅極為困難,而且會顯著增加項目的總體維護負擔。但 Haas 堅持認為,PostgreSQL 絕對不可能徹底放棄對進程模式的支持。畢竟線程在一部分用例中的性能反而更差,也有不少重要擴展無法在線程模式下正常運行。他強調(diào)稱,只有在確認線程架構運行良好之后,才可能認真討論要不要徹底放棄進程支持。

目前無論是從郵件討論還是從社交媒體平臺投票結果來看,大多數(shù) PostgreSQL 開發(fā)者認同架構轉換的理論收益。

89fccfac-1250-11ee-962d-dac502259ad0.png

并且,數(shù)據(jù)庫管理系統(tǒng) Peloton 早在 2015 年就已經(jīng)嘗試讓 PostgreSQL 多線程化了。至于 PostgreSQL 本身,從討論到具體實施落地還有很長的路要走,更重要的是,需要有人主動請纓、表示愿意投入時間來推進這項工作。

8a22fe7a-1250-11ee-962d-dac502259ad0.png

Peloton 的《Postgres 架構變更公告》:

最初,Postgres 采用的是多進程架構。其中主進程名為 Postmaster,負責處理 Postgres 接收到的請求,以及啟動、關閉等系統(tǒng)層面的操作。請注意,Postmaster 本身并不執(zhí)行這些操作,而會派生出子進程來執(zhí)行操作。再有,處理用戶查詢的 backend 也是由 Postmaster 分叉而來。這種架構非常適合基于磁盤的數(shù)據(jù)庫,因為磁盤可以作為大容量共享存儲。由于 peloton 充當主內(nèi)存數(shù)據(jù)庫,多進程架構導致不同后端和 peloton 數(shù)據(jù)庫間的信息共享變得極其困難。在早期的嘗試中,我們曾考慮用共享內(nèi)存讓 peloton 從每個分叉的 backend 處獲取查詢計劃和其他信息。但結果證明其性能慢得令人無法接受,因此我們最終決定將 Postgres 轉為多線程架構!

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 數(shù)據(jù)庫

    關注

    7

    文章

    3929

    瀏覽量

    66295
  • 架構
    +關注

    關注

    1

    文章

    528

    瀏覽量

    25996
  • MySQL
    +關注

    關注

    1

    文章

    861

    瀏覽量

    27961

原文標題:這將是一場災難?37年歷史的PostgreSQL數(shù)據(jù)庫將進行重大架構變更

文章出處:【微信號:AI前線,微信公眾號:AI前線】歡迎添加關注!文章轉載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    數(shù)據(jù)庫數(shù)據(jù)恢復—MongoDB數(shù)據(jù)庫文件丟失的數(shù)據(jù)恢復案例

    MongoDB數(shù)據(jù)庫文件拷貝到其他分區(qū),數(shù)據(jù)復制完成后MongoDB數(shù)據(jù)庫原先所在的分區(qū)進行
    的頭像 發(fā)表于 07-01 11:13 ?161次閱讀
    <b class='flag-5'>數(shù)據(jù)庫</b><b class='flag-5'>數(shù)據(jù)</b>恢復—MongoDB<b class='flag-5'>數(shù)據(jù)庫</b>文件丟失的<b class='flag-5'>數(shù)據(jù)</b>恢復案例

    數(shù)據(jù)庫數(shù)據(jù)恢復—SQL Server數(shù)據(jù)庫被加密如何恢復數(shù)據(jù)?

    SQL Server數(shù)據(jù)庫故障: SQL Server數(shù)據(jù)庫被加密,無法使用。 數(shù)據(jù)庫MDF、LDF、log日志文件名字被篡改。
    的頭像 發(fā)表于 06-25 13:54 ?148次閱讀
    <b class='flag-5'>數(shù)據(jù)庫</b><b class='flag-5'>數(shù)據(jù)</b>恢復—SQL Server<b class='flag-5'>數(shù)據(jù)庫</b>被加密如何恢復<b class='flag-5'>數(shù)據(jù)</b>?

    數(shù)據(jù)庫數(shù)據(jù)恢復——MongoDB數(shù)據(jù)庫文件拷貝后服務無法啟動的數(shù)據(jù)恢復

    文件。MongoDB數(shù)據(jù)庫文件拷貝到其他分區(qū)后,對MongoDB數(shù)據(jù)庫所在原分區(qū)進行了格式化操作。格式化完成后
    的頭像 發(fā)表于 04-09 11:34 ?314次閱讀
    <b class='flag-5'>數(shù)據(jù)庫</b><b class='flag-5'>數(shù)據(jù)</b>恢復——MongoDB<b class='flag-5'>數(shù)據(jù)庫</b>文件拷貝后服務無法啟動的<b class='flag-5'>數(shù)據(jù)</b>恢復

    數(shù)據(jù)庫數(shù)據(jù)恢復—SQL Server附加數(shù)據(jù)庫提示“錯誤 823”的數(shù)據(jù)恢復案例

    SQL Server數(shù)據(jù)庫附加數(shù)據(jù)庫過程中比較常見的報錯是“錯誤 823”,附加數(shù)據(jù)庫失敗。 如果數(shù)據(jù)庫有備份則只需還原備份即可。但是如果沒有備份,備份時間太久,或者其他原因?qū)е聜浞?/div>
    的頭像 發(fā)表于 02-28 11:38 ?493次閱讀
    <b class='flag-5'>數(shù)據(jù)庫</b><b class='flag-5'>數(shù)據(jù)</b>恢復—SQL Server附加<b class='flag-5'>數(shù)據(jù)庫</b>提示“錯誤 823”的<b class='flag-5'>數(shù)據(jù)</b>恢復案例

    利用SSIS源、查找及目標組件集成PostgreSQL數(shù)據(jù)至ETL流程

    數(shù)據(jù)與 通過 SQL Server Integration Services (SSIS) 的其他數(shù)據(jù)庫和云應用程序。它們包括優(yōu)化的 PostgreSQL Source、PostgreSQL
    的頭像 發(fā)表于 02-07 09:24 ?1385次閱讀
    利用SSIS源、查找及目標組件集成<b class='flag-5'>PostgreSQL</b><b class='flag-5'>數(shù)據(jù)</b>至ETL流程

    dbForge Studio for PostgreSQL:PostgreSQL數(shù)據(jù)庫多功能集成開發(fā)環(huán)境

    數(shù)據(jù)庫模式和表數(shù)據(jù)的比較和同步 高效便捷地生成針對特定列的智能測試數(shù)據(jù) 支持14種格式的數(shù)據(jù)導入和導出 數(shù)據(jù)透視表中的
    的頭像 發(fā)表于 01-16 17:26 ?551次閱讀

    數(shù)據(jù)庫是哪種數(shù)據(jù)庫類型?

    數(shù)據(jù)庫是一種部署在虛擬計算環(huán)境中的數(shù)據(jù)庫,它融合了云計算的彈性和可擴展性,為用戶提供高效、靈活的數(shù)據(jù)庫服務。云數(shù)據(jù)庫主要分為兩大類:關系型數(shù)據(jù)庫
    的頭像 發(fā)表于 01-07 10:22 ?517次閱讀

    如何使用cmp進行數(shù)據(jù)庫管理的技巧

    使用 cmp 命令進行數(shù)據(jù)庫管理可能不是最直觀的方法,因為 cmp 通常用于比較兩個文件是否相同。然而,如果你的意圖是使用 cmp 來檢查數(shù)據(jù)庫文件或備份文件的一致性,以下是一些技巧和步驟,可以幫助
    的頭像 發(fā)表于 12-17 09:31 ?642次閱讀

    數(shù)據(jù)庫數(shù)據(jù)恢復—Mysql數(shù)據(jù)庫表記錄丟失的數(shù)據(jù)恢復流程

    Mysql數(shù)據(jù)庫故障: Mysql數(shù)據(jù)庫表記錄丟失。 Mysql數(shù)據(jù)庫故障表現(xiàn): 1、Mysql數(shù)據(jù)庫表中無任何數(shù)據(jù)或只有部分
    的頭像 發(fā)表于 12-16 11:05 ?623次閱讀
    <b class='flag-5'>數(shù)據(jù)庫</b><b class='flag-5'>數(shù)據(jù)</b>恢復—Mysql<b class='flag-5'>數(shù)據(jù)庫</b>表記錄丟失的<b class='flag-5'>數(shù)據(jù)</b>恢復流程

    數(shù)據(jù)庫事件觸發(fā)的設置和應用

    數(shù)據(jù)庫無論對于生產(chǎn)管理還是很多的實際應用都非常重要。小編這次聊一下數(shù)據(jù)庫事件觸發(fā)的應用。示例使用了postgresql和Python。
    的頭像 發(fā)表于 12-13 15:14 ?649次閱讀

    數(shù)據(jù)庫數(shù)據(jù)恢復—MYSQL數(shù)據(jù)庫ibdata1文件損壞的數(shù)據(jù)恢復案例

    mysql數(shù)據(jù)庫故障: mysql數(shù)據(jù)庫文件ibdata1、MYI、MYD損壞。 故障表現(xiàn):1、數(shù)據(jù)庫無法進行查詢等操作;2、使用mysqlcheck和myisamchk無法修復
    的頭像 發(fā)表于 12-09 11:05 ?638次閱讀

    不用編程不用電腦,快速實現(xiàn)多臺Modbus協(xié)議的PLC、智能儀表對接SQL數(shù)據(jù)庫

    的參數(shù)按照任務組自動生成SQL命令語句,實現(xiàn)多設備SQL命令與數(shù)據(jù)庫軟件對接,支持MySQL、SQLServer、PostgreSQL、Oracle等。
    的頭像 發(fā)表于 12-09 10:53 ?857次閱讀
    不用編程不用電腦,快速實現(xiàn)多臺Modbus協(xié)議的PLC、智能儀表對接SQL<b class='flag-5'>數(shù)據(jù)庫</b>

    數(shù)據(jù)庫數(shù)據(jù)恢復—通過拼接數(shù)據(jù)庫碎片恢復SQLserver數(shù)據(jù)庫

    一個運行在存儲上的SQLServer數(shù)據(jù)庫,有1000多個文件,大小幾十TB。數(shù)據(jù)庫每10天生成一個NDF文件,每個NDF幾百GB大小。數(shù)據(jù)庫包含兩個LDF文件。 存儲損壞,數(shù)據(jù)庫
    的頭像 發(fā)表于 10-31 13:21 ?708次閱讀
    <b class='flag-5'>數(shù)據(jù)庫</b><b class='flag-5'>數(shù)據(jù)</b>恢復—通過拼接<b class='flag-5'>數(shù)據(jù)庫</b>碎片恢復SQLserver<b class='flag-5'>數(shù)據(jù)庫</b>

    數(shù)據(jù)庫數(shù)據(jù)恢復—SQL Server數(shù)據(jù)庫出現(xiàn)823錯誤的數(shù)據(jù)恢復案例

    SQL Server數(shù)據(jù)庫故障: SQL Server附加數(shù)據(jù)庫出現(xiàn)錯誤823,附加數(shù)據(jù)庫失敗。數(shù)據(jù)庫沒有備份,無法通過備份恢復數(shù)據(jù)庫
    的頭像 發(fā)表于 09-20 11:46 ?710次閱讀
    <b class='flag-5'>數(shù)據(jù)庫</b><b class='flag-5'>數(shù)據(jù)</b>恢復—SQL Server<b class='flag-5'>數(shù)據(jù)庫</b>出現(xiàn)823錯誤的<b class='flag-5'>數(shù)據(jù)</b>恢復案例

    恒訊科技分析:跨境電商網(wǎng)站有哪些數(shù)據(jù)庫系統(tǒng)是推薦使用的?

    聞名,適合處理大量的數(shù)據(jù)和高并發(fā)請求,是電商網(wǎng)站常用的數(shù)據(jù)庫之一 。 2、PostgreSQLPostgreSQL是一個高度可擴展的開源對象關系數(shù)
    的頭像 發(fā)表于 08-12 15:01 ?833次閱讀