一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

或許我們都被分庫分表約束了思維

京東云 ? 來源:張俊杰 ? 作者:張俊杰 ? 2025-02-21 09:51 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

作者:張俊杰

概述

這篇文章沒什么太多的干貨,純純是一篇討論和思考帖。

從業(yè)數(shù)據(jù)庫領(lǐng)域三年有余了,從分庫分表中間件到數(shù)據(jù)庫團隊內(nèi)核學到了很多東西。也接觸了很多項目,包括TiDB、Vitess、Polardb、StarDB等等。

國內(nèi)的項目好像很多都聚焦于分庫分表的概念,包括很多的數(shù)據(jù)庫團隊都在嘗試這個概念的落地和沉溺于性能的跑分。

最近我在預覽MySQL官方,看到了Partitioning的概念,而且占據(jù)了很大的篇幅。不由得引人思考,為什么這個概念在我接觸的業(yè)務中沒有被廣泛的使用呢?或許我們將來可以有分庫分區(qū)的概念?

接下來從頭縷一下數(shù)據(jù)庫選型的問題吧(以下均以MySQL的Innodb場景為例):

分表、分區(qū)、分庫有什么用處

在那個遠古的時代,物理機器的配置很低,當數(shù)據(jù)量增大的時候,傳統(tǒng)的B+樹的高度會越來越高,我們對硬件資源的要求很高,機器往往內(nèi)存爆倉、IO打滿等等。

這導致:

查詢速度顯著下降。復雜的查詢、索引失效、全表掃描等操作變得緩慢。

在大表中創(chuàng)建和維護索引可能會消耗大量的時間和資源。插入、更新和刪除操作可能需要花費更長的時間來維護索引,導致性能下降。

讀寫操作可能導致鎖沖突,降低系統(tǒng)的并發(fā)處理能力,甚至引發(fā)死鎖問題。

備份、恢復、數(shù)據(jù)清理、空間管理等操作變得困難,維護成本和風險增加。

等等。。

后來我們引出了第一個概念:分表

分表

在 5.1版本以前,MySQL并沒有分區(qū)的概念,為了解決這個問題,無非是單表拆成雙表、多表之類的,這樣將一個表要面臨的問題分散成了兩個表或者多個表共同承受。

反思當下,在當前這個物理資源冗余的時代,大部分業(yè)務場景下我們的單表真的會比分表的性能差很多嗎?有多少時候我們是為了分表而分表?我們的分表邏輯或許需要我們支持更多的功能,比如彈性、事務、一些查詢語句的改寫,然后一遍一遍的造輪子給運維帶來無盡的痛苦。

分庫

分表的解決能力還是有限的,我們一臺物理機器的能力也是有限的,這時候或許我們可以采用分表的形式,來避免熱點問題或者單機器壓力過載的問題。

將一個庫要面臨的問題分散成了兩個庫或者多個庫共同承受。

分區(qū)

?相關(guān)文檔

在5.1版本以后MySQL出了一個國內(nèi)幾乎無人問津的分區(qū)表的功能。

分區(qū)表的實現(xiàn)原理其實和分表差不太多,不過它更靠近文件系統(tǒng),而沒有經(jīng)過MySQL的應用層或者引擎層。MySQL的物理數(shù)據(jù),存儲在表空間文件(.ibdata1和.ibd)中,這里講的分區(qū)的意思是指將同一表中不同行的記錄分配到不同的物理文件中,幾個分區(qū)就有幾個.idb文件。

隨著 MySQL 版本的更新迭代,分區(qū)功能也在后續(xù)版本中不斷得到改進和增強。具體的分區(qū)功能支持情況如下:

?MySQL 5.1:引入了 Range 和 List 兩種分區(qū)類型。支持基本的分區(qū)管理和查詢優(yōu)化。

?MySQL 5.5:對分區(qū)表的查詢優(yōu)化有所改進,提升了性能。

?MySQL 5.6:引入了更多的分區(qū)管理功能,包括 subpartition 子分區(qū)、分區(qū)交換操作、CHECK 約束等。

?MySQL 5.7:進一步增強了分區(qū)表的功能,包括 hash 分區(qū)類型、NOWAIT 選項、ALTER TABLE ... EXCHANGE PARTITION 和 ALTER TABLE ... REBUILD PARTITION 等操作。

?MySQL 8.0:繼續(xù)對分區(qū)表進行優(yōu)化和增強,包括對于自動生成分區(qū)鍵值、分區(qū)表的查詢性能提升等方面的改進。

這樣看起來,這不完全Cover住了分表的概念嗎?甚至,這不比業(yè)界的分表做的還要好嗎。

那為什么我們還要癡迷于分表,或許我們可以采用分區(qū)的邏輯吧?

當然,還有一些延伸到運維操作,舉個例子:

分區(qū)表怎么擴容

詳見 ALTER TABLE 語句

1.創(chuàng)建新分區(qū):使用 ALTER TABLE 命令添加新的分區(qū)。例如,如果是按照時間范圍分區(qū)的表,可以增加新的時間范圍的分區(qū)。

ALTER TABLE your_partitioned_table
ADD PARTITION (PARTITION p_new VALUES LESS THAN (new_value));

這里的 new_value 是新的分區(qū)范圍。

2. 數(shù)據(jù)遷移:使用 ALTER TABLE ... REORGANIZE PARTITION 命令將現(xiàn)有分區(qū)中的數(shù)據(jù)遷移到新的分區(qū)中。例如,可以通過將舊分區(qū)的數(shù)據(jù)移動到新分區(qū)來實現(xiàn)。

ALTER TABLE your_partitioned_table
REORGANIZE PARTITION old_partition INTO
(PARTITION p_new VALUES LESS THAN (new_value));

這里的 old_partition 是要移動數(shù)據(jù)的舊分區(qū)。

3. 數(shù)據(jù)清理(可選):在確認數(shù)據(jù)遷移成功后,可以考慮清理不再需要的舊分區(qū)。使用 ALTER TABLE ... DROP PARTITION 命令可以刪除不再需要的舊分區(qū)。

ALTER TABLE your_partitioned_table
DROP PARTITION old_partition;

這里的 old_partition 是要刪除的舊分區(qū)。

顯而易見,這是一個原地擴容操作,我們或許不需要引入什么復雜的組建或者邏輯去做resharding。

落地方案猜測

我們或許可以在單表業(yè)務場景下遇到問題瓶頸后采用分區(qū)的概念,如果分區(qū)不夠可以采用原地擴容邏輯。當機器達到瓶頸后采用分庫的概念達成分庫分區(qū)的邏輯。

這只是一個猜想,對于我們的數(shù)據(jù)庫廠商,其實只需要將這套邏輯維護好做到高可用的邏輯即可。

當然,圍繞著分區(qū)和物理數(shù)據(jù)庫我們還有很多擴展內(nèi)容可以去做,但是這篇文章旨在說明,或許我們不應該被分庫分表約束了思維,或許我們不需要做分布式的邏輯,或許在機器性能良好的場景下我們單機器就可以cover住我們的數(shù)據(jù)量。

此外,一個數(shù)據(jù)庫產(chǎn)品或許應該做到serverless的概念,我們用戶不需要理解這么多的邏輯,至于分區(qū)或許這個看MySQL文檔都可以學習到。

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • MySQL
    +關(guān)注

    關(guān)注

    1

    文章

    850

    瀏覽量

    27728
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    PCB Layout 約束管理,助力優(yōu)化設計

    本文重點PCBlayout約束管理在設計中的重要性Layout約束有助避免一些設計問題設計中可以使用的不同約束在PCB設計規(guī)則和約束管理方面,許多設計師試圖采用“一刀切”的方法,認為同
    的頭像 發(fā)表于 05-16 13:02 ?319次閱讀
    PCB Layout <b class='flag-5'>約束</b>管理,助力優(yōu)化設計

    PanDao:實際約束條件下成像系統(tǒng)的初始結(jié)構(gòu)的生成

    的平均RMS光斑尺寸約為55 μm,色差校正效果中等。基于同等規(guī)格與約束,我們采用自主研發(fā)的FTR初始透鏡生成器,在數(shù)分鐘內(nèi)即創(chuàng)建出多個更加優(yōu)質(zhì)的設計方案。圖1展示由FTR程序生成的五類不同透鏡系統(tǒng)
    發(fā)表于 05-07 08:57

    FPGA時序約束之設置時鐘組

    Vivado中時序分析工具默認會分析設計中所有時鐘相關(guān)的時序路徑,除非時序約束中設置時鐘組或false路徑。使用set_clock_groups命令可以使時序分析工具不分析時鐘組中時鐘的時序路徑,使用set_false_path約束
    的頭像 發(fā)表于 04-23 09:50 ?366次閱讀
    FPGA時序<b class='flag-5'>約束</b>之設置時鐘組

    一文詳解Vivado時序約束

    Vivado的時序約束是保存在xdc文件中,添加或創(chuàng)建設計的工程源文件后,需要創(chuàng)建xdc文件設置時序約束。時序約束文件可以直接創(chuàng)建或添加已存在的約束文件,創(chuàng)建
    的頭像 發(fā)表于 03-24 09:44 ?3298次閱讀
    一文詳解Vivado時序<b class='flag-5'>約束</b>

    VirtualLab Fusion應用:使用自定義的評價函數(shù)優(yōu)化高NA束器

    ,我們演示兩種具有不同配置目標和約束的優(yōu)化: ?在優(yōu)化#1中,優(yōu)先考慮均勻性誤差。 ?在優(yōu)化#2中,0級也要最小化。 關(guān)于評價函數(shù)約束,用戶可以指定 ?單獨的目標值、范圍、下限或上限
    發(fā)表于 03-07 08:54

    數(shù)顯千分表的數(shù)據(jù)如何用存儲器進行接收?

    數(shù)顯千分表的數(shù)據(jù)如何用存儲器進行接收
    發(fā)表于 02-11 06:01

    不是!讓高速先生給個過孔優(yōu)化方案就那么難嗎?

    ,我們之前的文章也有分享過,不同長度的層出線,過孔阻抗也會有不小的差異哈。 差分過孔間距不同 仔細看給過來的過孔指導,其實只約束了信號孔到地過孔的距離,但是沒對信號孔之間的距離做約束,那我們
    發(fā)表于 01-21 08:50

    和 Dr Peter 一起學 KiCad 4.3:輪廓與約束 (Edge cut板框)

    “ ?在本節(jié)中,您將學會如何繪制 PCB 的板框。 ? ” 4 .3.? 2- 輪廓與約束 (Edge cut板框) 在本章中,我們將完成在本書第三部第二章中學到的 PCB 工作流程的第二步。在這
    的頭像 發(fā)表于 12-03 12:13 ?1108次閱讀
    和 Dr Peter 一起學 KiCad 4.3:輪廓與<b class='flag-5'>約束</b> (Edge cut板框)

    時序約束一主時鐘與生成時鐘

    的輸出,對于Ultrascale和Ultrascale+系列的器件,定時器會自動地接入到GT的輸出。 1.2 約束設置格式 主時鐘約束使用命令create_clock進行創(chuàng)建,進入Timing
    的頭像 發(fā)表于 11-29 11:03 ?1316次閱讀
    時序<b class='flag-5'>約束</b>一主時鐘與生成時鐘

    常用時序約束使用說明-v1

    為了節(jié)省每層導入網(wǎng)的時間,在設置中我們通常不會勾選Aoto Load place and route Data 前面的勾選框。這樣每次編譯完成之后Show/Hide Tcl Command
    的頭像 發(fā)表于 11-01 11:06 ?525次閱讀

    精益思維在AI新生態(tài)中的實踐路徑

    傳統(tǒng)上,精益思維以“消除浪費、創(chuàng)造價值”為核心,通過持續(xù)改進流程、提升質(zhì)量、加速響應市場變化,實現(xiàn)資源的最優(yōu)配置。在AI領(lǐng)域,這一理念同樣適用且被賦予新的內(nèi)涵。AI項目的復雜性、不確定性以及快速
    的頭像 發(fā)表于 09-24 11:32 ?543次閱讀

    電路的兩類約束指的是哪兩類

    電路的兩類約束通常指的是電氣約束和物理約束。這兩類約束在電路設計和分析中起著至關(guān)重要的作用。 一、電氣約束 電氣
    的頭像 發(fā)表于 08-25 09:34 ?1932次閱讀

    軟件系統(tǒng)數(shù)據(jù)庫的分庫設計

    軟件系統(tǒng)數(shù)據(jù)庫的分庫設計 系統(tǒng)讀寫分離、分庫技術(shù)實現(xiàn)采用MyCat中間件,MyCat 是
    的頭像 發(fā)表于 08-22 11:39 ?572次閱讀
    軟件系統(tǒng)數(shù)據(jù)庫的<b class='flag-5'>分庫</b><b class='flag-5'>分</b><b class='flag-5'>表</b>設計

    深度解析FPGA中的時序約束

    建立時間和保持時間是FPGA時序約束中兩個最基本的概念,同樣在芯片電路時序分析中也存在。
    的頭像 發(fā)表于 08-06 11:40 ?1322次閱讀
    深度解析FPGA中的時序<b class='flag-5'>約束</b>

    如何將精益思維應用于傳統(tǒng)工廠的數(shù)字化轉(zhuǎn)型?

    隨著科技的不斷進步和市場競爭的日益激烈,傳統(tǒng)工廠正面臨著前所未有的挑戰(zhàn)。如何在這場數(shù)字化浪潮中站穩(wěn)腳跟,甚至實現(xiàn)彎道超車?答案或許就在精益思維中。今天,深圳天行健企業(yè)管理咨詢公司就來解析如何將精益
    的頭像 發(fā)表于 07-18 09:43 ?455次閱讀