文章共 1796字,閱讀大約需要 4分鐘 !

概 述

在如今海量數據充斥的互聯網環境下,分庫分表的意義我想在此處就不用贅述了。而分庫分表目前流行的方案最起碼有兩種:

  • 方案一:基於應用層的分片,即應用層代碼直接完成分片邏輯
  • 方案二:基於代理層的分片,即在應用代碼和底層資料庫中間添加一層代理層,而分片的路由規則則由代理層來進行處理

而本文即將要實驗的 MyCAT框架就屬於第二種方案的代表作品。

環境規劃

在本文中,我拿出了三台 Linux主機投入試驗,各節點的角色分配如下表所示:

如果說上面這張表不足以說明實驗模型,那接下來再給一張圖好了,如下所示:

我想這樣看來的話,各個節點布了哪些組件,節點間的角色關係應該一目了然了吧

實驗環境規劃好了以後,接下來進行具體的部署與實驗過程,首先當然是 MyCAT代理的部署

MyCAT 部署

關於該部分,網上教程實在太多了,但最好還是參考官方文檔來吧,下面也簡述一下部署過程

  • 下載 MyCAT並解壓安裝

這裡安裝的是 MyCAT 1.5

wget https://raw.githubusercontent.com/MyCATApache/Mycat-download/master/1.5-RELEASE/Mycat-server-1.5.1-RELEASE-20161130213509-linux.tar.gz
tar -zxvf Mycat-server-1.5.1-RELEASE-20161130213509-linux.tar.gz
mv mycat /usr/local/

  • 啟動 MyCAT

./mycat start

  • MyCAT連接測試

mysql -utest -ptest -h127.0.0.1 -P8066 -DTESTDB

MyCAT 配置

官網上對於這一部分的描述是非常詳細的,MyCAT 配置主要涉及三個 XML配置文件:

  • server.xml:MyCAT框架的系統參數/用戶參數配置文件
  • schema.xml: MyCAT框架的邏輯庫表與分片的配置文件
  • rule.xml :MyCAT框架的邏輯庫表分片規則的配置文件

用如下圖形可以形象地表示出這三個 XML配置文件的配置內容和相互關係:

下面來進入具體的實驗環節 ,這也是圍繞 MyCAT提供的幾大主要功能展開的,主要涉及三個方面

  • 分庫分表
  • 讀寫分離
  • 主備切換

實驗之前,我們先給出公共的 server.xml文件的配置,這部分後續實驗過程中並不修改,其也就是定義了系統參數和用戶參數:

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE mycat:server SYSTEM "server.dtd">
<mycat:server xmlns:mycat="http://org.opencloudb/">
<system>
<property name="defaultSqlParser">druidparser</property>
<!-- <property /> 這塊諸多的property配置在此就不配置了,參照官網按需配置 -->
</system>
<user name="test">
<property name="password">test</property>
<property name="schemas">TESTDB</property>
</user>

<user name="user">
<property name="password">user</property>
<property name="schemas">TESTDB</property>
<property name="readOnly">true</property>
</user>

</mycat:server>

分庫分表實驗

預期實驗效果:通過 MyCAT代理往一張邏輯表中插入的多條數據,在後端自動地分配在不同的物理資料庫表上

我們按照本文 **第二節【環境規劃】**中給出的實驗模型圖來給出如下的 MyCAT邏輯庫配置文件 schema.xml 和 分庫分表規則配置文件 rule.xml

  • 準備配置文件

schema.xml

<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://org.opencloudb/" >

<schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100">
<table name="travelrecord" dataNode="dn1,dn2" rule="sharding-by-month" />
</schema>

<dataNode name="dn1" dataHost="testhost" database="db1" />
<dataNode name="dn2" dataHost="testhost" database="db2" />

<dataHost name="testhost" maxCon="1000" minCon="10" balance="0"
writeType="0" dbType="mysql" dbDriver="native" switchType="-1" slaveThreshold="100">
<heartbeat>select user()</heartbeat>
<writeHost host="hostM1" url="localhost:3306" user="root" password="xxxxxx">
<readHost host="hostS1" url="192.168.199.74:3306" user="root" password="xxxxxx" />
</writeHost>
<writeHost host="hostM2" url="192.168.199.76:3306" user="root" password="xxxxxx">
</writeHost>
</dataHost>

</mycat:schema>

其中定義了實驗用到的 hostM1、hostS1 和 hostM2

rule.xml

<tableRule name="sharding-by-month">
<rule>
<columns>create_date</columns>
<algorithm>partbymonth</algorithm>
</rule>
</tableRule>

<function name="partbymonth"
class="org.opencloudb.route.function.PartitionByMonth">
<property name="dateFormat">yyyy-MM-dd</property>
<property name="sBeginDate">2018-11-01</property>
</function>

這裡配置了 sharding-by-month的分庫分表規則,即按照表中的 create_date欄位進行分割,從 2018-11-01日期開始,月份不同的數據落到不同的物理資料庫表中

  • 在三個物理節點資料庫上分別創建兩個庫 db1和 db2

create database db1;
create database db2;

  • 連接 MyCAT

mysql -utest -ptest -h127.0.0.1 -P8066 -DTESTDB

  • 通過 MyCAT來創建資料庫 travelrecord

create table travelrecord (id bigint not null primary key,city varchar(100),create_date DATE);

  • 通過 MyCAT來往travelrecord表中插入兩條數據

insert into travelrecord(id,city,create_date) values(1,NanJing,2018-11-3);
insert into travelrecord(id,city,create_date) values(2,BeiJing,2018-12-3);

由於插入的這兩條記錄的 create_date分別是 2018-11-32018-12-3,而我們配的分庫分表的規則即是根據 2018-11-01這個日期為起始來進行遞增的,按照前面我們配的分片規則,理論上這兩條記錄按照 create_date日期欄位的不同,應該分別插入到 hostM1的 db1和 db2兩個不同的資料庫中。

  • 驗證一下數據分片的效果

由於 hostM1和 hostS1組成了 主-從庫 關係,因此剛插入的兩條數據也應該相應自動同步到 hostS1的 db1和 db2兩個資料庫中,不妨也來驗證一下:

讀寫分離實驗

**預期實驗效果:**開啟了 MyCAT的讀寫分離機制後,讀寫數據操作各行其道,互不干擾

此節實驗用到的配置文件 schema.xmlrule.xml基本和上面的【分庫分表】實驗沒什麼不同,只是我們需要關注一下 schema.xml配置文件中 <dataHost />標籤里的 balance欄位,它是與讀寫分離息息相關的配置:

因此我們就需要弄清楚 標籤中 balance參數的含義:

  • balance="0":不開啟讀寫分離機制,即讀請求僅分發到 writeHost上
  • balance="1":讀請求隨機分發到當前 writeHost對應的 readHost和 standby writeHost上
  • balance="2":讀請求隨機分發到當前 dataHost內所有的 writeHost / readHost上
  • balance="3":讀請求隨機分發到當前 writeHost對應的 readHost上

我們驗證一下 balance="1"的情況,即開啟讀寫分離機制,且讀請求隨機分發到當前 writeHost對應的 readHost和 standby writeHost上,而對於本文來講,也即:hostS1 和 hostM2 上

我們來做兩次數據表的 SELECT讀操作:

mysql> select * from travelrecord limit 6;
+----+----------+-------------+
| id | city | create_date |
+----+----------+-------------+
| 3 | TianJing | 2018-11-04 |
| 5 | ShenYang | 2018-11-05 |
| 4 | Wuhan | 2018-12-04 |
| 6 | Harbin | 2018-12-05 |
+----+----------+-------------+
4 rows in set (0.08 sec)

mysql> select * from travelrecord limit 6;
+----+---------+-------------+
| id | city | create_date |
+----+---------+-------------+
| 2 | BeiJing | 2018-12-03 |
| 8 | WuXi | 2018-12-06 |
| 1 | NanJing | 2018-11-03 |
| 7 | SuZhou | 2018-11-06 |
+----+---------+-------------+
4 rows in set (0.01 sec)

然後我們取出 mycat.log日誌查看一下具體詳情,我們發現第一次 select讀操作分發到了 hostM2上:

而第二次 select讀操作分發到了 hostS1上:

主備切換實驗

**預期實驗效果:**開啟 MyCAT的主備機制後,當主庫宕機時,自動切換到備用機進行操作

關於主備切換,則需要弄清楚 <dataHost /> 標籤中 switchType參數的含義:

  • switchType="-1":不自動切換主備資料庫
  • switchType="1":自動切換主備資料庫
  • switchType="2":基於MySQL主從複製的狀態來決定是否切換,需修改heartbeat語句:show slave status
  • switchType="3":基於Galera(集群多節點複製)的切換機制,需修改heartbeat語句:show status like wsrep%

此處驗證一下 Mycat的主備自動切換效果。為此首先我們將 switchType="-1" 設置為 switchType="1",並重啟 MyCat服務:

<dataHost name="testhost" maxCon="1000" minCon="10" balance="0"
writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100">

在本實驗環境中,在 hostM1 和 hostM2均正常時,默認寫數據時是寫到 hostM1的

  • 接下來手動停止 hostM1 上的 MySQL資料庫來模擬 hostM1 宕機:

systemctl stop mysqld.service

接下來再通過 MyCat插入如下兩條數據:

insert into travelrecord(id,city,create_date) values(3,TianJing,2018-11-4);
insert into travelrecord(id,city,create_date) values(4,Wuhan,2018-12-4);

效果如下:

  • 此時,我們恢復 hostM1,但接下來的數據寫入依然進入 hostM2

insert into travelrecord(id,city,create_date) values(5,ShenYang,2018-11-5);
insert into travelrecord(id,city,create_date) values(6,Harbin,2018-12-5);

  • 接下來手動讓 hostM2宕機,看 hostM1 是否能升級為主寫節點

再插入兩條數據:

insert into travelrecord(id,city,create_date) values(7,SuZhou,2018-11-6);
insert into travelrecord(id,city,create_date) values(8,WuXi,2018-12-6);

很明顯,答案是肯定的

後 記

由於能力有限,若有錯誤或者不當之處,還請大家批評指正,一起學習交流!

作者:CodeSheep程序羊鏈接:imooc.com/article/26842來源:慕課網本文原創發佈於慕課網 ,轉載請註明出處,謝謝合作

推薦閱讀:

接手別人的代碼,死的心有嗎?

普通的程序員和大神級的程序員有什麼區別?

網上黑程序員的現實依據是什麼?程序員真的那麼悲慘嗎?

有哪些視頻堪稱有毒?

暴露真實IP真的沒關係嗎?

有哪些程序員特有的習慣?

月薪3萬的程序員都避開了哪些坑?

和程序猿談戀愛是一種怎樣的體驗?

推薦閱讀:

相关文章