• 欢迎访问搞代码网站,推荐使用最新版火狐浏览器和Chrome浏览器访问本网站!
  • 如果您觉得本站非常有看点,那么赶紧使用Ctrl+D 收藏搞代码吧

分享下去年底写的mysql分库分表中间件heisenberg_MySQL

mysql 搞代码 4年前 (2022-01-09) 18次浏览 已收录 0个评论
文章目录[隐藏]

test

schema.xml配置

mysql数据源

<dataSource name=“transDS” type=“mysql”>

<property name=“location”>

10.58.49.14:8701/db$0-9

<property name=“user”>root

<property name=“password”>st0078

<property name=“sqlMode”>STRICT_TRANS_TABLES

这里指定的mysql的数据源,后面$0-9是一种自定义的缩略写法

也可以在property里面定义多个lo本文来源gao@!dai!ma.com搞$$代^@码5网@cation,比如:

<property name=“location”>

10.58.49.14:8701/db0

10.58.49.14:8701/db1

10.58.49.14:8701/db2

效果是一样的

Shard结点配置

Shard结点相当于一个逻辑结点,提供给外部相关的schema,对应于数据源有

主/备/灾,

<dataNode name=“transDN”>

<property name=“dataSource”>

transDS$0-9

transSlaveDS$0-9

transSlaveDS$0-9

<property name=“rwRule”>

<property name=“poolSize”>256

<property name=“heartbeatSQL”>select user()

属性dataSource 第一个是主库,第二个备库,第三个灾库,需要多少配置多少个

读写分离规则rwRule,m和s代表读取的比例,表示主库读取为0,从库读取1,这样直接读写分离,如果是1:1的话相当读取各1:1的比例

池大小poolSize为到mysqlDB的连接数和心跳sql heartbeatSQL,无特殊需求保持不变

Schema配置

<schema name=“trans_shard”>

<table name=“trans_online, trans_content, trans_tb “ dataNode=“transDN$0-9”rule=“rule1” />

trans_shard 提供的schema,对应于server.xml中的名字

下面会有多个需要分库的表,

<table name=“trans_online” dataNode=“transDN$0-9” rule=“rule1” />

这里必须要把需要分库分表的内容写出来,当然,如果不分库表也是可以的

<table name=”tbxxx” dataNode=“transDN0” ruleRequired=”false”/

rule.xml

分库分表规则配置,其中columns,dbRuleList,tbRuleList里面的列名要保持大写

首先先上一个整体配置

<tableRule name=“rule1”>

TRANS_ID

<![CDATA[#set($start=$TRANS_ID.length() – 2)##

#set($end=$TRANS_ID.length() – 1)##

$stringUtil.substring($TRANS_ID,$start,$end)]]>

<![CDATA[#set($start=$TRANS_ID.length() – 2)##

$stringUtil.substring($TRANS_ID,$start)]]>

<!—ecms -ecms 00-99 100个表,每个表属于哪个结点 Map<Integer,Set> –>

<![CDATA[

def map = [:];

for (int i=0; i<10; i++) {

def list = [];

for (int j=0; j<10; j++) {

list.add(i+””+j);

}

map.put(i,list);

};

return map;

]]>

其中dbRuleList 为分库规则

<![CDATA[#set($start=$TRANS_ID.length() – 2)##

#set($end=$TRANS_ID.length() – 1)##

$stringUtil.substring($TRANS_ID,$start,$end)]]>

分库规则dbRuleList可以有多个dbRule,当第一个不满足时,可以用第二个,当然这个效率不好,如果有规则区分,尽量再写一个rule,

dbRule 最后的结果是表的前缀

比如分库分表 库名为db0-db9,那么这个dbRule渲染时

取到TRANS_ID 这个为后,在脚本里计算出取倒数第2位为库后缀

比如上图的分库为

分表规则配置

<![CDATA[#set($start=$TRANS_ID.length() – 2)##

$stringUtil.substring($TRANS_ID,$start)]]>

这个和上面分库一样了,以倒数1,2位为库的后缀

如下图:

有个潜规则就是

需要保证全局的表名不能重复

比如db0有个trans_tb00,db1就不能有叫trans_tb00的表

表初始化

<!—ecms -ecms 00-99 100个表,每个表属于哪个结点 Map<Integer,Set> –>

<![CDATA[

def map = [:];

for (int i=0; i<10; i++) {

def list = [];

for (int j=0; j<10; j++) {

list.add(i+””+j);

}

map.put(i,list);

};

return map;

]]>

需要初始化个表,其中key为db的下标索引,比如db0 的下标为0,

list为每个库里的表后缀名

目录是为了初始化定义这些库表

如何使用呢?

通过命令行

这里就不用讲了,wms_shard就是在server.xml里面配置的逻辑分库分表的数据源schema,应用只要访问这个就好了

show tables;也可以看到自己的一些表信息

ok.

mysql> select * from t_user_id_map;

+———–+—————————+———–+————+———————+———————+

| F_uid | F_uname | F_enabled | F_user_id | F_create_time | F_modify_time |

+———–+—————————+———–+————+———————+———————+

| 105001050 | @8230762802717b6a723fe9cd | 1 | 1287824017 | 2014-03-10 15:38:44 | 2014-03-10 15:38:44 |

| 62000 | | 1 | 533885000 | 2014-03-26 23:02:31 | 2014-03-26 23:02:31 |

| 86000 | | 1 | 237406000 | 2014-03-27 01:04:23 | 2014-03-27 01:04:23 |

| 96000 | | 1 | 767684000 | 2014-03-27 00:30:32 | 2014-03-27 00:30:32 |

| 130000 | | 1 | 506552000 | 2014-03-27 15:57:31 | 2014-03-27 15:57:31 |

| 149000 | | 1 | 868483000 | 2014-03-27 15:50:09 | 2014-03-27 15:50:09 |

| 179000 | | 1 | 245626000 | 2014-03-26 21:33:46 | 2014-03-26 21:33:46 |

当没有指定分库分表规则时,是进行的全表扫描,当然我们可以通过学习

mysql> explain select * from t_user_id_map;

+———–+———————————–

| DATA_NODE | SQL

+———–+———————————–

| wmsDN[0] | select * from t_user_id_map_00_0

| wmsDN[0] | select * from t_user_id_map_00_1

| wmsDN[0] | select * from t_user_id_map_00_2

| wmsDN[0] | select * from t_user_id_map_00_3

| wmsDN[0] | select * from t_user_id_map_00_4

| wmsDN[0] | select * from t_user_id_map_00_5

| wmsDN[0] | select * from t_user_id_map_00_6

| wmsDN[0] | select * from t_user_id_map_00_7

| wmsDN[0] | select * from t_user_id_map_00_8

| wmsDN[0] | select * from t_user_id_map_00_9

| wmsDN[1] | select * from t_user_id_map_01_0

| wmsDN[1] | select * from t_user_id_map_01_1

| wmsDN[1] | select * from t_user_id_map_01_2

| wmsDN[1] | select * from t_user_id_map_01_3

| wmsDN[1] | select * from t_user_id_map_01_4

| wmsDN[1] | select * from t_user_id_map_01_5

| wmsDN[1] | select * from t_user_id_map_01_6

| wmsDN[1] | select * from t_user_id_map_01_7

| wmsDN[1] | select * from t_user_id_map_01_8

| wmsDN[1] | select * from t_user_id_map_01_9

| wmsDN[2] | select * from t_user_id_map_02_0

….

这边表很多,其中dataNode是我们里面对应的结点

mysql> select * from t_user_id_map where f_uid=196606999;

+———–+———+———–+———–+———————+———————+

| F_uid | F_uname | F_enabled | F_user_id | F_create_time | F_modify_time |

+———–+———+———–+———–+———————+———————+

| 196606999 | | 1 | 749331999 | 2014-04-04 14:46:58 | 2014-04-04 14:46:58 |

+———–+———+———–+———–+———————+———————+

<p style="margin-top: 0px;margin-bottom: 0px;padding: 0px;font-family: Helvetica, Tahoma, Arial, sans-serif;font-size: 14px;line-height: 21


搞代码网(gaodaima.com)提供的所有资源部分来自互联网,如果有侵犯您的版权或其他权益,请说明详细缘由并提供版权或权益证明然后发送到邮箱[email protected],我们会在看到邮件的第一时间内为您处理,或直接联系QQ:872152909。本网站采用BY-NC-SA协议进行授权
转载请注明原文链接:分享下去年底写的mysql分库分表中间件heisenberg_MySQL

喜欢 (0)
[搞代码]
分享 (0)
发表我的评论
取消评论

表情 贴图 加粗 删除线 居中 斜体 签到

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址