一 前期准备
1、mycat winodw安装包
2、jdk环境 (1.7以上)
3、mysql 环境(5.5以上)
4、navicat 客户端
二 mycat简介
1、mycat
mycat作为一个中间件,是数据库管理的优秀方案。详细介绍请看官网
2、mycat拓扑图
3、mycat作用
(1)、集中管理多个数据库连接(分布式解决方案)
(2)、配置读写分离
(3)、配置数据库分片(分表、分库)等 (本文视角)
三 mycat部署
1、解压mycat1.6
2、修改关键配置文件
实际环境如下
主机 | 数据库实例 | 数据表 |
127.0.0.1:3066 | db1 | t_test |
127.0.0.1:3066 | db2 | t_test |
127.0.0.1:3066 | db1 | t_test2 |
127.0.0.1:3066 | db3 | t_test |
管理要求
(1)同主机db1,db2,db3中 t_test表 为分片表 以id为分片字段进行数据分片
(2)主机db1中 t_test2表与t_test为关联表 希望通过与其他分片进行join查询
按上图需求修改配置。
(1) rule.xml
中定义分片规则与分片算法
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE mycat:rule SYSTEM "rule.dtd">
<mycat:rule xmlns:mycat="http://io.mycat/">
<!-- 分片规则定义 全局唯一 供schema使用 可以多个-->
<tableRule name="auto-sharding-long">
<rule>
<columns>id</columns> <!--需分片字段 数据库表字段一致-->
<algorithm>hash-int</algorithm> <!--引用下面分片算法-->
</rule>
</tableRule>
<!-- 分片算法定义 全局唯一 可以多个 -->
<function name="hash-int" class="io.mycat.route.function.PartitionByFileMap">
<property name="mapFile">partition-hash-int.txt</property> <!--分片算法输入参数配置-->
</function>
<!--
注意:1、tableRule有则使用,没有不要添加
2、分片函数默认提供多种,以及响应的算法配置文件
3、自定义算法需要编写 对应的java文件 与算法输入参数
-->
</mycat:rule>
(2)server.xml
中定义用户以及系统相关变量,如端口等
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE mycat:server SYSTEM "server.dtd">
<mycat:server xmlns:mycat="http://io.mycat/">
<!--系统参数配置 部分参数-->
<system>
<property name="charset">utf8</property> <!--设定字符集 默认utf-8-->
<!--<property name="processorExecutor">16</property>--> <!--处理线程池的大小 建议16-64-->
<!--<property name="processors">32</property>--> <!--处理线程数,默认是cup核数 最大128-->
<!--<property name="processorBufferChunk">4096</property>--> <!-- 每次读取数据 默认4096 -->
<!--<property name="processorBufferPoolType">0</property>--> <!--默认为type 0: DirectByteBufferPool | type 1 ByteBufferArena-->
<!--<property name="maxStringLiteralLength">65535</property>--><!--默认是65535 64K 用于sql解析时最大文本长度 -->
<!--<property name="backSocketNoDelay">1</property>--> <!--报文相关配置-->
<!--<property name="frontSocketNoDelay">1</property>--> <!--报文相关配置-->
<!-- <property name="useCompression">1</property>--> <!--1为开启mysql压缩协议-->
<!-- <property name="fakeMySQLVersion">5.6.20</property>--> <!--设置模拟的MySQL版本号-->
<!--<property name="serverPort">8066</property>--> <!--服务端口号-->
<!--<property name="managerPort">9066</property>--> <!--管理端口号-->
<!--<property name="idleTimeout">300000</property>--> <!--空闲时间 单位毫秒 默认30分钟-->
<!--<property name="bindIp">0.0.0.0</property>--> <!--服务地址ip 默认0.0.0.0-->
<!--<property name="useSqlStat">0</property>--> <!-- 1为开启实时统计、0为关闭 -->
<!--<property name="useGlobleTableCheck">0</property>--> <!-- 1为开启全加班一致性检测、0为关闭 -->
<!--<property name="sequnceHandlerType">2</property>--> <!-- 全局ID生成方式。(0:为本地文件方式,1:为数据库方式;2:为时间戳序列方式;3:为ZK生成ID;4:为ZK递增ID生成。-->
<!--<property name="frontWriteQueueSize">4096</property>-->
<!--分布式事务开关,0为不过滤分布式事务,1为过滤分布式事务(如果分布式事务内只涉及全局表,则不过滤),2为不过滤分布式事务,但是记录分布式事务日志-->
<!--<property name="handleDistributedTransactions">0</property>-->
<!--<property name="useOffHeapForMerge">1</property>--> <!--off heap for merge/order/group/limit 1开启 0关闭-->
<!--<property name="memoryPageSize">1m</property>--> <!--单位为m-->
<!--<property name="spillsFileBufferSize">1k</property>--> <!--单位为k-->
<!--<property name="useStreamOutput">0</property>-->
<!--<property name="systemReserveMemorySize">384m</property>--><!--单位为m-->
<!--<property name="useZKSwitch">true</property>--> <!--是否采用zookeeper协调切换 -->
</system>
<!-- 全局SQL防火墙设置 -->
<!--
<firewall>
<whitehost>
<host host="127.0.0.1" user="mycat"/> 白名单设置 允许ip 和 用户
<host host="127.0.0.2" user="mycat"/>
</whitehost>
<blacklist check="false"> 黑名单设置 false为关闭
</blacklist>
</firewall>
-->
<!-- 用户配置 可以多个 -->
<user name="root"> <!--mycat用户帐号-->
<property name="password">123456</property> <!--mycat用户密码-->
<property name="schemas">TESTDB</property> <!--用户允许访问的逻辑表 与schema对应 多张用逗号隔开-->
<!--<property name="readOnly">true</property>--> <!--用户属性-->
<!-- 表级 DML 权限设置 dml四位对应 insert update select delete-->
<!--
<privileges check="false"> false为关闭
<schema name="TESTDB" dml="0110" > 与schema 逻辑库对应
<table name="t_test" dml="0000"></table> 与逻辑库中表对应
</schema>
</privileges>
-->
</user>
<user name="user">
<property name="password">user</property>
<property name="schemas">TESTDB</property>
<property name="readOnly">true</property>
</user>
</mycat:server>
(3)schema.xml
中定义逻辑库,表、分片节点等内容
<?xml version="1.0"?>
<!DOCTYPE mycat:schema SYSTEM "schema.dtd">
<mycat:schema xmlns:mycat="http://io.mycat/">
<!-- 逻辑库 可以多个 -->
<schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100">
<!-- name 同类型全局唯一 checkSQLschema检查设置 sqlMaxLimit默认返回条数-->
<!-- 逻辑表 可以多个 -->
<table name="t_test" rule="auto-sharding-long" primaryKey="ID" dataNode="dn1,dn2,dn3" />
<!--name需要与数据库表对应 primaryKey主键ID rule分片规则 数据分布在dn1、dn2、dn3三个数据节点dataNode -->
<table name="t_test2" primaryKey="ID" type="global" dataNode="dn1" />
<!--没有分片的表 默认是普通表 type=global表 会将所有dataNode的数据拷贝一份到该逻辑表中-->
</schema>
<!-- 逻辑数据节点 可以多个 -->
<dataNode name="dn1" dataHost="localhost1" database="db1" />
<!--name 同类型全局唯一 dataHost同类型全局唯一 database真实数据库实例名-->
<dataNode name="dn2" dataHost="localhost1" database="db2" />
<dataNode name="dn3" dataHost="localhost1" database="db3" />
<!-- 逻辑数据节点真实连接 -->
<dataHost name="localhost1" maxCon="1000" minCon="10" balance="0"
writeType="0" dbType="mysql" dbDriver="native">
<!--
name 唯一标识 dataHost 标签,供上层的标签使用
maxCon 指定每个读写实例连接池的最大连接。
minCon 指定每个读写实例连接池的最小连接,初始化连接池的大小。
balance 负载均衡类型,目前的取值有4 种:
“0”, 不开启读写分离机制,所有读操作都发送到当前可用的 writeHost 上。
“1”,全部的 readHost 与 stand by writeHost 参与 select 语句的负载均衡,简单的说,当双主双从模式(M1->S1,M2->S2,并且 M1 与 M2 互为主备),正常情况下,M2,S1,S2 都参与 select 语句的负载均衡。
”2”,所有读操作都随机的在 writeHost、readhost 上分发。
”3”,所有读请求随机的分发到 wiriterHost 对应的 readhost 执行,writerHost 不负担读压writeType 1. writeType=”0”, 所有写操作发送到配置的第一个 writeHost,第一个挂了切到还生存的第二个writeHost,重新启动后已切换后的为准,切换记录在配置文件中:dnindex.properties .2. writeType=”1”,所有写操作都随机的发送到配置的 writeHost,1.5 以后废弃不推荐。默认0就好了!
dbType 指定后端连接的数据库类型,目前支持二进制的 mysql 协议,还有其他使用 JDBC 连接的数据库。例如:mongodb、oracle、spark 等.
dbDriver 指定连接后端数据库使用的 Driver,目前可选的值有 native 和 JDBC。使用 native 的话,因为这个值执行的是二进制的 mysql 协议,所以可以使用 mysql 和 maridb。其他类型的数据库则需要使用 JDBC 驱动来支持。
switchType
“-1” 表示不自动切换; “1” 默认值,自动切换;
“2” 基于 MySQL 主从同步的状态决定是否切换心跳语句为 show slave status;
“3” 基于 MySQL galary cluster 的切换机制(适合集群)(1.4.1)心跳语句为 show status like ‘wsrep%’.
tempReadHostAvailable 如果配置了这个属性 writeHost 下面的 readHost 仍旧可用,默认 0 可配置(0、1)。
-->
<!--心跳检测语句-->
<heartbeat>select user()</heartbeat>
<!--数据库连接属性-->
<writeHost host="hostM1" url="localhost:3306" user="root" password="root"/>
<!--host 写库规范是*MN 读库规范是*SN url为ip:host user 数据库帐号 password数据库密码-->
</dataHost>
</mycat:schema>
四 mycat启动
1 、 使用管理员权限打开cmd
2 安装mycat服务并启动
(1)切换到mycat/bin目录
cd /d D:\Mysoft\mycat\mycat\bin
(2)安装服务
mycat install
(3)启动服务
mycat start
(4)其他操作
mycat restart ##重新启动 修改配置时使用
mycat stop ##服务停止
mycat pause/resume ##服务暂停/恢复
mycat remove ##服务移除 需要停止服务
mycat console ##服务调试窗口
五 验证逻辑
1、连接mysql 按照环境要求建立 db1,db2,db3 以及对应的表
t_test.sql
/*
Navicat MySQL Data Transfer
Source Server : 本地mysql
Source Server Version : 50722
Source Host : localhost:3306
Source Database : db1
Target Server Type : MYSQL
Target Server Version : 50722
File Encoding : 65001
Date: 2018-06-08 17:19:27
*/
SET FOREIGN_KEY_CHECKS=0;
-- ----------------------------
-- Table structure for t_test
-- ----------------------------
DROP TABLE IF EXISTS `t_test`;
CREATE TABLE `t_test` (
`id` int(11) NOT NULL,
`name` varchar(255) DEFAULT NULL,
PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;
t_test2.sql
/*
Navicat MySQL Data Transfer
Source Server : 本地mysql
Source Server Version : 50722
Source Host : localhost:3306
Source Database : db1
Target Server Type : MYSQL
Target Server Version : 50722
File Encoding : 65001
Date: 2018-06-08 17:21:23
*/
SET FOREIGN_KEY_CHECKS=0;
-- ----------------------------
-- Table structure for t_test2
-- ----------------------------
DROP TABLE IF EXISTS `t_test2`;
CREATE TABLE `t_test2` (
`id` int(11) DEFAULT NULL,
`name` varchar(255) DEFAULT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8;
2、 登录mycat服务端
ip:为mycat服务器ip 端口使用服务端口8066 帐号密码为server.xml 定义的帐号密码
3 、登录成功,发现其逻辑结构与schema定义的逻辑库 逻辑表一致
4 、数据测试
(1)往 db1,db2,db3 t_test中分别插入 id 为 1、2、3 三条数据 亦可通过mycat往t_test写数据 验证分片规则
则Mycat分片表其对应逻辑表查询结果如下
(2)往 db1 t_test插入数据
则mycat对应全局逻辑表为
(3)验证跨库join操作
select * from t_test a LEFT JOIN t_test2 b on a.id = b.id ##错误写法
/*!mycat:catlet=io.mycat.catlets.ShareJoin */select * from t_test a, t_test2 b on a.id = b.id ##正确写法