写点什么

手把手带你用数据库中间件 Mycat+SpringBoot 完成分库分表

作者:Java高工P7
  • 2021 年 11 月 12 日
  • 本文字数:2637 字

    阅读完需:约 9 分钟

按照某个特定的字段求摸,或者根据特定范围段分散到不同的库中。


如图,切分原则都是根据业务找到适合的切分规则分散到不同的库,下面用用户 ID 求模举



既然数据做了拆分有优点也就优缺点。


优点:


拆分规则抽象好,join 操作基本可以数据库做;


不存在单库大数据,高并发的性能瓶颈;


应用端改造较少;


提高了系统的稳定性跟负载能力。


缺点:


拆分规则难以抽象;


分片事务一致性难以解决;


数据多次扩展难度跟维护量极大;


跨库 join 性能较差


五、什么是 Mycat


它是一个开源的分布式数据库系统,是一个实现了 MySQL 协议的的


Server,前端用户可以把它看作是一个数据库代理,用 MySQL 客户端工具和命令行访问,而其后端可以用 MySQL 原生(Native)协议与多个 MySQL 服务器通信,也可以用 JDBC 协议与大多数主流数据库服务器通信,其核心功能是分表分库,即将一个大表水平分割为 N 个小表,存储在后端 MySQL 服务器里或者其他数据库里。


常见应用场景:


单纯的读写分离,此时配置最为简单,支持读写分离,主从切换;


分表分库,对于超过 1000 万的表进行分片,最大支持 1000 亿的单表分片;


多租户应用,每个应用一个库,但应用程序只连接 Mycat,从而不改造程序本身,实现多租户化;


报表系统,借助于 Mycat 的分表能力,处理大规模报表的统计;? 替代 Hbase,分析大数据;


作为海量数据实时查询的一种简单有效方案,比如 100 亿条频繁查询的记录需要在 3 秒内查询出来结果,除了基于主键的查询,还可能存在范围查询或其他属性查询,此时 Mycat 可能是最简单有效的选


六、SpringBoot+Mycat+MySQL 实现分表分库案例


关于分库分表,Mycat 已经帮我们在内部实现了路由的功能,我们只需要在 Mycat 中配置以下切分规则即可,对于开发者来说,我们就可以把 Mycat 看做是一个数据库,接下来我们开始搭建环境:


步骤一:


Mycat 是使用 java 写的数据库中间件,所以要运行 Mycat 前要准备要 jdk 的环境,要求是 jdk1.7 以上的环境。所以需要在系统中配置 JAVA_HOME 的环境变量.


步骤二:


从官网下载 Mycat,http://dl.mycat.io/1.6-RELEASE/我们是基于CentOS7来搭建Mycat环境的,所以下载版本:


Mycat-server-1.6-RELEASE-20161028204710-linux.tar.gz


步骤三:


将下载好的安装包上传到服务器上并解压.解压之后目录结构如下:



步骤四:


配置切分规则:


将如下配置复制粘贴覆盖 mycat/conf/schema.xml 的内容。


<?xml version="1.0"?>


<!DOCTYPE mycat:schema SYSTEM "schema.dtd">


< mycat:schema xmlns:mycat="http://io.mycat/">


< schema name="TESTDB" checkSQLschema="false" sqlMaxLimit="100">


< table name="user" primaryKey="id" dataNode="dn01,dn02" rule="rule1" />


< /schema>


< !-- 设置 dataNode 对应的数据库,及 mycat 连接的地址 dataHost -->


< dataNode name="dn01" dataHost="dh01" database="db01" />


< dataNode name="dn02" dataHost="dh01" database="db02" />


< !-- mycat 逻辑主机 dataHost 对应的物理主机.其中也设置对应的 mysql 登陆信息 -->


< dataHost name="dh01" maxCon="1000" minCon="10" balance="0" writeType="0" dbType="mysql" dbDriver="native">


< heartbeat>select user()< /heartbeat>


< !-- 觉得文章对你有帮助的话,可以加一下我的企鹅技术交流圈:519752913,我会在里面不定时分享干货资源,希望能够对你有帮助 -->


< writeHost host="server1" url="127.0.0.1:3306" user="root" password="WolfCode_2017"/>


< /dataHost>


< /mycat:schema>


< schema>:表示的是在 mycat 中的逻辑库配置,逻辑库名称为:TESTDB


<t able>:表示在 mycat 中的逻辑表配置,逻辑表名称为:user,映射到两个数据库节点 dataNode 中,切分规则为:rule1(在 rule.xml 配置)


< dataNode>:表示数据库节点,这个节点不一定是单节点,可以配置成读写分离.


< dataHost>:真实的数据库的地址配置


< heartbeat>:用户心跳检测


< writeHost>:写库的配置


将如下配置复制粘贴覆盖 mycat/conf/rule.xml 的内容。


<?xml version="1.0" encoding="UTF-8"?>


<!DOCTYPE mycat:rule SYSTEM "rule.dtd">


< mycat:rule xmlns:mycat="http://io.mycat/">


< tableRule name="rule1">


< rule>


< columns>id< /columns>


< algorithm>mod-long< /algorithm>


< /rule>


</ tableRule>


< f unction name="mod-long" class="io.mycat.route.function.PartitionByMod">


< !-- how many data nodes -->


< property name="count">2< /property>


< /function>


< /mycat:rule>


这里定义的是切分规则,是按照 id 列进行切分,切分规则是采取取模的方式,


< property name=“count”>2< /property>:这里配置了我们有拆分了多个库(表),需要和前面配置


< table name="user" primaryKey="id" dataNode="dn01,dn02" rule="rule1" />


中的 dataNode 个数一致,否则会出错.


步骤五:


在数据库中创建两个数据库 db01,db02.


每个库中执行如下建表语句:


CREATE TABLE user (


id bigint(20) NOT NULL,


name varchar(255) DEFAULT NULL,


PRIMARY KEY (id)


) ENGINE=InnoDB DEFAULT CHARSET=utf8;


步骤六:


启动 mycat,执行 mycat/bin/startup_nowrap.sh


步骤七:


项目已经上传到 github


https://github.com/javalanxiongwei/springboot-mycat


搭建 SpringBoot 环境,执行插入语句.


application.properties 配置如下:


#配置数据源


spring.datasource.druid.driver-class-name=com.mysql.jdbc.Driver


#这里配置的是 Mycat 中 server.xml 中配置账号密码,不是数据库的密码。


spring.datasource.druid.username=root


spring.datasource.druid.password=123456


#mycat 的逻辑库 端口也是 mycat 的


spring.datasource.druid.url=jdbc:mysql://192.168.142.129:8066/TESTDB


UserMapper.java 代码如下:


@Mapper


public interface UserMapper {


@Insert("insert into user(id,name) value (#{id},#{name})")


int insert(User user);


@Select("select * from user")


List< User> selectAll();


}


UserController.java 代码如下:


@RestController


@RequestMapping("/user")


public class UserController {


@Autowired


private UserMapper userMapper;


@RequestMapping("/save")


public String save(User user){


userMapper.insert(user);


return "保存成功";


}


@RequestMapping("/list")


public List< User> list(){


return userMapper.selectAll();


}


}


步骤八:


测试:


在地址栏输入:


http://localhost:8080/user/save?id=1&name=tom


http://localhost:8080/user/save?id=2&name=jack


【一线大厂Java面试题解析+后端开发学习笔记+最新架构讲解视频+实战项目源码讲义】
浏览器打开:qq.cn.hn/FTf 免费领取
复制代码


查看数据库发现:

用户头像

Java高工P7

关注

还未添加个人签名 2021.11.08 加入

还未添加个人简介

评论

发布
暂无评论
手把手带你用数据库中间件Mycat+SpringBoot完成分库分表