写点什么

【TUG 话题探讨 001】TiDB 的应用场景有哪些?看看 TUG 的技术专家怎么说

  • 2022 年 7 月 11 日
  • 本文字数:3402 字

    阅读完需:约 11 分钟

作者: luzizhuo 原文来源:https://tidb.net/blog/388e8b71

技术话题探讨

8 月 19 日,TUG 群里进行了第一次技术话题探讨会活动,本次探讨会主题为“TiDB 应用场景”,TUG 社群中多位技术专家参与了讨论,以下为讨论分享(为方便大家阅读,顺序有调整):


首先,来自 58 同城的刘春雷分享了 58 对 TiDB 的应用场景


58 同城-刘春雷:


  • MySQL 大表:

  • 对于不涉及交易业务的大单表:超过 100G 的,条数大于 1 亿的,全部迁移到 TiDB。我们使用 TiDB 的初期,迁移了几十 T 的数据到 TiDB,减轻了 MySQL 的压力。

  • 监控数据:

  • 监控业务特点是数据正常都比较大,有一定保存时间需求,且流量比较大,连接数可能比较多。

  • 例如 DBA 的数据库存活监控、性能监控、其他业务的相关监控,我们接入到了 TiDB,使用多个 TiDB Server 支撑流量,多个 TiKV 保证数据写入速度及数据保留,很好的支撑了业务

  • 数仓:

  • 数仓业务特点是表很多,业务逻辑比较复杂,存在详细数据与分析后的结果数据的需求,一定写入速度的需求,并发查询 + 分析查询的情况。

  • 例如金融业务数仓,商业某业务的数仓等,使用 TiKV+TiFlash, 大部分表都加入到 TiFlash,升级到最新版本,多 TiFlash 节点,多个 TiKV 保证数据写入速度及数据保留,很好的支撑了业务。

  • 报表:

  • 报表业务的特点跟数仓有点像,表多,存在详细数据与分析后的结果数据的需求,一定写入速度的需求,并发查询 + 分析查询的情况。

  • 例如安居客业务报表、DBA 使用的报表、商业报表等等,也是 TiKV+TiFlash,5.0 版本,按需扩展多个 TiFlash

  • 日志、流水:

  • 日志、流水业务的特点:其实就是大单表,有一定的保留日期,写入平稳,分析查询相比不多。

  • 例如安居客相关日志、商业操作日志,操作流水等等,可以建立分区表,方便历史数据清理,只使用 TiKV 即可

  • 数据归档:

  • 归档业务的特点:定期归档,查询少,但数据重要,不能丢失,接受一定的写入速度慢。

  • 原来归档我们使用 TokuDB,但是 TokuDB 要被官方废弃了,TiDB 是个很好的接任者,目前我们部分业务的归档开始使用 TiDB 了。

  • 例如商业的归档数据等,可以使用普通的大容量的 SSD 盘,例如多块 8T SSD ,提升容量,且配置更高压缩率的压缩参数等

  • 还有个比较好玩的场景:用户画像

  • 有点查和分析查询,每个用户有多个维度的属性,有多字段的需求,TiDB 默认限制字段数 1024 个左右

  • 如果更多,需要修改配置并重启 TiDB,算是个需要优化的点.TiKV+TiFlash 可以比较好的支持


京东-田朋:


数据归档 数据汇总


房晓乐-PingCAP:


订单与支付


刚刚结束的 “818 汽车之夜”,TiDB 也发挥了重要作用,大家也都很感兴趣汽车之家是如何使用的:


靳献旗 汽车之家:


论坛业务,车主价格等等等


分库分表,我们论坛回复业务从 SQL Server 1000 张表迁移过来运行两年多了


京东-田朋:


@靳献旗 - 汽车之家 献旗老师,818 汽车之家的活动,TiDB 应该用了不少场景了吧 ?


靳献旗 汽车之家:


是的,田老师,不少,晚会期间峰值每秒写入应该有几十万


张政俊-中欧基金:


「 靳献旗 汽车之家:是的,田老师,不少,晚会期间峰值每秒写入应该有几十万 」




每秒十几万,下面大概几台 TiDB,几台 TiKV 啊?


靳献旗 汽车之家:


20 个 TiKV 实例,10 台服务器。TiDB 五台,CDC 节点同步每秒峰值 22 万


何傲-神州数码:


「 靳献旗 汽车之家:20 个 TiKV 实例,10 台服务器。TiDB 五台,CDC 节点同步每秒峰值 22 万 」




这个是做的混部吗,怎么分配的呀


靳献旗 汽车之家:


TiDB 和 PD 混合部署了。TiKV 单台服务器部署两个实例。


何傲-神州数码:


是物理机部两个 tikv 实例吗


靳献旗 汽车之家:


是的


李坤-PingCAP:


「 靳献旗 汽车之家:是的,田老师,不少,晚会期间峰值每秒写入应该有几十万 」




是几十万还是十几万呐,写入呀?献旗老师


靳献旗 汽车之家:


「 李坤 -PingCAP:是几十万还是十几万呐,写入呀?献旗老师 」




李老师,不太好统计,正好提一个需求,可以类似查看 innodb 每秒写入的行数。因为业务是批量写,不同表的批还不同,有的 200 行一批,有的 50 行,所以不好统计。


TiDB 的很多老用户都对来自多点的业财一体化场景印象深刻,本次探讨会唐万民也介绍了更多场景:


唐万民-多点:


我补充几个我们的场景:


  • 第一个 TiDB 作为冷库,通过 MySQL 同步至 TiDB,MySQL 存放热数据,通过我们开发的同步工具过滤掉删除操作,保证 TiDB 中为全量数据;

  • 第二个 MySQL 中的分表通过同步至 TiDB 合并为单表,在 TiDB 中进行业务查询,减少分表查询数据复杂度;

  • 其他业务场景和各位老师差不多,就不多描述了。


房晓乐-PingCAP:


「 唐万民 - 多点: 我补充几个我们的场景 第一个 tidb 作为冷库 通过 mysql 同步至 tidb mysql 存放热数据 通过我们开发的同步工具过滤掉删除操作 保证 tidb 中为全量数据 第二个 mysql 中的分表通过同步至 tidb 合并为单表 在 tidb 中进行业务查询 减少分表查询数据复杂度 其他业务场景和各位老师差不多 就不多描述了 」




业务查询,是哪方面? 运营、客服等后台系统?


唐万民-多点:


库存、库凭、物流,还有其他很多场景


房晓乐-PingCAP:


你们的业财一体化啊


深圳昂捷-kongdom:


唐老师的业财一体化


唐万民-多点:


业财一体化也是一个场景,是我们比较重要的一个。让财务数据变为基本准实时,还得靠 TiDB 啊


徐嘉埥-建信金科:


补一个实时交易分析,纯纯的金融场景


深圳昂捷-kongdom:


我们是房老师说的订单与支付,外加用户画像分析,不过还在起步阶段


美团_杜振强:


数据中台场景特别适合


当然,TiDB 并不完美,聊起应用场景,很自然大家也对 TiDB 有更多的期待,我们也进行了收集,大家一起共建,让 TiDB 变得更好!


表妹:


目前应用场景下是否还有新的产品需求,希望 TiDB 团队去实现的吗?


58 同城-刘春雷:


  • 字段数那块给个支持吧,至少 4096 个字段吧,这样实现用户画像还方便点

  • AP 业务增强:

  • Tiflash 独立对外

  • 支持大数据相关接口导入

  • 文档需求:有数据归档,能否给个更高压缩的文档指导,正是替换 tokudb 的好时候,如何提高压缩率


马勇-万博丰:


  • 支持 Hadoop 文件建表

  • PG 这些都可以有插件

  • 支持 Hadoop 文件系统的话


田帅萌-京东数科:


更高压,近期写入的数据,读更快。MySQL 和 tokudb 也是 10 比一吧,压缩比。


All in TiDB?


表妹:


有 all in TiDB 的吗?


Kongdom-深圳昂捷:


某个场景应该是 all in 吧


58 同城-刘春雷:


我们是超 100G 大表 all in tidb。。。


联通-张进:


「 58 同城 - 刘春雷:我们是超 100G 大表 all in tidb。。。 」




上次压测时我们有张大表快 1t 的数据,表现也不错


58 同城-刘春雷:


嗯,100G 起步,到 TiDB~


太小就放 MySQL


最后,房老师用一张图为本次探讨会做了总结:


房晓乐-PingCAP:



58 同城-刘春雷:


这个图总结的不错


也欢迎你分享 TiDB 应用场景,参与调研即送 100 积分



【已结束】TiDB 应用场景调研,参与即送 100 积分 TiDB 社区活动


TiDB 的应用场景对于 TiDB 产品的打磨是非常重要, 只有充分了解大家的应用场景,我们才能更好地改善产品,以便于产品越来越满足大家的需要。 现在,参与问卷调研反馈你的 TiDB 应用场景,即可获得 100 经验值,100 积分。 问卷链接: https://forms.pingcap.com/f/tidb-scenarios 问卷填写需要关联 asktug 账号,活动结束后会在问…

加入 TUG

如果你也对数据库、大数据感兴趣,想与业界大咖们一起交流最前沿的数据库与大数据知识,欢迎加入 TUG,和 TUG 一起成长!


扫码报名或者点击链接跳转报名



.png”)

话题征集,参与加分 200 积分 &200 经验值

如果你也有话题希望能看到技术专家们的思想碰撞,可以在帖子下面回复你想了解或者感兴趣的话题,被采纳者可以获得 200 积分 &200 经验值。

延伸阅读


TiDB 使用场景漫谈 技术文章


TiDB 使用场景漫谈 –2021-08-19 春雷 1、前言 为了方便大家对于多种数据库产品有个大致的认知,对于更好的使用 TiDB,今天随便谈谈 TiDB 使用场景。 首先个人观点:没有一种数据库是银弹。 此篇文章也不是黑 TiDB,只是从客观的角度,来说下当前 TiDB 更适合的场景。 借此希望大家能更好的用起来 TiDB,而不是用在了错误的场景,再来吐槽 TiDB 不…



TUG 周年庆精选:多点数字化新零售平台业财一体化 活动回顾


TUG 于 2019 年 6 月 23 日成立,值此一周年之际,TUG 管理委员会与各区域小组,将联合举办周年庆系列活动。今天我们回顾一下,在 8 月 15 日,由 TUG 西南组承办的,主题为《TiDB 在多点业财一体化下的探索与实践》的西南场 TUG 活动的精彩内容,以为为演讲实录。​ 主 讲人 : 张兴晔 | 多点 Dmall 系统架构师,负责多点数字化零售平台的系统架构和开发。 首先感…


发布于: 刚刚阅读数: 2
用户头像

TiDB 社区官网:https://tidb.net/ 2021.12.15 加入

TiDB 社区干货传送门是由 TiDB 社区中布道师组委会自发组织的 TiDB 社区优质内容对外宣布的栏目,旨在加深 TiDBer 之间的交流和学习。一起构建有爱、互助、共创共建的 TiDB 社区 https://tidb.net/

评论

发布
暂无评论
【TUG 话题探讨001】TiDB 的应用场景有哪些?看看 TUG 的技术专家怎么说_TiDB 社区干货传送门_InfoQ写作社区