• 欢迎访问搞代码网站,推荐使用最新版火狐浏览器和Chrome浏览器访问本网站!
  • 如果您觉得本站非常有看点,那么赶紧使用Ctrl+D 收藏搞代码吧

MySQL分表实现上百万上千万记录分布存储的批量查询设计模式[图]_MySQL

mysql 搞代码 4年前 (2022-01-09) 14次浏览 已收录 0个评论

我们知道可以将一个海量记录的 MySQL 大表根据主键、时间字段,条件字段等分成若干个表甚至保存在若干服务器中。

  唯一的问题就是跨服务器批量查询麻烦,只能通过应用程序来解决。谈谈在Java中的解决思路。其他语言原理类似。

  这里说的分表不是 MySQL 5.1 的 partition,而是人为把一个表分开存在若干表或不同的服务器。

  1. 应用程序级别实现

  见示意图

  SelectThreadManager 分表数据查询管理器

  它为分表的每个database or server 建立一个 thread pool

  addTask() – 添加任务

  stopTask() – 停止任务

  getResult() – 获取执行结果

  最快的执行时间 = 最慢的 MySQL 节点查询消耗时间

  最慢的执行时间 = 超时时间

  某个 ThreadPool 忙时候处理流程

  1. 假如 ThreadPoolN 非常忙,(也意味 DB N 非常忙);

  2. 新的查询任务到来,addTask(), 新的任务的一个thread加到ThreadPoolN任务排队中

  3. 外层应用已经获得其他 thread 返回结果,继续等待

  4. 外层应用等待超时的时间到,调用 stopT本文来源gaodaimacom搞#^代%!码网@ask() 设置该任务全部 thread 中的停止标志, 外层应用返回。

  5. 若干时间后,ThreadPoolN取到该排队 Thread, 因为设置了停止位,线程直接运行完成。

  2. JDBC 层实现

  做一个 JDBC Driver 的包装,拦截 PreparedStatement, Statement 的 executeQuery()

  然后调用 SelectThreadManager 完成

  3. MySQL partition

  MySQL 5.1 的 partition 功能由于单张表的数据跨文件,批量查询时候同样存在上述问题,不过它是在 MySQL 内部实现的,不需要外部调用者关心。其查询实现的原理应该大致类似。

  但 partition 只解决了 IO 的瓶颈,并不能解决 CPU 计算的瓶颈,因此无法代替传统的手工分表方式。


搞代码网(gaodaima.com)提供的所有资源部分来自互联网,如果有侵犯您的版权或其他权益,请说明详细缘由并提供版权或权益证明然后发送到邮箱[email protected],我们会在看到邮件的第一时间内为您处理,或直接联系QQ:872152909。本网站采用BY-NC-SA协议进行授权
转载请注明原文链接:MySQL分表实现上百万上千万记录分布存储的批量查询设计模式[图]_MySQL
喜欢 (0)
[搞代码]
分享 (0)
发表我的评论
取消评论

表情 贴图 加粗 删除线 居中 斜体 签到

Hi,您需要填写昵称和邮箱!

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址