暧昧同居 冷血大兵,千元平板电脑,今日周大福黄金价格
我们知道可以将一个海量记录的 mysql 大表根据主键、时间字段，条件字段等分成若干个表甚至保存在若干服务器中。
唯一的问题就是跨服务器批量查询麻烦，只能通过应用程序来解决。谈谈在java中的解决思路。其他语言原理类似。
这里说的分表不是 mysql 5.1 的 partition，而是人为把一个表分开存在若干表或不同的服务器。
1. 应用程序级别实现
见示意图
electthreadmanager 分表数据查询管理器
它为分表的每个database or server 建立一个 thread pool
addtask() - 添加任务
stoptask() - 停止任务
getresult() - 获取执行结果
最快的执行时间 = 最慢的 mysql 节点查询消耗时间
最慢的执行时间 = 超时时间
某个 threadpool 忙时候处理流程
1. 假如 threadpooln 非常忙，(也意味 db n 非常忙)；
2. 新的查询任务到来，addtask(), 新的任务的一个thread加到threadpooln任务排队中
3. 外层应用已经获得其他 thread 返回结果，继续等待
4. 外层应用等待超时的时间到，调用 stoptask() 设置该任务全部 thread 中的停止标志, 外层应用返回。
5. 若干时间后，threadpooln取到该排队 thread, 因为设置了停止位，线程直接运行完成。
2. jdbc 层实现
做一个 jdbc driver 的包装，拦截 preparedstatement, statement 的 executequery()
然后调用 selectthreadmanager 完成
3. mysql partition
mysql 5.1 的 partition 功能由于单张表的数据跨文件，批量查询时候同样存在上述问题，不过它是在 mysql 内部实现的，不需要外部调用者关心。其查询实现的原理应该大致类似。
但 partition 只解决了 io 的瓶颈，并不能解决 cpu 计算的瓶颈，因此无法代替传统的手工分表方式。
如对本文有疑问，请在下面进行留言讨论，广大热心网友会与你互动！！ 点击进行留言回复
我要评论
网友评论