当前位置: 移动技术网 > IT编程>数据库>Mysql > MySQL 笔记整理(17) --如何正确地显示随机消息?

MySQL 笔记整理(17) --如何正确地显示随机消息?

2019年04月11日  | 移动技术网IT编程  | 我要评论

笔记记录自林晓斌(丁奇)老师的《mysql实战45讲》

(本篇内图片均来自丁奇老师的讲解,如有侵权,请联系我删除)

17) --如何正确地显示随机消息?

  如果有这么一个英语单词表,需要每次访问时随机显示三个单词。但实际使用中发现,随着单词表越变越大,选单词这个逻辑变得越来越慢。建表语句如下:

  

mysql> create table `words` (
  `id` int(11) not null auto_increment,
  `word` varchar(64) default null,
  primary key (`id`)
) engine=innodb;

delimiter ;;
create procedure idata()
begin
  declare i int;
  set i=0;
  while i<10000 do
    insert into words(word) values(concat(char(97+(i div 1000)), char(97+(i % 1000 div 100)), char(97+(i % 100 div 10)), char(97+(i % 10))));
    set i=i+1;
  end while;
end;;
delimiter ;

call idata();

  为了便于量化说明,我们在这个表里面插入了10000行记录。

内存临时表:

  你可能会首先想到order by rand()来实现这个逻辑。

mysql> select word from words order by rand() limit 3;

  这个语句的语义很简单,随机排序取前3个。但这个语句的执行流程确有点复杂。如果你使用explain命令来查看的话会发现,这个语句需要临时表,并且要在临时表上排序。上一篇中我们提到过order by的两种方式,全字段排序和rowid排序。对于这条语句,会选择哪种方式进行排序呢?在上一篇我们有个结论,对于innodb表来说,执行全字段排序会减少磁盘访问,因此会被优先选择。此处我们强调了“innodb表”,你肯定想到了,对于内存表,回表过程只是简单地根据数据行的位置,直接访问内存得到数据,根本不会导致多访问磁盘。优化器没有了这一层顾虑,那么它会优先考虑的就是用于排序的行越小越好(行越小,sort_buffer可以存储的行数就越多,排序就越快),所以,mysql这时就会选择rowid排序。

  我们再来看看这个算法的执行流程:

  1. 创建一个临时表,这个临时表使用的是memory引擎,表里有两个字段,第一个是double类型,为了后面描述方便,记为字段r。第二个字段是varchar(64)类型,记为字段w。并且,这个表没有索引。
  2. 从words表中,按主键顺序取出所有的word值。对于每个word值,调用rand()函数生成一个大于0小于1的随机数,并把这个随机小数和word分别存入临时表的r和w字段中,到此,扫描行数是10000.
  3. 现在临时表中有10000行数据,接下来你要在这个没有索引的内存临时表上,按照字段r排序。
  4. 初始化sort_buffer。sort_buffer有两个字段,一个是double类型,另一个是整形。
  5. 从内存临时表中一行一行地取出r值和位置信息(后面我们会解释为什么是位置信息)。分别存入sort_buffer中的两个字段里。这个过程要对内存临时表做全表扫描,此时扫描行数增加10000,变成了20000.
  6. 在sort_buffer中根据r的值进行排序。注意,这个过程没有涉及表操作,所以不会增加扫描行数。
  7. 排序完成后,取出钱三个结果的位置信息,依次到内存临时表中取出word的值,返回给客户端。这个过程中,访问了表的三行数据。总扫描行数变成了20003.

   因此,完整的排序执行流程图就如下所示:

  

  图中的pos就是位置信息,你可能有个疑问,这个位置信息是指的什么呢?并且,我们在之前order by是如何排序的内容里,对innodb表排序的时候,明明用的还是id字段。这时候,我们要来谈一谈一个基本概念:mysql的表是用什么方法来定位“一行数据”的。

  如果你创建一个表没有主键,或者把一个表的主键删掉了,那么innodb会自己生成一个长度为6字节的rowid来作为主键。这也就是排序模式里面,rowid名字的来历。实际上它表示的是:每个引擎用来唯一标识数据行的信息。

  • 对于有主键的innodb表来说,这个rowid就是主键id;
  • 对于没有主键的innodb表来说,这个rowid就是有系统生成的。
  • memory引擎不是索引组织表。在这个例子里面,你可以认为它就是一个数组。因此,这个rowid其实就是数组的下标。

  这里我们稍微小结一下:order by rand()使用里内存临时表,内存临时表排序的时候使用了rowid排序方法。

磁盘临时表:

  那么,是不是所有的临时表都是内存表呢?其实不是的。tmp_table_size这个配置限制了内存临时表的大小,默认值是16m.如果临时表大小超过了tmp_table_size,那么内存临时表就会转成磁盘临时表。磁盘临时表使用的引擎默认是innodb,是由参数internal_tmp_disk_storage_engine控制的。当使用磁盘临时表时,对应的就是一个没有显示索引的innodb表的排序过程。

随机排序方法:

  回到我们文章开头的问题,怎么正确地随机排序呢?我们先把问题再简化一下,如果只随机选择1个word的值,可以怎么做呢?思路上是这样的:

  1. 取得这个表的主键id的最大值m和最小值n。
  2. 用随机函数生成一个最大值到最小值之间的数x=(m-n)* rand() + n
  3. 取不小于x的第一个id的行。  

  mysql语句如下:

mysql> select max(id),min(id) into @m,@n from t ;
set @x= floor((@m-@n+1)*rand() + @n);
select * from t where id >= @x limit 1;

  这个方法效率很高,因为取max(id)和min(id)都不需要扫描索引,而第三步的select也可以用索引快速定位,可以认为只扫描了3行。但实际上,这个算法本身并不严格满足题目的随机要求,因为id中间可能有空洞,因此选择不同行的概率不一样,不是真正的随机。比如你有4个id,分别是1,2,4,5.如果按照上面的方法,那么取得id=4的这一行的概率就会比取得其他行的概率高。如果空洞再大一些,如这4个的id分别是1,2,40000,40001,那么这个算法基本就是个bug了,取得id=40000的概率会很大很大。所以,为了取得严格随机的结果,你可以用下面这个流程:

  1. 取得整个表的行数,记为c
  2. 取得y=floor(c*rand())。floor函数在这里的作用,就是取整数部分。
  3. 再用limit y,1取得一行。

  我们把这个算法,称为随机算法2.下面这段代码就是上面流程的执行语句序列:

mysql> select count(*) into @c from t;
set @y = floor(@c * rand());
set @sql = concat("select * from t limit ", @y, ",1");
prepare stmt from @sql;
execute stmt;
deallocate prepare stmt;

  由于limit后面的参数不能直接跟变量,所以上面的代码中使用了预处理语句prepare+execute的方法。当然,养成好习惯,每一次执行完execute时,须执行deallocate prepare语句,这样可以释放执行中所使用的数据库资源。当然,你可以把拼接sql语句的方法写在应用程序中,会更简单一些。这个方法解决了第一个方法出现的概率不均匀的问题。mysql处理limit y,1的做法就是按顺序一个一个地读出来,丢掉前y个,然后把下一个记录作为返回结果,因此这一步需要扫描y+1行。再加上,第一部扫描的c行,总共需要c+y+1行,执行代价要比第一个算法高。当然这个代价还是远小于order by rand()的。

  当然,如果你要取3个随机word值,那么可以这么写。

mysql> select count(*) into @c from t;
set @y1 = floor(@c * rand());
set @y2 = floor(@c * rand());
set @y3 = floor(@c * rand());
select * from t limit @y1,1; // 在应用代码里面取 y1、y2、y3 值,拼出 sql 后执行
select * from t limit @y2,1;
select * from t limit @y3,1;

  

  

  

如对本文有疑问, 点击进行留言回复!!

相关文章:

验证码:
移动技术网