【MySQL性能优化】改进MySQL Order By Rand()的低效率

正文: php

  最近因为须要研究了一下MYSQL的随机抽取实现方法。举个例子,要从tablename表中随机提取一条记录,你们通常的写法就是:html

SELECT * FROM content ORDER BY RAND() LIMIT 1mysql


【飘易注:3万条记录查询花费 0.3745 秒(下同);从mysql slow query log看出“ORDER BY RAND() ”全表扫描了2次!】后来我查了一下MYSQL的官方手册,里面针对RAND()的提示大概意思就是,在ORDER BY从句里面不能使用RAND()函数,由于这样会致使数据列被屡次扫描。可是在MYSQL 3.23版本中,仍然能够经过ORDER BY RAND()来实现随机。可是真正测试一下才发现这样效率很是低。一个15万余条的库,查询5条数据,竟然要8秒以上。查看官方手册,也说rand()放在ORDER BY 子句中会被执行屡次,天然效率及很低。搜索Google,采用JOIN,查询max(id) * rand()来随机获取数据。 sql

SELECT *
FROM `content` AS t1 JOIN (SELECT ROUND(RAND() * (SELECT MAX(id) FROM `content`)) AS id) AS t2
WHERE t1.id >= t2.id
ORDER BY t1.id ASC LIMIT 1;函数

【查询花费 0.0008 秒,飘易认为能够推荐使用这个语句!!】可是这样会产生连续的5条记录。解决办法只能是每次查询一条,查询5次。即使如此也值得,由于15万条的表,查询只须要0.01秒不到。有一个方法: 测试

SELECT * FROM `content` AS a JOIN ( SELECT MAX( ID ) AS ID FROM `content` ) AS b ON ( a.ID >= FLOOR( b.ID * RAND( ) ) ) LIMIT 5;  fetch

上面这种方式保证了必定范围内的随机,查询花费 0.4265 秒,也不推荐。下面的语句,mysql的论坛上有人使用 .net

SELECT *
FROM `content`
WHERE id >= (SELECT FLOOR( MAX(id) * RAND()) FROM `content` )
ORDER BY id LIMIT 1;htm

  
【查询花费 1.2254 秒,飘易强烈不推荐!由于实测后,3万行的表,这个语句居然会扫描500万行!!】跟上面的语句仍是有很大差距。总觉有什么地方不正常。因而我把语句改写了一下。 排序

SELECT * FROM `content`
WHERE id >= (SELECT floor(RAND() * (SELECT MAX(id) FROM `content`)))  
ORDER BY id LIMIT 1;

【查询花费 0.0012 秒】这下,效率又提升了,查询时间只有0.01秒最后,再把语句完善一下,加上MIN(id)的判断。我在最开始测试的时候,就是由于没有加上MIN(id)的判断,结果有一半的时间老是查询到表中的前面几行。
完整查询语句是:

SELECT * FROM `content`
WHERE id >= (SELECT floor( RAND() * ((SELECT MAX(id) FROM `content`)-(SELECT MIN(id) FROM `content`)) + (SELECT MIN(id) FROM `content`)))  
ORDER BY id LIMIT 1;

【查询花费 0.0012 秒】

SELECT *
FROM `content` AS t1 JOIN (SELECT ROUND(RAND() * ((SELECT MAX(id) FROM `content`)-(SELECT MIN(id) FROM `content`))+(SELECT MIN(id) FROM `content`)) AS id) AS t2
WHERE t1.id >= t2.id
ORDER BY t1.id LIMIT 1;

   
【查询花费 0.0008 秒】最后在php中对这两个语句进行分别查询10次,
前者花费时间 0.147433 秒
后者花费时间 0.015130 秒
看来采用JOIN的语法比直接在WHERE中使用函数效率还要高不少。(via)======================================
【好了,最后飘易来总结下】:
第一种方案,即原始的 Order By Rand() 方法:

$sql="SELECT * FROM content ORDER BY rand() LIMIT 12";
$result=mysql\_query($sql,$conn);
$n=1;
$rnds='';
while($row=mysql\_fetch\_array($result)){
$rnds=$rnds.$n.". <a href='show".$row['id']."-".strtolower(trim($row\['title'\]))."'>".$row['title']."
n";
$n++;
}

3万条数据查12条随机记录,须要0.125秒,随着数据量的增大,效率愈来愈低。第二种方案,改进后的 JOIN 方法:

for($n=1;$n<=12;$n++){
$sql="SELECT * FROM `content` AS t1
JOIN (SELECT ROUND(RAND() * (SELECT MAX(id) FROM `content`)) AS id) AS t2
WHERE t1.id >= t2.id ORDER BY t1.id ASC LIMIT 1";
$result=mysql\_query($sql,$conn);
$yi=mysql\_fetch\_array($result);
$rnds = $rnds.$n.". <a href='show".$yi['id']."-".strtolower(trim($yi\['title'\]))."'>".$yi['title']."
n";
}

3万条数据查12条随机记录,须要0.004秒,效率大幅提高,比第一种方案提高了约30倍。缺点:屡次select查询,IO开销大。第三种方案,SQL语句先随机好ID序列,用 IN 查询(飘易推荐这个用法,IO开销小,速度最快):

$sql="SELECT MAX(id),MIN(id) FROM content";
$result=mysql\_query($sql,$conn);
$yi=mysql\_fetch\_array($result);
$idmax=$yi[0];
$idmin=$yi[1];
$idlist='';   
for($i=1;$i<=20;$i++){   
if($i==1){ $idlist=mt_rand($idmin,$idmax); }   
else{ $idlist=$idlist.','.mt_rand($idmin,$idmax); }   
}  
$idlist2="id,".$idlist;
$sql="select \* from content where id in ($idlist) order by field($idlist2) LIMIT 0,12";
$result=mysql\_query($sql,$conn);
$n=1;
$rnds='';
while($row=mysql\_fetch\_array($result)){
$rnds=$rnds.$n.". <a href='show".$row['id']."-".strtolower(trim($row\['title'\]))."'>".$row['title']."
n";
$n++;
}

3 万条数据查12条随机记录,须要0.001秒,效率比第二种方法又提高了4倍左右,比第一种方法提高120倍。注,这里使用 了 order by field($idlist2) 是为了避免排序,不然 IN 是自动会排序的。缺点:有可能遇到ID被删除的状况,因此须要多选几 个ID。测试方法:

$t = microtime(true); //执行语句 echo microtime(true) - $t;