記一次詳細的的SQL查詢經歷,group by慢查詢優化
- 2019 年 10 月 7 日
- 筆記
一、問題背景
現網出現慢查詢,在500萬數量級的情況下,單表查詢速度在30多秒,需要對sql進行優化,sql如下:

這裡測試環境構造了500萬條數據,模擬了這個慢查詢。
簡單來說,就是查詢一定條件下,都有哪些用戶的。很簡單的sql,可以看到,查詢耗時為37秒。
說一下app_account欄位的分布情況,隨機生成了5000個不同的隨機數,然後分布到了這500萬條數據里,平均來說,每個app_account都會有1000個是重複的值,種類共有5000個。
二、看執行計劃

可以看到,group by欄位上是加了索引的,也用到了。
三、優化
優化思路:
思路一:
後面應該加上 order by null;避免無用排序,但其實對結果耗時影響不大,還是很慢。

思路二:
where條件太複雜,沒索引,導致查詢慢,但給where條件的所有欄位加上了組合索引,沒起作用。


思路三:
既然group by慢,換distinct試試

瞬間就加快了。
雖然知道group by和distinct有很小的性能差距,但是沒想到,差距居然這麼大。
四、你以為這就結束了嗎
這個bug轉給測試後,測試一測,居然還是30多秒。再測試電腦上執行sql,依舊是30多秒。
又回本人的電腦上,連接同一個資料庫,一執行sql,0.8秒。
同一個庫,同一個sql,怎麼在兩台電腦執行的差距這麼大。
後來直接在伺服器上執行:

還是30多秒。那看來就是本人的電腦問題。
後來又實驗多個同事的電腦,最後得出的結論是:是因為之前用的SQLyog。
最後發現,只有用sqlyog執行這個「優化後」的sql會是0.8秒,在navcat和伺服器上直接執行,都是30多秒。
那就是sqlyog的問題了,現在也不清楚sqlyog是不是做什麼優化了,這個慢查詢的問題還在解決中(問題可能是出在mysql自身的參數上)。
這裡只是記錄下這個問題,sqlyog執行sql速度,和伺服器執行sql速度,在有的sql中差異巨大,並不可靠。
五、後續(還未解決)
感謝大家在評論里出謀劃策,本人來回復下問題進展:
1.所謂的sqlyog查詢快,命令行查詢慢的現象,已經找到原因了。是因為sqlyog會在查詢語句後默認加上limit 1000,所以導致很快。這個問題不再糾結。
2.已經試驗過的方法(都沒有用):
①給app_account欄位加索引。
②給sql語句後面加order by null。
③調整where條件里欄位的查詢順序,有索引的放前面。
④給所有where條件的欄位加組合索引。
⑤用子查詢的方式,先查where條件里的內容,再去重。
測試環境和現網環境數據還是有點不一樣的,這裡貼一張現網執行sql的圖(1分鐘):

六、最終解決方案
經過網友的提醒,發現explain執行計劃里,索引好像並沒有用到創建的idx_end_time。
然後果斷在現網試了下,強制指定使用idx_end_time索引,結果只要0.19秒。

至此問題解決,其實同事昨天也在懷疑,是不是這個表索引建的太多了,導致用的不對,原本用的是idx_org_id和idx_mvno_id。
現在強制指定idx_end_time就ok了!
最後再對比下改前後的執行計劃:
改之前(查詢要1分鐘左右):

改之後(查詢只要幾百毫秒):

出處:https://www.cnblogs.com/dijia478/p/11550902.html(複製到瀏覽器中打開)