最近,幫同事重寫了一個MySQL SQL語句,該SQL語句涉及兩張表,其中一張表是字典表(需返回一個字段),另一張表是業務表(本身就有150個字段,需全部返回),當然,字段的個數是否合理在這裡不予評價。平時,返回的數據大概5w左右,系統尚能收到數據。但12月31日那天,數據量大概20w,導致SQL執行時間過長,未能在規定的時間內反饋結果,於是系統直接報錯。
一般的思路是用MySQL的分頁功能,即直接在原SQL語句後面增加LIMIT子句。但請注意,雖然你看到的反饋結果只是LIMIT後面指定的數量,於是想當然的以為MySQL只是檢索了指定數量的數據,然後給予返回。其實,MySQL內部實現的原理是,檢索所有符合where條件的記錄,然後返回指定數量的記錄。從這個角度來看,直接在原SQL語句後面添加LIMIT子句只能說是一種可以實現功能的方案,但未必最優。
具體在本例中,首先我們來看一下150個字段的表的統計信息:
一行大概就占2k,而Innodb默認頁的大小為16k,這意味著,一個頁中最多可存儲8行的數據。隨機讀的可能性大大增加。而這無疑會對數據庫系統的IO造成極大的壓力。
優化前
如果采用上述方案,即直接在原SQL語句後面增加LIMIT子句,下面,我們來看看它的執行情況。
首先,直接添加LIMIT子句後的SQL語句如下(已省略a1表的150個字段和a2中的一個字段):
復制代碼 代碼如下:FROM upay_csys_scquery_txn_log_his a1 LEFT JOIN upay_csys_trans_code a2 on(a1.int_trans_code=a2.trans_code) WHERE STATUS<>'00' AND settle_date=20151230 limit 50000,10000;
其執行時間如下:
大概執行了32s,絕大部分都花費到Sending data上了。Sending data指的是服務器檢索數據,讀取數據,並將數據返回給客戶端的時間。
關於上述執行結果,有以下幾點需要說明:
1. 這是SQL語句多次執行後的結果,這樣就可以排除結果緩存的影響,事實上,每次查詢的時長都是32s左右。
2. 為什麼選用的是limit 50000,10000,而不是0,10000,這個主要是考慮到對於LIMIT子句來說,越到後面,分頁的成本越高。基於此,選擇了中間值來作為分頁的結果。
該語句的執行計劃如下:
優化後:
優化的思路:
只對該表的主鍵進行分頁,然後用返回的主鍵作為子查詢的結果,來檢索該表其它字段的值。
改寫後的SQL語句如下:
復制代碼 代碼如下:FROM upay_csys_scquery_txn_log_his a1 LEFT JOIN upay_csys_trans_code a2 on(a1.int_trans_code=a2.trans_code) where seq_id in (select seq_id from (select seq_id FROM upay_csys_scquery_txn_log_his a1 WHERE STATUS<>'00' AND settle_date=20151230 order by 1 limit 50000,10000) as t);
其執行時間如下:
大概3s多,比第一種方案快了差不多10倍,效果顯著。
下面來看看其執行計劃(explain extended)
總結:
1. 改寫後的語句原本如下:
復制代碼 代碼如下:FROM upay_csys_scquery_txn_log_his a1 LEFT JOIN upay_csys_trans_code a2 on(a1.int_trans_code=a2.trans_code) where seq_id in (select seq_id FROM upay_csys_scquery_txn_log_his a1 WHERE STATUS<>'00' AND settle_date=20151230 order by 1 limit 50000,10000);
但MySQL報以下錯誤:
復制代碼 代碼如下:ERROR 1235 (42000): This version of MySQL doesn't yet support 'LIMIT & IN/ALL/ANY/SOME subquery'
需再增加一個嵌套子查詢,
比如這樣的語句是不能正確執行的。
復制代碼 代碼如下:select * from table where id in (select id from table limit 12);
但是,只要你再加一層就行。如:
復制代碼 代碼如下:select * from table where id in (select t.id from (select * from table limit 12)as t)
這樣就可以繞開limit子查詢的問題。
問題解決。
2. 如果想查看MySQL查詢優化器等價改寫後的SQL語句,可首先通過explain extended得到具體的執行計劃,然後通過show warnings查看。
具體在本例中,等價改寫後的SQL語句如下:
與設想中的執行順序一致~
3. 如何查看MySQL語句各步驟的執行時間。
以上就是本文的全部內容,希望對大家MySQL分頁優化有所幫助。