上一篇文章簡單介紹了下EXPLAIN的用法,今天主要介紹以下幾點內容:
慢查詢日志
Percona Toolkit介紹
SHOW PROFILE
performance_schema
慢查詢日志,顧名思義就是記錄執行比較慢查詢的日志。
查看是否開啟慢查詢日志:
show variables like ;
打開慢查詢日志。修改MySQL的配置文件my.cn一般是在/etc目錄下面,加上下面三行配置後重啟MySQL。
slow_query_log =-launch- = -query-log- = /usr/local/mysql/data/slow_query.log
slow_launch_time只能精確到秒,如果需要更精確可以使用一些第三方的工具比如後面介紹的pt-query-digest。
注意:我這裡用的MySQL版本是5.6,不同版本的MySQL開啟慢查詢的配置是不同的,比如5.6之前的某些版本是ong_query_time, long_query_time和log-slow-queries。可以先在終端執行show variables like '%slow%';查看下當前版本具體配置是什麼。
也可以在終端通過設置全局變量來打開慢查詢日志:
set @@global.slow_query_log = ON;
MySQL支持將慢查詢日志保存到mysql.slow_log這張表中。通過@@global.log_output可以設置默認為TABLE,FILE和TABLE只能同時使用一個。
set @@global.log_output=;
我們可以使用下面的語句來模擬慢查詢:
();
1、可以使用MySQL自帶的mysqldumpslow工具。使用很簡單,可以跟-help來查看具體的用法。
# ----s r -t /-s t -t -g /slowquery.log #按照時間排序前10中含有的
2、可以導到mysql.slow_query表中,然後通過sql語句進行分析。
3、使用第三方工具,下面會有介紹。
percona-toolkit是一組高級命令行工具的集合,用來執行各種通過手工執行非常復雜和麻煩的mysql和系統任務。這些任務包括:
安裝percona-toolkit非常簡單,到官網下載.tar.gz包:
percona.com/get/percona-toolkit. -zxvf percona-toolkit-...gz
然後依次執行下面的命令:
默認的會被安裝在/usr/local/bin目錄下。執行man percona-toolkit可以查看安裝了哪些工具。
運行工具可能會遇到下面的錯誤:
這是因為缺少相應包,.pm包實際上perl的包,運行下面的命令安裝即可:
-y -Time-HiRes
如果安裝過程中出現” Error Downloading Packages”錯誤,嘗試yum clean all後再安裝。使用其Percona Toolkit中其他工具也可能會遇到類似的問題,按照提示安裝相應的perl包就可以了。
Percona Toolkit整個工具箱提供了非常多實用的工具,具體的使用方法可以參看官方文檔。
下面有選擇的給大家介紹幾個有用的工具。
pt-query-digest可以從普通MySQL日志,慢查詢日志以及二進制日志中分析查詢,甚至可以從SHOW PROCESSLIST和MySQL協議的tcpdump中進行分析,如果沒有指定文件,它從標准輸入流(STDIN)中讀取數據。
最簡單的用法如下:
pt-query-digest slow.logs
輸出信息大致如下:
整個輸出分為三大部分:
1、整體概要(Overall)
這個部分是一個大致的概要信息(類似loadrunner給出的概要信息),通過它可以對當前MySQL的查詢性能做一個初步的評估,比如各個指標的最大值(max),平均值(min),95%分布值,中位數(median),標准偏差(stddev)。這些指標有查詢的執行時間(Exec time),鎖占用的時間(Lock time),MySQL執行器需要檢查的行數(Rows examine),最後返回給客戶端的行數(Rows sent),查詢的大小。
2、查詢的匯總信息(Profile)
這個部分對所有”重要”的查詢(通常是比較慢的查詢)做了個一覽表:
每個查詢都有一個Query ID,這個ID通過Hash計算出來的。pt-query-digest是根據這個所謂的Fingerprint來group by的。舉例下面兩個查詢的Fingerprint是一樣的都是select * from table1 where column1 = ?,工具箱中也有一個與之相關的工具pt-fingerprint。
* from table1 where column1 = * from table1 where column1 =
在尾部有一行輸出,顯示了其他2個占比較低而不值得單獨顯示的查詢的統計數據。
3、詳細信息
這個部分會列出Profile表中每個查詢的詳細信息:
包括Overall中有的信息、查詢響應時間的分布情況以及該查詢”入榜”的理由。
pt-query-digest還有很多復雜的操作,這裡就不一一介紹了。比如:從PROCESSLIST中查詢某個MySQL中最慢的查詢:
pt-query-digest –processlist h=host1
從tcpdump中分析:
tcpdump -s -x -nn -q -tttt -i any -c port >-query-digest --type tcpdump mysql.tcp.txt
從一台機器上講slow log保存到另外一台機器上待稍後詳細分析:
pt-query-digest --review h=host2 --no-report slow.log
還可以跟一些過濾條件。詳見官方文檔:http://www.percona.com/doc/percona-toolkit/2.2/pt-query-digest.html
另外結合一些第三方工具還能生成相應的報表,可以參考這裡:http://biancheng.dnbcw.info/mysql/433514.html
建議:當slow log很大的時候最好還是將日志文件移到其他機器上進行分析。
這個工具主要是用來分析查詢的索引使用情況。
pt-index-usage slow_query.log --h localhost --password
詳細的用法 –help查看再對照官網就差不再贅述。
注意使用這個工具需要MySQL必須要有密碼,另外運行時可能報找不到/var/lib/mysql/mysql.sock的錯,簡單的從/tmp/mysql.sock鏈接一個就行了。
重點要說明的是pt-index-usage只能分析慢查詢日志,所以如果想全面分析所有查詢的索引使用情況就得將slow_launch_time設置為0,因此請謹慎使用該工具,線上使用的話最好在凌晨進行分析,尤其分析大量日志的時候是很耗CPU的。
整體來說這個工具是不推薦使用的,要想實現類似的分析可以考慮一些其他第三方的工具,比如:mysqlidxchx, userstat和check-unused-keys。網上比較推薦的是userstat,一個Google貢獻的patch。
Oracle是可以將執行計劃保存到性能視圖中的,這樣分析起來可能更靈活,但是目前我還沒找到MySQL中類似的做法。
這個工具用來檢查在新版本中運行的SQL是否與老版本一樣,返回相同的結果,最好的應用場景就是數據遷移的時候。
ptupgrade hhost1 hhost2 slow.
靜態查詢分析工具。能夠解析查詢日志、分析查詢模式,然後給出所有可能存在潛在問題的查詢,並給出足夠詳細的建議。這個工具好像2.2的版本給去掉了,有可能是因為對性能影響比較大新版本直接去掉了。
總結:上面這些工具最好不要直接在線上使用,應該作為上線輔助或故障後離線分析的工具,也可以做性能測試的時候配合著使用。
SHOW PROFILE是Google高級架構師Jeremy Cole貢獻給MySQL社區的,它可以用來MySQL執行語句時候所使用的資源。默認是關閉的,需要打開執行下面的語句:
set profiling = ;#這個命令只在本會話內起作用。
執行簡單的SHOW PROFILES可以看到打開profiling之後所有查詢的執行時間。
執行SHOW PROFILE [TYPE] FOR QUERY Query_ID可以看到MySQL執行某個查詢各個步驟的各項性能指標的詳細信息:
如果沒有指定FOR QUERY則顯示最近一條查詢的詳細信息。TYPE是可選的,有以下幾個選項:
MySQL在執行查詢語句的時候會有很多步驟,這裡就不一一贅述了,用到的時候網上搜下就行。需要特別說明的是Sending data這個步驟,給人感覺是MySQL把數據發送給客戶端的耗時,其實不然,這個步驟包括了MySQL內部各個存儲之間復制數據的過程,比如硬盤的尋道。
總結:前面的慢查詢日志分析更像是對整個MySQL查詢情況做一個全面的檢查,而SHOW PROFILE則是對單個查詢語句的剖析,通常當現網出現問題時應該結合二者。使用慢查詢分析定位到具體的查詢,使用SHOW PROFILE定位到具體的問題,是Sending data比較耗時還是System lock比較耗時...
這兩個庫保存了MySQL的一些性能和元數據相關的信息,其中performance_schema是MySQL5.5才新增的,上面提到的很多工具其實利用了這個庫的信息。比如SHOW PROFILE ALL FOR QUERY 2:的信息還可以通過下面的查詢獲取:
information_schema.profiling query_id seq;
利用performance_schema還可以做一些更靈活的統計:
STATE,(DURATION) ((DURATION)( (DURATION) QUERY_ID ),) () (DURATION)() "R QUERY_ID Total_R ;
這個簡單的查詢可以在《高性能MySQL第三版》中找到,可它能統計SHOW PROFILE各個步驟的耗時、耗時占比、調用API次數以及每次的平均耗時。在《高性能MySQL第三版》中還提到了很多有用的工具(SHOW STATUS,SHOW PROCESSLIST...)包括使用方法,強烈推薦這本書。
Ok,今天的介紹就到這裡,這兩篇文章的主要目的是希望自己在發現問題的時候可以知道從何下手,也希望能夠大家帶來一些實用價值。下一篇准備介紹一下MySQL執行語句的一些基本原理,俗話說磨刀不誤砍柴工嘛!