MySQL索引面前的數據構造及算法原理詳解。本站提示廣大學習愛好者:(MySQL索引面前的數據構造及算法原理詳解)文章只能為提供參考,不一定能成為您想要的結果。以下是MySQL索引面前的數據構造及算法原理詳解正文
摘要
本文以MySQL數據庫為研討對象,討論與數據庫索引相關的一些話題。特別需求闡明的是,MySQL支持諸多存儲引擎,而各種存儲引擎對索引的支持也各不相反,因而MySQL數據庫支持多種索引類型,如BTree索引,哈希索引,全文索引等等。為了防止混亂,本文將只關注於BTree索引,由於這是往常運用MySQL時次要打交道的索引,至於哈希索引和全文索引本文暫不討論。
文章次要內容分為三個局部。
第一局部次要從數據構造及算法實際層面討論MySQL數據庫索引的數理根底。
第二局部結合MySQL數據庫中MyISAM和InnoDB數據存儲引擎中索引的架構完成討論聚集索引、非聚集索引及掩蓋索引等話題。
第三局部依據下面的實際根底,討論MySQL中高功能運用索引的戰略。
數據構造及算法根底
索引的實質
MySQL官方對索引的定義為:索引(Index)是協助MySQL高效獲取數據的數據構造。提取句子主干,就可以失掉索引的實質:索引是數據構造。
我們知道,數據庫查詢是數據庫的最次要功用之一。我們都希望查詢數據的速度能盡能夠的快,因而數據庫零碎的設計者會從查詢算法的角度停止優化。最根本的查詢算法當然是順序查找(linear search),這種復雜度為O(n)的算法在數據量很大時顯然是蹩腳的,好在計算機迷信的開展提供了很多更優秀的查找算法,例如二分查找(binary search)、二叉樹查找(binary tree search)等。假如略微剖析一下會發現,每種查找算法都只能使用於特定的數據構造之上,例如二分查找要求被檢索數據有序,而二叉樹查找只能使用於二叉查找樹上,但是數據自身的組織構造不能夠完全滿足各種數據構造(例如,實際上不能夠同時將兩列都按順序停止組織),所以,在數據之外,數據庫零碎還維護著滿足特定查找算法的數據構造,這些數據構造以某種方式援用(指向)數據,這樣就可以在這些數據構造上完成初級查找算法。這種數據構造,就是索引。
看一個例子:
圖1
圖1展現了一種能夠的索引方式。右邊是數據表,一共有兩列七條記載,最右邊的是數據記載的物理地址(留意邏輯上相鄰的記載在磁盤上也並不是一定物理相鄰的)。為了放慢Col2的查找,可以維護一個左邊所示的二叉查找樹,每個節點辨別包括索引鍵值和一個指向對應數據記載物理地址的指針,這樣就可以運用二叉查找在O(log2n)的復雜度內獲取到相應數據。
雖然這是一個名副其實的索引,但是實踐的數據庫零碎簡直沒有運用二叉查找樹或其退化種類紅黑樹(red-black tree)完成的,緣由會在下文引見。
B-Tree和B+Tree
目前大局部數據庫零碎及文件零碎都采用B-Tree或其變種B+Tree作為索引構造,在本文的下一節會結合存儲器原理及計算機存取原理討論為什麼B-Tree和B+Tree在被如此普遍用於索引,這一節先單純從數據構造角度描繪它們。
B-Tree
為了描繪B-Tree,首先定義一條數據記載為一個二元組[key, data],key為記載的鍵值,關於不同數據記載,key是互不相反的;data為數據記載除key外的數據。那麼B-Tree是滿足下列條件的數據構造:
1. d為大於1的一個正整數,稱為B-Tree的度。
2. h為一個正整數,稱為B-Tree的高度。
3. 每個非葉子節點由n-1個key和n個指針組成,其中d<=n<=2d。
4. 每個葉子節點最少包括一個key和兩個指針,最多包括2d-1個key和2d個指針,葉節點的指針均為null 。
5. 一切葉節點具有相反的深度,等於樹高h。
6. key和指針相互距離,節點兩端是指針。
7. 一個節點中的key從左到右非遞加陳列。
8. 一切節點組成樹構造。
9. 每個指針要麼為null,要麼指向另外一個節點。
10. 假如某個指針在節點node最右邊且不為null,則其指向節點的一切key小於v(key1),其中v(key1)為node的第一個key的值。
11. 假如某個指針在節點node最左邊且不為null,則其指向節點的一切key大於v(keym),其中v(keym)為node的最後一個key的值。
12. 假如某個指針在節點node的左右相鄰key辨別是keyi和keyi+1且不為null,則其指向節點的一切key小於v(keyi+1)且大於v(keyi)。
圖2是一個d=2的B-Tree表示圖。
圖2
由於B-Tree的特性,在B-Tree中按key檢索數據的算法十分直觀:首先從根節點停止二分查找,假如找到則前往對應節點的data,否則對相應區間的指針指向的節點遞歸停止查找,直到找到節點或找到null指針,前者查找成功,後者查找失敗。B-Tree上查找算法的偽代碼如下:
BTree_Search(node, key) { if(node == null) return null; foreach(node.key) { if(node.key[i] == key) return node.data[i]; if(node.key[i] > key) return BTree_Search(point[i]->node); } return BTree_Search(point[i+1]->node); } data = BTree_Search(root, my_key);
關於B-Tree有一系列風趣的性質,例如一個度為d的B-Tree,設其索引N個key,則其樹高h的下限為logd((N+1)/2),檢索一個key,其查找節點個數的漸進復雜度為O(logdN)。從這點可以看出,B-Tree是一個十分無效率的索引數據構造。
另外,由於拔出刪除新的數據記載會毀壞B-Tree的性質,因而在拔出刪除時,需求對樹停止一個分裂、兼並、轉移等操作以堅持B-Tree性質,本文不計劃完好討論B-Tree這些內容,由於曾經有許多材料詳細闡明了B-Tree的數學性質及拔出刪除算法,有興味的冤家可以在本文末的參考文獻一欄找到相應的材料停止閱讀。
B+Tree
B-Tree有許多變種,其中最罕見的是B+Tree,例如MySQL就普遍運用B+Tree完成其索引構造。
與B-Tree相比,B+Tree有以下不同點:
1. 每個節點的指針下限為2d而不是2d+1。
2. 內節點不存儲data,只存儲key;葉子節點不存儲指針。
圖3是一個復雜的B+Tree表示。
圖3
由於並不是一切節點都具有相反的域,因而B+Tree中葉節點和內節點普通大小不同。這點與B-Tree不同,雖然B-Tree中不同節點寄存的key和指針能夠數量不分歧,但是每個節點的域和下限是分歧的,所以在完成中B-Tree往往對每個節點請求同等大小的空間。
普通來說,B+Tree比B-Tree更合適完成外存儲索引構造,詳細緣由與外存儲器原理及計算機存取原理有關,將在上面討論。
帶有順序訪問指針的B+Tree
普通在數據庫零碎或文件零碎中運用的B+Tree構造都在經典B+Tree的根底上停止了優化,添加了順序訪問指針。
圖4
如圖4所示,在B+Tree的每個葉子節點添加一個指向相鄰葉子節點的指針,就構成了帶有順序訪問指針的B+Tree。做這個優化的目的是為了進步區間訪問的功能,例如圖4中假如要查詢key為從18到49的一切數據記載,當找到18後,只需順著節點和指針順序遍歷就可以一次性訪問到一切數據節點,極大提到了區間查詢效率。
這一節對B-Tree和B+Tree停止了一個復雜的引見,下一節結合存儲器存取原理引見為什麼目前B+Tree是數據庫零碎完成索引的首選數據構造。
為什麼運用B-Tree(B+Tree)
上文說過,紅黑樹等數據構造也可以用來完成索引,但是文件零碎及數據庫零碎普遍采用B-/+Tree作為索引構造,這一節將結算計算機組成原理相關知識討論B-/+Tree作為索引的實際根底。
普通來說,索引自身也很大,不能夠全部存儲在內存中,因而索引往往以索引文件的方式存儲的磁盤上。這樣的話,索引查找進程中就要發生磁盤I/O耗費,絕對於內存存取,I/O存取的耗費要高幾個數量級,所以評價一個數據構造作為索引的優劣最重要的目標就是在查找進程中磁盤I/O操作次數的漸進復雜度。換句話說,索引的構造組織要盡量增加查找進程中磁盤I/O的存取次數。上面先引見內存和磁盤存取原理,然後再結合這些原理剖析B-/+Tree作為索引的效率。
主存存取原理
目前計算機運用的主存根本都是隨機讀寫存儲器(RAM),古代RAM的構造和存取原理比擬復雜,這裡本文拋卻詳細差異,籠統出一個非常復雜的存取模型來闡明RAM的任務原理。
圖5
從籠統角度看,主存是一系列的存儲單元組成的矩陣,每個存儲單元存儲固定大小的數據。每個存儲單元有獨一的地址,古代主存的編址規則比擬復雜,這裡將其簡化成一個二維地址:經過一個行地址和一個列地址可以獨一定位到一個存儲單元。圖5展現了一個4 x 4的主存模型。
主存的存取進程如下:
當零碎需求讀取主存時,則將地址信號放到地址總線上傳給主存,主存讀到地址信號後,解析信號並定位到指定存儲單元,然後將此存儲單元數據放到數據總線上,供其它部件讀取。
寫主存的進程相似,零碎將要寫入單元地址和數據辨別放在地址總線和數據總線上,主存讀取兩個總線的內容,做相應的寫操作。
這裡可以看出,主存存取的時間僅與存取次數呈線性關系,由於不存在機械操作,兩次存取的數據的“間隔”不會對時間有任何影響,例如,先取A0再取A1和先取A0再取D3的時間耗費是一樣的。
磁盤存取原理
上文說過,索引普通以文件方式存儲在磁盤上,索引檢索需求磁盤I/O操作。與主存不同,磁盤I/O存在機械運動消耗,因而磁盤I/O的時間耗費是宏大的。
圖6是磁盤的全體構造表示圖。
圖6
一個磁盤由大小相反且同軸的圓形盤片組成,磁盤可以轉動(各個磁盤必需同步轉動)。在磁盤的一側有磁頭支架,磁頭支架固定了一組磁頭,每個磁頭擔任存取一個磁盤的內容。磁頭不能轉動,但是可以沿磁盤半徑方向運動(實踐是斜切向運動),每個磁頭同一時辰也必需是同軸的,即從正上方向下看,一切磁頭任何時分都是堆疊的(不過目前曾經有多磁頭獨立技術,可不受此限制)。
圖7是磁盤構造的表示圖。
圖7
盤片被劃分紅一系列同心環,圓心是盤片中心,每個同心環叫做一個磁道,一切半徑相反的磁道組成一個柱面。磁道被沿半徑線劃分紅一個個小的段,每個段叫做一個扇區,每個扇區是磁盤的最小存儲單元。為了復雜起見,我們上面假定磁盤只要一個盤片和一個磁頭。
當需求從磁盤讀取數據時,零碎會將數據邏輯地址傳給磁盤,磁盤的控制電路依照尋址邏輯將邏輯地址翻譯成物理地址,即確定要讀的數據在哪個磁道,哪個扇區。為了讀取這個扇區的數據,需求將磁頭放到這個扇區上方,為了完成這一點,磁頭需求挪動對准相應磁道,這個進程叫做尋道,所消耗時間叫做尋道時間,然後磁回旋轉將目的扇區旋轉到磁頭下,這個進程消耗的時間叫做旋轉時間。
部分性原理與磁盤預讀
由於存儲介質的特性,磁盤自身存取就比主存慢很多,再加上機械運動消耗,磁盤的存取速度往往是主存的幾百分分之一,因而為了進步效率,要盡量增加磁盤I/O。為了到達這個目的,磁盤往往不是嚴厲按需讀取,而是每次都會預讀,即便只需求一個字節,磁盤也會從這個地位開端,順序向後讀取一定長度的數據放入內存。這樣做的實際根據是計算機迷信中著名的部分性原理:
當一個數據被用到時,其左近的數據也通常會馬上被運用。
順序運轉時期所需求的數據通常比擬集中。
由於磁盤順序讀取的效率很高(不需求尋道時間,只需很少的旋轉時間),因而關於具有部分性的順序來說,預讀可以進步I/O效率。
預讀的長度普通為頁(page)的整倍數。頁是計算機管理存儲器的邏輯塊,硬件及操作零碎往往將主存和磁盤存儲區聯系為延續的大小相等的塊,每個存儲塊稱為一頁(在許多操作零碎中,頁得大小通常為4k),主存和磁盤以頁為單位交流數據。當順序要讀取的數據不在主存中時,會觸發一個缺頁異常,此時零碎會向磁盤收回讀盤信號,磁盤會找到數據的起始地位並向後延續讀取一頁或幾頁載入內存中,然後異常前往,順序持續運轉。
B-/+Tree索引的功能剖析
到這裡終於可以剖析B-/+Tree索引的功能了。
上文說過普通運用磁盤I/O次數評價索引構造的優劣。先從B-Tree剖析,依據B-Tree的定義,可知檢索一次最多需求訪問h個節點。數據庫零碎的設計者巧妙應用了磁盤預讀原理,將一個節點的大小設為等於一個頁,這樣每個節點只需求一次I/O就可以完全載入。為了到達這個目的,在實踐完成B-Tree還需求運用如下技巧:
每次新建節點時,直接請求一個頁的空間,這樣就保證一個節點物理上也存儲在一個頁裡,加之計算機存儲分配都是按頁對齊的,就完成了一個node只需一次I/O。
B-Tree中一次檢索最多需求h-1次I/O(根節點常駐內存),漸進復雜度為O(h)=O(logdN)。普通實踐使用中,出度d是十分大的數字,通常超越100,因而h十分小(通常不超越3)。
綜上所述,用B-Tree作為索引構造效率是十分高的。
而紅黑樹這種構造,h分明要深的多。由於邏輯上很近的節點(父子)物理上能夠很遠,無法應用部分性,所以紅黑樹的I/O漸進復雜度也為O(h),效率分明比B-Tree差很多。
上文還說過,B+Tree更合適外存索引,緣由和內節點出度d有關。從下面剖析可以看到,d越大索引的功能越好,而出度的下限取決於節點內key和data的大小:
dmax = floor(pagesize / (keysize + datasize + pointsize)) (pagesize – dmax >= pointsize)
或
dmax = floor(pagesize / (keysize + datasize + pointsize)) – 1 (pagesize – dmax < pointsize)
floor表示向下取整。由於B+Tree內節點去掉了data域,因而可以擁有更大的出度,擁有更好的功能。
這一章從實際角度討論了與索引相關的數據構造與算法問題,下一章將討論B+Tree是如何詳細完成為MySQL中索引,同時將結合MyISAM和InnDB存儲引擎引見非聚集索引和聚集索引兩種不同的索引完成方式。
MySQL索引完成
在MySQL中,索引屬於存儲引擎級別的概念,不同存儲引擎對索引的完成方式是不同的,本文次要討論MyISAM和InnoDB兩個存儲引擎的索引完成方式。
MyISAM索引完成
MyISAM引擎運用B+Tree作為索引構造,葉節點的data域寄存的是數據記載的地址。下圖是MyISAM索引的原理圖:
圖8
這裡設表一共有三列,假定我們以Col1為主鍵,則圖8是一個MyISAM表的主索引(Primary key)表示。可以看出MyISAM的索引文件僅僅保管數據記載的地址。在MyISAM中,主索引和輔佐索引(Secondary key)在構造上沒有任何區別,只是主索引要求key是獨一的,而輔佐索引的key可以反復。假如我們在Col2上樹立一個輔佐索引,則此索引的構造如下圖所示:
圖9
異樣也是一顆B+Tree,data域保管數據記載的地址。因而,MyISAM中索引檢索的算法為首先依照B+Tree搜索算法搜索索引,假如指定的Key存在,則取出其data域的值,然後以data域的值為地址,讀取相應數據記載。
MyISAM的索引方式也叫做“非聚集”的,之所以這麼稱謂是為了與InnoDB的聚集索引區分。
InnoDB索引完成
雖然InnoDB也運用B+Tree作為索引構造,但詳細完成方式卻與MyISAM一模一樣。
第一個嚴重區別是InnoDB的數據文件自身就是索引文件。從上文知道,MyISAM索引文件和數據文件是別離的,索引文件僅保管數據記載的地址。而在InnoDB中,表數據文件自身就是按B+Tree組織的一個索引構造,這棵樹的葉節點data域保管了完好的數據記載。這個索引的key是數據表的主鍵,因而InnoDB表數據文件自身就是主索引。
圖10
圖10是InnoDB主索引(同時也是數據文件)的表示圖,可以看到葉節點包括了完好的數據記載。這種索引叫做聚集索引。由於InnoDB的數據文件自身要按主鍵聚集,所以InnoDB要求表必需有主鍵(MyISAM可以沒有),假如沒有顯式指定,則MySQL零碎會自動選擇一個可以獨一標識數據記載的列作為主鍵,假如不存在這種列,則MySQL自動為InnoDB表生成一個隱含字段作為主鍵,這個字段長度為6個字節,類型為長整形。
第二個與MyISAM索引的不同是InnoDB的輔佐索引data域存儲相應記載主鍵的值而不是地址。換句話說,InnoDB的一切輔佐索引都援用主鍵作為data域。例如,圖11為定義在Col3上的一個輔佐索引:
圖11
這裡以英文字符的ASCII碼作為比擬原則。聚集索引這種完成方式使得按主鍵的搜索非常高效,但是輔佐索引搜索需求檢索兩遍索引:首先檢索輔佐索引取得主鍵,然後用主鍵到主索引中檢索取得記載。
理解不同存儲引擎的索引完成方式關於正確運用和優化索引都十分有協助,例如知道了InnoDB的索引完成後,就很容易明白為什麼不建議運用過長的字段作為主鍵,由於一切輔佐索引都援用主索引,過長的主索引會令輔佐索引變得過大。再例如,用非單調的字段作為主鍵在InnoDB中不是個好主見,由於InnoDB數據文件自身是一顆B+Tree,非單調的主鍵會形成在拔出新記載時數據文件為了維持B+Tree的特性而頻繁的分裂調整,非常低效,而運用自增字段作為主鍵則是一個很好的選擇。
下一章將詳細討論這些與索引有關的優化戰略。
索引運用戰略及優化
MySQL的優化次要分為構造優化(Scheme optimization)和查詢優化(Query optimization)。本章討論的高功能索引戰略次要屬於構造優化范圍。本章的內容完全基於上文的實際根底,實踐上一旦了解了索引面前的機制,那麼選擇高功能的戰略就變成了地道的推理,並且可以了解這些戰略面前的邏輯。
示例數據庫
為了討論索引戰略,需求一個數據量不算小的數據庫作為示例。本文選用MySQL官方文檔中提供的示例數據庫之一:employees。這個數據庫關系復雜度適中,且數據量較大。下圖是這個數據庫的E-R關系圖(援用自MySQL官方手冊):
圖12
MySQL官方文檔中關於此數據庫的頁面為http://dev.mysql.com/doc/employee/en/employee.html。外面詳細引見了此數據庫,並提供了下載地址和導入辦法,假如有興味導入此數據庫到自己的MySQL可以參考文中內容。
最左前綴原理與相關優化
高效運用索引的首要條件是知道什麼樣的查詢會運用到索引,這個問題和B+Tree中的“最左前綴原理”有關,上面經過例子闡明最左前綴原理。
這裡先說一下結合索引的概念。在上文中,我們都是假定索引只援用了單個的列,實踐上,MySQL中的索引可以以一定順序援用多個列,這種索引叫做結合索引,普通的,一個結合索引是一個有序元組<a1, a2, …, an>,其中各個元素均為數據表的一列,實踐上要嚴厲定義索引需求用到關系代數,但是這裡我不想討論太多關系代數的話題,由於那樣會顯得很單調,所以這裡就不再做嚴厲定義。另外,單列索引可以看成結合索引元素數為1的特例。
以employees.titles表為例,上面先檢查其上都有哪些索引:
SHOW INDEX FROM employees.titles; +--------+------------+----------+--------------+-------------+-----------+-------------+------+------------+ | Table | Non_unique | Key_name | Seq_in_index | Column_name | Collation | Cardinality | Null | Index_type | +--------+------------+----------+--------------+-------------+-----------+-------------+------+------------+ | titles | 0 | PRIMARY | 1 | emp_no | A | NULL | | BTREE | | titles | 0 | PRIMARY | 2 | title | A | NULL | | BTREE | | titles | 0 | PRIMARY | 3 | from_date | A | 443308 | | BTREE | | titles | 1 | emp_no | 1 | emp_no | A | 443308 | | BTREE | +--------+------------+----------+--------------+-------------+-----------+-------------+------+------------+
從後果中可以到titles表的主索引為<emp_no, title, from_date>,還有一個輔佐索引<emp_no>。為了防止多個索引使事情變復雜(MySQL的SQL優化器在多索引時行為比擬復雜),這裡我們將輔佐索引drop掉:
ALTER TABLE employees.titles DROP INDEX emp_no;
這樣就可以專心剖析索引PRIMARY的行為了。
狀況一:全列婚配。
EXPLAIN SELECT * FROM employees.titles WHERE emp_no='10001' AND title='Senior Engineer' AND from_date='1986-06-26'; +----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+ | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra | +----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+ | 1 | SIMPLE | titles | const | PRIMARY | PRIMARY | 59 | const,const,const | 1 | | +----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+
很分明,當依照索引中一切列停止准確婚配(這裡准確婚配指“=”或“IN”婚配)時,索引可以被用到。這裡有一點需求留意,實際上索引對順序是敏感的,但是由於MySQL的查詢優化器會自動調整where子句的條件順序以運用合適的索引,例如我們將where中的條件順序顛倒:
EXPLAIN SELECT * FROM employees.titles WHERE from_date='1986-06-26' AND emp_no='10001' AND title='Senior Engineer'; +----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+ | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra | +----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+ | 1 | SIMPLE | titles | const | PRIMARY | PRIMARY | 59 | const,const,const | 1 | | +----+-------------+--------+-------+---------------+---------+---------+-------------------+------+-------+
效果是一樣的。
狀況二:最左前綴婚配。
EXPLAIN SELECT * FROM employees.titles WHERE emp_no='10001'; +----+-------------+--------+------+---------------+---------+---------+-------+------+-------+ | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra | +----+-------------+--------+------+---------------+---------+---------+-------+------+-------+ | 1 | SIMPLE | titles | ref | PRIMARY | PRIMARY | 4 | const | 1 | | +----+-------------+--------+------+---------------+---------+---------+-------+------+-------+
當查詢條件准確婚配索引的右邊延續一個或幾個列時,如<emp_no>或<emp_no, title>,所以可以被用到,但是只能用到一局部,即條件所組成的最左前綴。下面的查詢從剖析後果看用到了PRIMARY索引,但是key_len為4,闡明只用到了索引的第一列前綴。
狀況三:查詢條件用到了索引中列的准確婚配,但是兩頭某個條件未提供。
EXPLAIN SELECT * FROM employees.titles WHERE emp_no='10001' AND from_date='1986-06-26'; +----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+ | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra | +----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+ | 1 | SIMPLE | titles | ref | PRIMARY | PRIMARY | 4 | const | 1 | Using where | +----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+
此時索引運用狀況和狀況二相反,由於title未提供,所以查詢只用到了索引的第一列,然後面的from_date雖然也在索引中,但是由於title不存在而無法和左前綴銜接,因而需求對後果停止掃描過濾from_date(這裡由於emp_no獨一,所以不存在掃描)。假如想讓from_date也運用索引而不是where過濾,可以添加一個輔佐索引<emp_no, from_date>,此時下面的查詢會運用這個索引。除此之外,還可以運用一種稱之為“隔離列”的優化辦法,將emp_no與from_date之間的“坑”填上。
首先我們看下title一共有幾種不同的值:
SELECT DISTINCT(title) FROM employees.titles; +--------------------+ | title | +--------------------+ | Senior Engineer | | Staff | | Engineer | | Senior Staff | | Assistant Engineer | | Technique Leader | | Manager | +--------------------+
只要7種。在這種成為“坑”的列值比擬少的狀況下,可以思索用“IN”來填補這個“坑”從而構成最左前綴:
EXPLAIN SELECT * FROM employees.titles WHERE emp_no='10001' AND title IN ('Senior Engineer', 'Staff', 'Engineer', 'Senior Staff', 'Assistant Engineer', 'Technique Leader', 'Manager') AND from_date='1986-06-26'; +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra | +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ | 1 | SIMPLE | titles | range | PRIMARY | PRIMARY | 59 | NULL | 7 | Using where | +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+
這次key_len為59,闡明索引被用全了,但是從type和rows看出IN實踐上執行了一個range查詢,這裡反省了7個key。看下兩種查詢的功能比擬:
SHOW PROFILES; +----------+------------+-------------------------------------------------------------------------------+ | Query_ID | Duration | Query | +----------+------------+-------------------------------------------------------------------------------+ | 10 | 0.00058000 | SELECT * FROM employees.titles WHERE emp_no='10001' AND from_date='1986-06-26'| | 11 | 0.00052500 | SELECT * FROM employees.titles WHERE emp_no='10001' AND title IN ... | +----------+------------+-------------------------------------------------------------------------------+
“填坑”後功能提升了一點。假如經過emp_no挑選後余下很少數據,則後者功能優勢會愈加分明。當然,假如title的值很多,用填坑就不適宜了,必需樹立輔佐索引。
狀況四:查詢條件沒有指定索引第一列。
EXPLAIN SELECT * FROM employees.titles WHERE from_date='1986-06-26'; +----+-------------+--------+------+---------------+------+---------+------+--------+-------------+ | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra | +----+-------------+--------+------+---------------+------+---------+------+--------+-------------+ | 1 | SIMPLE | titles | ALL | NULL | NULL | NULL | NULL | 443308 | Using where | +----+-------------+--------+------+---------------+------+---------+------+--------+-------------+
由於不是最左前綴,索引這樣的查詢顯然用不到索引。
狀況五:婚配某列的前綴字符串。
EXPLAIN SELECT * FROM employees.titles WHERE emp_no='10001' AND title LIKE 'Senior%'; +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra | +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ | 1 | SIMPLE | titles | range | PRIMARY | PRIMARY | 56 | NULL | 1 | Using where | +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+
此時可以用到索引,但是假如通配符不是只呈現在末尾,則無法運用索引。(原文表述有誤,假如通配符%不呈現在掃尾,則可以用到索引,但依據詳細狀況不同能夠只會用其中一個前綴)
狀況六:范圍查詢。
EXPLAIN SELECT * FROM employees.titles WHERE emp_no < '10010' and title='Senior Engineer'; +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra | +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ | 1 | SIMPLE | titles | range | PRIMARY | PRIMARY | 4 | NULL | 16 | Using where | +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+
范圍列可以用到索引(必需是最左前綴),但是范圍列前面的列無法用到索引。同時,索引最多用於一個范圍列,因而假如查詢條件中有兩個范圍列則無法全用到索引。
EXPLAIN SELECT * FROM employees.titles WHERE emp_no < 10010' AND title='Senior Engineer' AND from_date BETWEEN '1986-01-01' AND '1986-12-31'; +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra | +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ | 1 | SIMPLE | titles | range | PRIMARY | PRIMARY | 4 | NULL | 16 | Using where | +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+
可以看到索引對第二個范圍索引能干為力。這裡特別要闡明MySQL一個有意思的中央,那就是僅用explain能夠無法區分范圍索引和多值婚配,由於在type中這兩者都顯示為range。同時,用了“between”並不意味著就是范圍查詢,例如上面的查詢:
EXPLAIN SELECT * FROM employees.titles WHERE emp_no BETWEEN '10001' AND '10010' AND title='Senior Engineer' AND from_date BETWEEN '1986-01-01' AND '1986-12-31'; +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra | +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+ | 1 | SIMPLE | titles | range | PRIMARY | PRIMARY | 59 | NULL | 16 | Using where | +----+-------------+--------+-------+---------------+---------+---------+------+------+-------------+
看起來是用了兩個范圍查詢,但作用於emp_no上的“BETWEEN”實踐上相當於“IN”,也就是說emp_no實踐是多值准確婚配。可以看到這個查詢用到了索引全部三個列。因而在MySQL中要慎重地域分多值婚配和范圍婚配,否則會對MySQL的行為發生困惑。
狀況七:查詢條件中含有函數或表達式。
很不幸,假如查詢條件中含有函數或表達式,則MySQL不會為這列運用索引(雖然某些在數學意義上可以運用)。例如:
EXPLAIN SELECT * FROM employees.titles WHERE emp_no='10001' AND left(title, 6)='Senior'; +----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+ | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra | +----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+ | 1 | SIMPLE | titles | ref | PRIMARY | PRIMARY | 4 | const | 1 | Using where | +----+-------------+--------+------+---------------+---------+---------+-------+------+-------------+
雖然這個查詢和狀況五中功用相反,但是由於運用了函數left,則無法為title列使用索引,而狀況五中用LIKE則可以。再如:
EXPLAIN SELECT * FROM employees.titles WHERE emp_no - 1='10000'; +----+-------------+--------+------+---------------+------+---------+------+--------+-------------+ | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra | +----+-------------+--------+------+---------------+------+---------+------+--------+-------------+ | 1 | SIMPLE | titles | ALL | NULL | NULL | NULL | NULL | 443308 | Using where | +----+-------------+--------+------+---------------+------+---------+------+--------+-------------+
顯然這個查詢等價於查詢emp_no為10001的函數,但是由於查詢條件是一個表達式,MySQL無法為其運用索引。看來MySQL還沒有智能到自動優化常量表達式的水平,因而在寫查詢語句時盡量防止表達式呈現在查詢中,而是先手工私下代數運算,轉換為無表達式的查詢語句。
索引選擇性與前綴索引
既然索引可以放慢查詢速度,那麼是不是只需是查詢語句需求,就建上索引?答案能否定的。由於索引雖然放慢了查詢速度,但索引也是有代價的:索引文件自身要耗費存儲空間,同時索引會減輕拔出、刪除和修正記載時的擔負,另外,MySQL在運轉時也要耗費資源維護索引,因而索引並不是越多越好。普通兩種狀況下不建議建索引。
第一種狀況是表記載比擬少,例如一兩千條甚至只要幾百條記載的表,沒必要建索引,讓查詢做全表掃描就好了。至於多少條記載才算多,這個團體有團體的看法,我團體的經歷是以2000作為分界限,記載數不超越 2000可以思索不建索引,超越2000條可以酌情思索索引。
另一種不建議建索引的狀況是索引的選擇性較低。所謂索引的選擇性(Selectivity),是指不反復的索引值(也叫基數,Cardinality)與表記載數(#T)的比值:
Index Selectivity = Cardinality / #T
顯然選擇性的取值范圍為(0, 1],選擇性越高的索引價值越大,這是由B+Tree的性質決議的。例如,上文用到的employees.titles表,假如title字段常常被獨自查詢,能否需求建索引,我們看一下它的選擇性:
SELECT count(DISTINCT(title))/count(*) AS Selectivity FROM employees.titles; +-------------+ | Selectivity | +-------------+ | 0.0000 | +-------------+
title的選擇性缺乏0.0001(准確值為0.00001579),所以真實沒有什麼必要為其獨自建索引。
有一種與索引選擇性有關的索引優化戰略叫做前綴索引,就是用列的前綴替代整個列作為索引key,以後綴長度適宜時,可以做到既使得前綴索引的選擇性接近全列索引,同時由於索引key變短而增加了索引文件的大小和維護開支。上面以employees.employees表為例引見前綴索引的選擇和運用。
從圖12可以看到employees表只要一個索引<emp_no>,那麼假如我們想按名字搜索一團體,就只能全表掃描了:
EXPLAIN SELECT * FROM employees.employees WHERE first_name='Eric' AND last_name='Anido'; +----+-------------+-----------+------+---------------+------+---------+------+--------+-------------+ | id | select_type | table | type | possible_keys | key | key_len | ref | rows | Extra | +----+-------------+-----------+------+---------------+------+---------+------+--------+-------------+ | 1 | SIMPLE | employees | ALL | NULL | NULL | NULL | NULL | 300024 | Using where | +----+-------------+-----------+------+---------------+------+---------+------+--------+-------------+
假如頻繁按名字搜索員工,這樣顯然效率很低,因而我們可以思索建索引。有兩種選擇,建<first_name>或<first_name, last_name>,看下兩個索引的選擇性:
SELECT count(DISTINCT(first_name))/count(*) AS Selectivity FROM employees.employees; +-------------+ | Selectivity | +-------------+ | 0.0042 | +-------------+ SELECT count(DISTINCT(concat(first_name, last_name)))/count(*) AS Selectivity FROM employees.employees; +-------------+ | Selectivity | +-------------+ | 0.9313 | +-------------+
<first_name>顯然選擇性太低,<first_name, last_name>選擇性很好,但是first_name和last_name加起來長度為30,有沒有統籌長度和選擇性的方法?可以思索用first_name和last_name的前幾個字符樹立索引,例如<first_name, left(last_name, 3)>,看看其選擇性:
SELECT count(DISTINCT(concat(first_name, left(last_name, 3))))/count(*) AS Selectivity FROM employees.employees; +-------------+ | Selectivity | +-------------+ | 0.7879 | +-------------+
選擇性還不錯,但離0.9313還是有點間隔,那麼把last_name前綴加到4:
SELECT count(DISTINCT(concat(first_name, left(last_name, 4))))/count(*) AS Selectivity FROM employees.employees; +-------------+ | Selectivity | +-------------+ | 0.9007 | +-------------+
這時選擇性曾經很理想了,而這個索引的長度只要18,比<first_name, last_name>短了接近一半,我們把這個前綴索引 建上:
ALTER TABLE employees.employees ADD INDEX `first_name_last_name4` (first_name, last_name(4));
此時再執行一遍按名字查詢,比擬剖析一下與建索引前的後果:
SHOW PROFILES; +----------+------------+---------------------------------------------------------------------------------+ | Query_ID | Duration | Query | +----------+------------+---------------------------------------------------------------------------------+ | 87 | 0.11941700 | SELECT * FROM employees.employees WHERE first_name='Eric' AND last_name='Anido' | | 90 | 0.00092400 | SELECT * FROM employees.employees WHERE first_name='Eric' AND last_name='Anido' | +----------+------------+---------------------------------------------------------------------------------+
功能的提升是明顯的,查詢速度進步了120多倍。
前綴索引統籌索引大小和查詢速度,但是其缺陷是不能用於ORDER BY和GROUP BY操作,也不能用於Covering index(即當索引自身包括查詢所需全部數據時,不再訪問數據文件自身)。
InnoDB的主鍵選擇與拔出優化
在運用InnoDB存儲引擎時,假如沒有特別的需求,請永遠運用一個與業務有關的自增字段作為主鍵。
常常看到有帖子或博客討論主鍵選擇問題,有人建議運用業務有關的自增主鍵,有人覺得沒有必要,完全可以運用如學號或身份證號這種獨一字段作為主鍵。不管支持哪種論點,大少數論據都是業務層面的。假如從數據庫索引優化角度看,運用InnoDB引擎而不運用自增主鍵相對是一個蹩腳的主見。
上文討論過InnoDB的索引完成,InnoDB運用聚集索引,數據記載自身被存於主索引(一顆B+Tree)的葉子節點上。這就要求同一個葉子節點內(大小為一個內存頁或磁盤頁)的各條數據記載按主鍵順序寄存,因而每當有一條新的記載拔出時,MySQL會依據其主鍵將其拔出適當的節點和地位,假如頁面到達裝載因子(InnoDB默許為15/16),則開拓一個新的頁(節點)。
假如表運用自增主鍵,那麼每次拔出新的記載,記載就會順序添加到以後索引節點的後續地位,當一頁寫滿,就會自動開拓一個新的頁。如下圖所示:
圖13
這樣就會構成一個緊湊的索引構造,近似順序填滿。由於每次拔出時也不需求挪動已無數據,因而效率很高,也不會添加很多開支在維護索引上。
假如運用非自增主鍵(假如身份證號或學號等),由於每次拔出主鍵的值近似於隨機,因而每次新紀錄都要被插到現有索引頁得兩頭某個地位:
圖14
此時MySQL不得不為了將新記載插到適宜地位而挪動數據,甚至目的頁面能夠曾經被回寫到磁盤上而從緩存中清掉,此時又要從磁盤上讀回來,這添加了很多開支,同時頻繁的挪動、分頁操作形成了少量的碎片,失掉了不夠緊湊的索引構造,後續不得不經過OPTIMIZE TABLE來重建表並優化填充頁面。
因而,只需可以,請盡量在InnoDB上采用自增字段做主鍵。
後記
這篇文章斷斷續續寫了半個月,次要內容就是下面這些了。不可否認,這篇文章在一定水平上有紙上談兵之嫌,由於我自己對MySQL的運用屬於菜鳥級別,更沒有太少數據庫調優的經歷,在這裡大談數據庫索引調優有點大言不慚。就當是我團體的一篇學習筆記了。
其實數據庫索引調優是一項技術活,不能僅僅靠實際,由於實踐狀況千變萬化,而且MySQL自身存在很復雜的機制,如查詢優化戰略和各種引擎的完成差別等都會使狀況變得愈加復雜。但同時這些實際是索引調優的根底,只要在明白實際的根底上,才干對調優戰略停止合理推斷並理解其面前的機制,然後結合理論中不時的實驗和探索,從而真正到達高效運用MySQL索引的目的。
另外,MySQL索引及其優化涵蓋范圍十分廣,本文只是觸及到其中一局部。如與排序(ORDER BY)相關的索引優化及掩蓋索引(Covering index)的話題本文並未觸及,同時除B-Tree索引外MySQL還依據不同引擎支持的哈希索引、全文索引等等本文也並未觸及。假如無機會,希望再對本文未觸及的局部停止補充吧。
參考文獻
[1] Baron Scbwartz等 著,王小東等 譯;高功能MySQL(High Performance MySQL);電子工業出版社,2010
[2] Michael Kofler 著,楊曉雲等 譯;MySQL5威望指南(The Definitive Guide to MySQL5);人民郵電出版社,2006
[3] 姜承堯 著;MySQL技術內情-InnoDB存儲引擎;機械工業出版社,2011
[4] D Comer, Ubiquitous B-tree; ACM Computing Surveys (CSUR), 1979
[5] Codd, E. F. (1970). “A relational model of data for large shared data banks”. Communications of the ACM, , Vol. 13, No. 6, pp. 377-387
[6] MySQL5.1參考手冊 – http://dev.mysql.com/doc/refman/5.1/zh/index.html