建立一個Web應用,分頁浏覽功能必不可少。這個問題是數據庫處理中十分常見的問題。經典的數據分頁方法是:ADO紀錄集分頁法,也就是利用ADO自帶的分頁功能(利用游標)來實現分頁。但這種分頁方法僅適用於較小數據量的情形,因為游標本身有缺點:游標是存放在內存中,很費內存。游標一建立,就將相關的記錄鎖住,直到取消游標。游標提供了對特定集合中逐行掃描的手段,一般使用游標來逐行遍歷數據,根據取出數據條件的不同進行不同的操作。而對於多表和大表中定義的游標(大的數據集合)循環很容易使程序進入一個漫長的等待甚至死機。
更重要的是,對於非常大的數據模型而言,分頁檢索時,如果按照傳統的每次都加載整個數據源的方法是非常浪費資源的。現在流行的分頁方法一般是檢索頁面大小的塊區的數據,而非檢索所有的數據,然後單步執行當前行。
最早較好地實現這種根據頁面大小和頁碼來提取數據的方法大概就是“俄羅斯存儲過程”。這個存儲過程用了游標,由於游標的局限性,所以這個方法並沒有得到大家的普遍認可。
後來,網上有人改造了此存儲過程,下面的存儲過程就是結合我們的辦公自動化實例寫的分頁存儲過程:
CREATEprocedurepagination1
(@pagesizeint,--頁面大小,如每頁存儲20條記錄
@pageindexint--當前頁碼
)
as
setnocounton
begin
declare@indextabletable(idintidentity(1,1),nidint)--定義表變量
declare@PageLowerBoundint--定義此頁的底碼
declare@PageUpperBoundint--定義此頁的頂碼
set@PageLowerBound=(@pageindex-1)*@pagesize
set@PageUpperBound=@PageLowerBound+@pagesize
setrowcount@PageUpperBound
insertinto@indextable(nid)selectgidfromTGongwen
wherefariqi>dateadd(day,-365,getdate())orderbyfariqidesc
selectO.gid,O.mid,O.title,O.fadanwei,O.fariqifromTGongwenO,@indextablet
whereO.gid=t.nidandt.id>@PageLowerBound
andt.id<[email protected]
end
setnocountoff
以上存儲過程運用了SQLSERVER的最新技術――表變量。應該說這個存儲過程也是一個非常優秀的分頁存儲過程。當然,在這個過程中,您也可以把其中的表變量寫成臨時表:CREATETABLE#Temp。但很明顯,在SQLSERVER中,用臨時表是沒有用表變量快的。所以筆者剛開始使用這個存儲過程時,感覺非常的不錯,速度也比原來的ADO的好。但後來,我又發現了比此方法更好的方法。
筆者曾在網上看到了一篇小短文《從數據表中取出第n條到第m條的記錄的方法》,全文如下:
從publish表中取出第n條到第m條的記錄:
SELECTTOPm-n+1*
FROMpublish
WHERE(idNOTIN
(SELECTTOPn-1id
FROMpublish))
id為publish表的關鍵字
我當時看到這篇文章的時候,真的是精神為之一振,覺得思路非常得好。等到後來,我在作辦公自動化系統(ASP.Net+C#+SQLSERVER)的時候,忽然想起了這篇文章,我想如果把這個語句改造一下,這就可能是一個非常好的分頁存儲過程。於是我就滿網上找這篇文章,沒想到,文章還沒找到,卻找到了一篇根據此語句寫的一個分頁存儲過程,這個存儲過程也是目前較為流行的一種分頁存儲過程,我很後悔沒有爭先把這段文字改造成存儲過程:
CREATEPROCEDUREpagination2
(
@SQLnVARCHAR(4000),--不帶排序語句的SQL語句
@Pageint,--頁碼
@RecsPerPageint,--每頁容納的記錄數
@IDVARCHAR(255),--需要排序的不重復的ID號
@SortVARCHAR(255)--排序字段及規則
)
AS
DECLARE@StrnVARCHAR(4000)
SET@Str=''SELECTTOP''+CAST(@RecsPerPageASVARCHAR(20))+''*FROM
(''+@SQL+'')TWHERET.''+@ID+''NOTIN(SELECTTOP''+CAST((@RecsPerPage*(@Page-1))
ASVARCHAR(20))+''''+@ID+''FROM(''+@SQL+'')T9ORDERBY''+@Sort+'')ORDERBY''+@Sort
PRINT@Str
EXECsp_ExecuteSql@Str
GO
其實,以上語句可以簡化為:
SELECTTOP頁大小*
FROMTable1WHERE(IDNOTIN(SELECTTOP頁大小*頁數idFROM表ORDERBYid))
ORDERBYID
但這個存儲過程有一個致命的缺點,就是它含有NOTIN字樣。雖然我可以把它改造為:
SELECTTOP頁大小*
FROMTable1WHEREnotexists
(select*from(selecttop(頁大小*頁數)*fromtable1orderbyid)bwhereb.id=a.id)
orderbyid
即,用notexists來代替notin,但我們前面已經談過了,二者的執行效率實際上是沒有區別的。既便如此,用TOP結合NOTIN的這個方法還是比用游標要來得快一些。
雖然用notexists並不能挽救上個存儲過程的效率,但使用SQLSERVER中的TOP關鍵字卻是一個非常明智的選擇。因為分頁優化的最終目的就是避免產生過大的記錄集,而我們在前面也已經提到了TOP的優勢,通過TOP即可實現對數據量的控制。
在分頁算法中,影響我們查詢速度的關鍵因素有兩點:TOP和NOTIN。TOP可以提高我們的查詢速度,而NOTIN會減慢我們的查詢速度,所以要提高我們整個分頁算法的速度,就要徹底改造NOTIN,同其他方法來替代它。
我們知道,幾乎任何字段,我們都可以通過max(字段)或min(字段)來提取某個字段中的最大或最小值,所以如果這個字段不重復,那麼就可以利用這些不重復的字段的max或min作為分水嶺,使其成為分頁算法中分開每頁的參照物。在這裡,我們可以用操作符“>”或“<”號來完成這個使命,使查詢語句符合SARG形式。如:
Selecttop10*fromtable1whereid>200
於是就有了如下分頁方案:
selecttop頁大小*
fromtable1
whereid>
(selectmax(id)from
(selecttop((頁碼-1)*頁大小)idfromtable1orderbyid)asT
)
orderbyid
在選擇即不重復值,又容易分辨大小的列時,我們通常會選擇主鍵。下表列出了筆者用有著1000萬數據的辦公自動化系統中的表,在以GID(GID是主鍵,但並不是聚集索引。)為排序列、提取gid,fariqi,title字段,分別以第1、10、100、500、1000、1萬、10萬、25萬、50萬頁為例,測試以上三種分頁方案的執行速度:(單位:毫秒)
頁碼
方案1
方案2
方案3
1
60
30
76
10
46
16
63
100
1076
720
130
500
540
12943
83
1000
17110
470
250
10000
24796
4500
140
100000
38326
42283
1553
250000
28140
128720
2330
500000
121686
127846
7168
從上表中,我們可以看出,三種存儲過程在執行100頁以下的分頁命令時,都是可以信任的,速度都很好。但第一種方案在執行分頁1000頁以上後,速度就降了下來。第二種方案大約是在執行分頁1萬頁以上後速度開始降了下來。而第三種方案卻始終沒有大的降勢,後勁仍然很足。
在確定了第三種分頁方案後,我們可以據此寫一個存儲過程。大家知道SQLSERVER的存儲過程是事先編譯好的SQL語句,它的執行效率要比通過WEB頁面傳來的SQL語句的執行效率要高。下面的存儲過程不僅含有分頁方案,還會根據頁面傳來的參數來確定是否進行數據總數統計。
獲取指定頁的數據:
CREATEPROCEDUREpagination3
@tblNamevarchar(255),--表名
@strGetFIEldsvarchar(1000)=''*'',--需要返回的列
@fldNamevarchar(255)='''',--排序的字段名
@PageSizeint=10,--頁尺寸
@PageIndexint=1,--頁碼
@doCountbit=0,--返回記錄總數,非0值則返回
@OrderTypebit=0,--設置排序類型,非0值則降序
@strWherevarchar(1500)=''''--查詢條件(注意:不要加where)
AS
declare@strSQLvarchar(5000)--主語句
declare@strTmpvarchar(110)--臨時變量
declare@strOrdervarchar(400)--排序類型
if@doCount!=0
begin
if@strWhere!=''''
set@strSQL="selectcount(*)asTotalfrom["+@tblName+"]where"+@strWhere
else
set@strSQL="selectcount(*)asTotalfrom["+@tblName+"]"
end
以上代碼的意思是如果@doCount傳遞過來的不是0,就執行總數統計。以下的所有代碼都是@doCount為0的情況:
else
begin
if@OrderType!=0
begin
set@strTmp="<(selectmin"
set@strOrder="orderby["+@fldName+"]desc"
如果@OrderType不是0,就執行降序,這句很重要!
end
else
begin
set@strTmp=">(selectmax"
set@strOrder="orderby["+@fldName+"]asc"
end
if@PageIndex=1
begin
if@strWhere!=''''
set@strSQL="selecttop"+str(@PageSize)+""+@strGetFIElds+"
from["+@tblName+"]where"+@strWhere+""+@strOrder
else
set@strSQL="selecttop"+str(@PageSize)+""+@strGetFIElds+"
from["+@tblName+"]"+@strOrder
如果是第一頁就執行以上代碼,這樣會加快執行速度
end
else
begin
以下代碼賦予了@strSQL以真正執行的SQL代碼
set@strSQL="selecttop"+str(@PageSize)+""+@strGetFIElds+"from["
+@tblName+"]where["+@fldName+"]"+@strTmp+"(["+@fldName+"])
from(selecttop"+str((@PageIndex-1)*@PageSize)+"["+@fldName+"]
from["+@tblName+"]"+@strOrder+")astblTmp)"+@strOrder
if@strWhere!=''''
set@strSQL="selecttop"+str(@PageSize)+""+@strGetFIElds+"from["
+@tblName+"]where["+@fldName+"]"+@strTmp+"(["
+@fldName+"])from(selecttop"+str((@PageIndex-1)*@PageSize)+"["
+@fldName+"]from["+@tblName+"]where"+@strWhere+""
+@strOrder+")astblTmp)and"+@strWhere+""+@strOrder
end
end
exec(@strSQL)
GO
上面的這個存儲過程是一個通用的存儲過程,其注釋已寫在其中了。在大數據量的情況下,特別是在查詢最後幾頁的時候,查詢時間一般不會超過9秒;而用其他存儲過程,在實踐中就會導致超時,所以這個存儲過程非常適用於大容量數據庫的查詢。筆者希望能夠通過對以上存儲過程的解析,能給大家帶來一定的啟示,並給工作帶來一定的效率提升,同時希望同行提出更優秀的實時數據分頁算法。
以上的這第三種存儲過程在小數據量的情況下,有如下現象:
1、分頁速度一般維持在1秒和3秒之間。
2、在查詢最後一頁時,速度一般為5秒至8秒,哪怕分頁總數只有3頁或30萬頁。
雖然在超大容量情況下,這個分頁的實現過程是很快的,但在分前幾頁時,這個1-3秒的速度比起第一種甚至沒有經過優化的分頁方法速度還要慢,借用戶的話說就是“還沒有Access數據庫速度快”,這個認識足以導致用戶放棄使用您開發的系統。
筆者就此分析了一下,原來產生這種現象的症結是如此的簡單,但又如此的重要:排序的字段不是聚集索引!
筆者只所以把“查詢優化”和“分頁算法”這兩個聯系不是很大的論題放在一起,就是因為二者都需要一個非常重要的東西――聚集索引。
在前面的討論中我們已經提到了,聚集索引有兩個最大的優勢:
1、以最快的速度縮小查詢范圍。
2、以最快的速度進行字段排序。
第1條多用在查詢優化時,而第2條多用在進行分頁時的數據排序。
而聚集索引在每個表內又只能建立一個,這使得聚集索引顯得更加的重要。聚集索引的挑選可以說是實現“查詢優化”和“高效分頁”的最關鍵因素。
但要既使聚集索引列既符合查詢列的需要,又符合排序列的需要,這通常是一個矛盾。筆者前面“索引”的討論中,將fariqi,即用戶發文日期作為了聚集索引的起始列,日期的精確度為“日”。這種作法的優點,前面已經提到了,在進行劃時間段的快速查詢中,比用ID主鍵列有很大的優勢。
但在分頁時,由於這個聚集索引列存在著重復記錄,所以無法使用max或min來最為分頁的參照物,進而無法實現更為高效的排序。而如果將ID主鍵列作為聚集索引,那麼聚集索引除了用以排序之外,沒有任何用處,實際上是浪費了聚集索引這個寶貴的資源。
為解決這個矛盾,筆者後來又添加了一個日期列,其默認值為getdate()。用戶在寫入記錄時,這個列自動寫入當時的時間,時間精確到毫秒。即使這樣,為了避免可能性很小的重合,還要在此列上創建UNIQUE約束。將此日期列作為聚集索引列。
有了這個時間型聚集索引列之後,用戶就既可以用這個列查找用戶在插入數據時的某個時間段的查詢,又可以作為唯一列來實現max或min,成為分頁算法的參照物。
經過這樣的優化,筆者發現,無論是大數據量的情況下還是小數據量的情況下,分頁速度一般都是幾十毫秒,甚至0毫秒。而用日期段縮小范圍的查詢速度比原來也沒有任何遲鈍。聚集索引是如此的重要和珍貴,所以筆者總結了一下,一定要將聚集索引建立在:
1、您最頻繁使用的、用以縮小查詢范圍的字段上;
2、您最頻繁使用的、需要排序的字段上。