程序師世界是廣大編程愛好者互助、分享、學習的平台,程序師世界有你更精彩!
首頁
編程語言
C語言|JAVA編程
Python編程
網頁編程
ASP編程|PHP編程
JSP編程
數據庫知識
MYSQL數據庫|SqlServer數據庫
Oracle數據庫|DB2數據庫
 程式師世界 >> 編程語言 >> 網頁編程 >> ASP編程 >> 關於ASP編程 >> 采集原理---采集技術篇---XMLHTTP

采集原理---采集技術篇---XMLHTTP

編輯:關於ASP編程
最近一段時間,采集很熱門,從新聞小偷,到音樂小偷,到新聞采集,Flash采集,都有他的蹤影,現在還有很多的人對采集都很感興趣,為了服務大家,我也正在寫一套采集程序,名字為 心意采集程序 ,現在我講一下,采集用到的相關技術。


下面講到的也不是很高深的XMLHTTP技術,我也是稍稍講一下,一個采集需要用到的幾塊內容
如果你需要了解更多的問題,請去www.google.com 搜索 XMLHTTP 技術 你將會得到更多的幫助,如果大家有什麼疑問的話,可以在論壇上回貼

下面只講到如何在網上得到數據,並不涉及到數據處理 

第一 XMLHTTP 技術

http://www.0579.info/study/exploitation/net/58685.htm

上面那個地址,那篇文章講的根本原理已經很詳細了,但是我們一般采集的話,剛開始不太需要了解太多。只要實用就可以了,等以後不夠用的時候,再去找相關文檔也來得急

首先,我們需要建立一個XMLHTTP對象
微軟發布的xmlhttp組件已經有很多的版本了,我知道的就有以下幾種:

"MSXML2.ServerXMLHTTP.4.0"
"MSXML2.ServerXMLHTTP.3.0"
"MSXML2.ServerXMLHTTP"
"MSXML2.XMLHTTP.5.0"
"MSXML2.XMLHTTP.4.0"
"MSXML2.XMLHTTP.3.0"
"MSXML2.XMLHTTP"
"Microsoft.XMLHTTP 


以上有這麼多種組件,我們當然是需要申請最高版本的對象喽,那有什麼辦法可以實現呢
下面我拿出一段代碼,大家可以看看,他是按最高版本申請XMLHTTP對象的

Dim ArrProgId,Prog,Flag,XmlHttpCom

ArrProgId = array("MSXML2.ServerXMLHTTP.4.0", "MSXML2.ServerXMLHTTP.3.0", "MSXML2.ServerXMLHTTP", "MSXML2.XMLHTTP.5.0", "MSXML2.XMLHTTP.4.0", "MSXML2.XMLHTTP.3.0", "MSXML2.XMLHTTP","Microsoft.XMLHTTP")

For Each Prog In arrProgId
If (IsObjInstalled(Prog) = true) Then
XmlHttpCom = Prog
Exit For
End If
Next


'// <summary>
'// Rem 檢查組件是否支持 是返回 True 否返回 False
'// </summary>
Public Function IsObjInstalled(strClassString)
On Error Resume Next

'//設置初始化值

IsObjInstalled = False
Err = 0

'//測試代碼

Dim xTestObj
Set xTestObj = Server.createObject(strClassString)
If 0 = Err Then IsObjInstalled = True

'//清除所申請的對象

Set xTestObj = Nothing
Err = 0
End Function 


上面那段代碼就是申請到當前服務器支持的最高版本的XMLHTTP對象了

下面我們講一下采集功能函數


'GetFileText為采集功能函數
Public Function GetFileText(url) 
on error resume next '有錯誤時繼續執行代碼
Dim http '定義變量
'Set http=Server.createobject(XmlHttpCom) '申請對象 
Set http=Server.createobject("Microsoft.XMLHTTP") '保險起見,寫出一個服務器一般都支持的版本 
Http.open "GET",url,False '打開對象 用GET方式 等待服務器響應
Http.Send() '發送
If Http.readystate<>4 Then '如果服務器沒反應,則退出函數
Exit Function 
End If 

GetFileText=bytes2BSTR(Http.responseBody,"GB2312") '把得到的數據流二進制文件 轉化成文本字符格式 (GB2312)

Set http=Nothing '刪除對象
If err.number<>0 Then err.Clear '如果有錯誤,清除錯誤
End Function


'// <summary>
'// 采用 ADODB.Stream 處理采集到的數據,把二進制的文件轉成文本字符
'// </summary>
Function Bytes2bStr(vin,cSet)
Dim BytesStream,StringReturn
Set BytesStream = Server.createObject("ADODB.Stream")
BytesStream.Type = 2
BytesStream.Open
BytesStream.WriteText vin
BytesStream.Position = 0
BytesStream.CharSet = cSet
BytesStream.Position = 2
StringReturn =BytesStream.ReadText
BytesStream.close
Set BytesStream = Nothing
Bytes2bStr = StringReturn
End Function


下面我定義一個 路徑變量 URL

URL = "http://ent.sina.com.cn/star/mainland/more.html";

上面是一個網址,如果我們想把上面這個地址采集下來,並顯示出來的話,我們可以這樣操作


URL = "http://ent.sina.com.cn/star/mainland/more.html";

Response.Write GetFileText(URL)


這樣就可以采集到上面網址的內容了
是不是很簡單呢

那采集到數據之後應該怎麼操作呢
怎麼區分數據,如果得到你想要的數據,如果把得到的數據入庫呢
這是以後需要分析講解的問題了 入庫要注意的地方,用正表達式處理數據


附上 上面代碼的源文件,大家可以下載下去,運行起來試試,是不是真的能采集到數據庫
  1. 上一頁:
  2. 下一頁:
Copyright © 程式師世界 All Rights Reserved