經過設置我只能獲取到百度百科和百度文庫首頁的一些頁面,可是我想爬取這兩個網站內部的頁面,請問該如何配置?有沒有人有成功的先例?
比如如果想要爬取百度文庫裡面的頁面crawl-urlfilter.txt裡面的正則表達式改如何編寫?
多謝指教!
nutch1.2在crawl-urlfilter.txt設置站點,1.2以上的版本要在regex-urlfilter.txt中配置。
具體是在accept hosts in MY.DOMAIN.NAME下設置要爬取的站點.
例如:
+^http://([a-z0-9]*.)*baidu.com/
在nutch目錄下建個urls文件夾,裡面建個baidu.txt文件,裡面把要爬取的Url放進去。
http://wenku.baidu.com/
然後運行 bin/nutch crawl urls/baidu.txt -dir baidu/wenku -threads 4 -depth 2 -topN 30