程序師世界是廣大編程愛好者互助、分享、學習的平台,程序師世界有你更精彩!
首頁
編程語言
C語言|JAVA編程
Python編程
網頁編程
ASP編程|PHP編程
JSP編程
數據庫知識
MYSQL數據庫|SqlServer數據庫
Oracle數據庫|DB2數據庫
 程式師世界 >> 編程語言 >> 更多編程語言 >> 編程綜合問答 >> nutch-請問為什麼我用Nutch爬取不到百度百科和百度文庫裡面的內容?

nutch-請問為什麼我用Nutch爬取不到百度百科和百度文庫裡面的內容?

編輯:編程綜合問答
請問為什麼我用Nutch爬取不到百度百科和百度文庫裡面的內容?

經過設置我只能獲取到百度百科和百度文庫首頁的一些頁面,可是我想爬取這兩個網站內部的頁面,請問該如何配置?有沒有人有成功的先例?
比如如果想要爬取百度文庫裡面的頁面crawl-urlfilter.txt裡面的正則表達式改如何編寫?
多謝指教!

最佳回答:


nutch1.2在crawl-urlfilter.txt設置站點,1.2以上的版本要在regex-urlfilter.txt中配置。
具體是在accept hosts in MY.DOMAIN.NAME下設置要爬取的站點.
例如:

accept hosts in MY.DOMAIN.NAME

+^http://([a-z0-9]*.)*baidu.com/

在nutch目錄下建個urls文件夾,裡面建個baidu.txt文件,裡面把要爬取的Url放進去。
http://wenku.baidu.com/
然後運行 bin/nutch crawl urls/baidu.txt -dir baidu/wenku -threads 4 -depth 2 -topN 30

  1. 上一頁:
  2. 下一頁:
Copyright © 程式師世界 All Rights Reserved