程序師世界是廣大編程愛好者互助、分享、學習的平台,程序師世界有你更精彩!
首頁
編程語言
C語言|JAVA編程
Python編程
網頁編程
ASP編程|PHP編程
JSP編程
數據庫知識
MYSQL數據庫|SqlServer數據庫
Oracle數據庫|DB2數據庫
 程式師世界 >> 編程語言 >> JAVA編程 >> 關於JAVA >> Jsoup解析HTML實例及文檔辦法詳解

Jsoup解析HTML實例及文檔辦法詳解

編輯:關於JAVA

Jsoup解析HTML實例及文檔辦法詳解。本站提示廣大學習愛好者:(Jsoup解析HTML實例及文檔辦法詳解)文章只能為提供參考,不一定能成為您想要的結果。以下是Jsoup解析HTML實例及文檔辦法詳解正文


解析和遍歷一個HTML文檔

若何解析一個HTML文檔:


String html = "<html><head><title>First parse</title></head>"
  + "<body><p>Parsed HTML into a doc.</p></body></html>";
Document doc = Jsoup.parse(html);

其解析器可以或許盡最年夜能夠從你供給的HTML文檔來創見一個清潔的解析成果,不管HTML的格局能否完全。好比它可以處置:

1、沒有封閉的標簽 (好比: <p>Lorem <p>Ipsum parses to <p>Lorem</p> <p>Ipsum</p>)
2、隱式標簽 (好比. 它可以主動將 <td>Table data</td>包裝成<table><tr><td>?)
3、創立靠得住的文檔構造(html標簽包括head 和 body,在head只湧現適當的元素)

一個文檔的對象模子

1、文檔由多個Elements和TextNodes構成 (和其它幫助nodes).
2、其繼續構造以下:Document繼續Element繼續Node. TextNode繼續 Node.
3、一個Element包括一個子節點聚集,並具有一個父Element。他們還供給了一個獨一的子元素過濾列表。

從一個URL加載一個Document

存在成績
你須要從一個網站獲得息爭析一個HTML文檔,並查找個中的相干數據。你可使用上面處理辦法:

處理辦法
應用 Jsoup.connect(String url)辦法:


Document doc = Jsoup.connect("http://www.jb51.net/").get();
String title = doc.title();

解釋
connect(String url) 辦法創立一個新的 Connection, 和 get() 獲得息爭析一個HTML文件。假如從該URL獲得HTML時產生毛病,便會拋出 IOException,應恰當處置。

Connection 接口還供給一個辦法鏈來處理特別要求,詳細以下:

Document doc = Jsoup.connect("http://www.jb51.net")
  .data("query", "Java")
  .userAgent("Mozilla")
  .cookie("auth", "token")
  .timeout(3000)
  .post();

這個辦法只支撐Web URLs (http和https 協定); 假設你須要從一個文件加載,可使用parse(File in, String charsetName) 取代。

從一個文件加載一個文檔

成績
在本機硬盤上有一個HTML文件,須要對它停止解析從中抽取數據或停止修正。

方法
可使用靜態 Jsoup.parse(File in, String charsetName, String baseUri) 辦法:


File input = new File("/tmp/input.html");
Document doc = Jsoup.parse(input, "UTF-8", "http://www.jb51.net/");

解釋
parse(File in, String charsetName, String baseUri) 這個辦法用來加載息爭析一個HTML文件。如在加載文件的時刻產生毛病,將拋出IOException,應作恰當處置。
baseUri 參數用於處理文件中URLs是絕對途徑的成績。假如不須要可以傳入一個空的字符串。
別的還有一個辦法parse(File in, String charsetName) ,它應用文件的途徑做為 baseUri。 這個辦法實用於假如被解析文件位於網站的當地文件體系,且相干鏈接也指向該文件體系。


應用DOM辦法來遍歷一個文檔

成績
你有一個HTML文檔要從中提取數據,並懂得這個HTML文檔的構造。

辦法
將HTML解析成一個Document以後,便可以應用相似於DOM的辦法停止操作。示例代碼:


File input = new File("/tmp/input.html");
Document doc = Jsoup.parse(input, "UTF-8", "http://www.jb51.net/");

Element content = doc.getElementById("content");
Elements links = content.getElementsByTag("a");
for (Element link : links) {
  String linkHref = link.attr("href");
  String linkText = link.text();
}

解釋
Elements這個對象供給了一系列相似於DOM的辦法來查找元素,抽取並處置個中的數據。詳細以下:
查找元素
getElementById(String id)
getElementsByTag(String tag)
getElementsByClass(String className)
getElementsByAttribute(String key) (and related methods)
Element siblings: siblingElements(), firstElementSibling(), lastElementSibling();nextElementSibling(), previousElementSibling()
Graph: parent(), children(), child(int index)

元素數據
attr(String key)獲得屬性attr(String key, String value)設置屬性
attributes()獲得一切屬性
id(), className() and classNames()
text()獲得文本內容text(String value) 設置文本內容
html()獲得元素內HTMLhtml(String value)設置元素內的HTML內容
outerHtml()獲得元素外HTML內容
data()獲得數據內容(例如:script和style標簽)
tag() and tagName()

操作HTML和文本
append(String html), prepend(String html)
appendText(String text), prependText(String text)
appendElement(String tagName), prependElement(String tagName)
html(String value)


應用選擇器語法來查找元素
成績
你想應用相似於CSS或jQuery的語法來查找和操作元素。

辦法
可使用Element.select(String selector) 和 Elements.select(String selector) 辦法完成:


File input = new File("/tmp/input.html");
Document doc = Jsoup.parse(input, "UTF-8", "http://www.jb51.net./");

Elements links = doc.select("a[href]"); //帶有href屬性的a元素
Elements pngs = doc.select("img[src$=.png]");
  //擴大名為.png的圖片

Element masthead = doc.select("div.masthead").first();
  //class等於masthead的div標簽

Elements resultLinks = doc.select("h3.r > a"); //在h3元素以後的a元素

解釋
jsoup elements對象支撐相似於CSS (或jquery)的選擇器語法,來完成異常壯大和靈巧的查找功效。.
這個select 辦法在Document, Element,或Elements對象中都可使用。且是高低文相干的,是以可完成指定元素的過濾,或許鏈式選擇拜訪。
Select辦法將前往一個Elements聚集,並供給一組辦法來抽取和處置成果。

Selector選擇器概述
tagname: 經由過程標簽查找元素,好比:a
ns|tag: 經由過程標簽在定名空間查找元素,好比:可以用 fb|name 語法來查找 <fb:name> 元素
#id: 經由過程ID查找元素,好比:#logo
.class: 經由過程class稱號查找元素,好比:.masthead
[attribute]: 應用屬性查找元素,好比:[href]
[^attr]: 應用屬性名前綴來查找元素,好比:可以用[^data-] 來查找帶有HTML5 Dataset屬性的元素
[attr=value]: 應用屬性值來查找元素,好比:[width=500]
[attr^=value], [attr$=value], [attr*=value]: 應用婚配屬性值開首、開頭或包括屬性值來查找元素,好比:[href*=/path/]
[attr~=regex]: 應用屬性值婚配正則表達式來查找元素,好比: img[src~=(?i)\.(png|jpe?g)]
*: 這個符號將婚配一切元素

Selector選擇器組合應用
el#id: 元素+ID,好比: div#logo
el.class: 元素+class,好比: div.masthead
el[attr]: 元素+class,好比: a[href]
隨意率性組合,好比:a[href].highlight
ancestor child: 查找某個元素下子元素,好比:可以用.body p 查找在"body"元素下的一切p元素
parent > child: 查找某個父元素下的直接子元素,好比:可以用div.content > p 查找 p 元素,也能夠用body > * 查找body標簽下一切直接子元素
siblingA + siblingB: 查找在A元素之前第一個同級元素B,好比:div.head + div
siblingA ~ siblingX: 查找A元素之前的同級X元素,好比:h1 ~ p
el, el, el:多個選擇器組合,查找婚配任一選擇器的獨一元素,例如:div.masthead, div.logo

偽選擇器selectors
:lt(n): 查找哪些元素的同級索引值(它的地位在DOM樹中是絕對於它的父節點)小於n,好比:td:lt(3) 表現小於三列的元素
:gt(n):查找哪些元素的同級索引值年夜於n,好比: div p:gt(2)表現哪些div中有包括2個以上的p元素
:eq(n): 查找哪些元素的同級索引值與n相等,好比:form input:eq(1)表現包括一個input標簽的Form元素
:has(seletor): 查找婚配選擇器包括元素的元素,好比:div:has(p)表現哪些div包括了p元素
:not(selector): 查找與選擇器不婚配的元素,好比: div:not(.logo) 表現不包括 class=logo 元素的一切 div 列表
:contains(text): 查找包括給定文本的元素,搜刮不辨別年夜不寫,好比: p:contains(jsoup)
:containsOwn(text): 查找直接包括給定文本的元素
:matches(regex): 查找哪些元素的文本婚配指定的正則表達式,好比:div:matches((?i)login)
:matchesOwn(regex): 查找本身包括文本婚配指定正則表達式的元素
留意:上述偽選擇器索引是從0開端的,也就是說第一個元素索引值為0,第二個元素index為1等
可以檢查Selector API參考來懂得更具體的內容


從元素抽取屬性,文本和HTML

成績
在解析取得一個Document實例對象,並查找到一些元素以後,你願望獲得在這些元素中的數據。

辦法
要獲得一個屬性的值,可使用Node.attr(String key) 辦法
關於一個元素中的文本,可使用Element.text()辦法
關於要獲得元素或屬性中的HTML內容,可使用Element.html(), 或 Node.outerHtml()辦法
示例:


String html = "<p>An <a href='http://www.jb51.net/'><b>www.jb51.net</b></a> link.</p>";
Document doc = Jsoup.parse(html);//解析HTML字符串前往一個Document完成
Element link = doc.select("a").first();//查找第一個a元素

String text = doc.body().text(); // "An www.jb51.net link"//獲得字符串中的文本
String linkHref = link.attr("href"); // "http://www.jb51.net/"//獲得鏈接地址
String linkText = link.text(); // "www.jb51.net""//獲得鏈接地址中的文本

String linkOuterH = link.outerHtml();
    // "<a href="http://www.jb51.net"><b>www.jb51.net</b></a>"
String linkInnerH = link.html(); // "<b>www.jb51.net</b>"//獲得鏈接內的html內容

解釋
上述辦法是元素數據拜訪的焦點方法。另外還其它一些辦法可使用:

Element.id()
Element.tagName()
Element.className() and Element.hasClass(String className)
這些拜訪器辦法都有響應的setter辦法來更改數據.


示例法式: 獲得一切鏈接
這個示例法式將展現若何從一個URL取得一個頁面。然後提取頁面中的一切鏈接、圖片和其它幫助內容。並檢討URLs和文本信息。
運轉上面法式須要指定一個URLs作為參數


package org.jsoup.www.jb51.nets;

import org.jsoup.Jsoup;
import org.jsoup.helper.Validate;
import org.jsoup.nodes.Document;
import org.jsoup.nodes.Element;
import org.jsoup.select.Elements;

import java.io.IOException;

/**
 * www.jb51.net program to list links from a URL.
 */
public class ListLinks {
    public static void main(String[] args) throws IOException {
        Validate.isTrue(args.length == 1, "usage: supply url to fetch");
        String url = args[0];
        print("Fetching %s...", url);

        Document doc = Jsoup.connect(url).get();
        Elements links = doc.select("a[href]");
        Elements media = doc.select("[src]");
        Elements imports = doc.select("link[href]");

        print("\nMedia: (%d)", media.size());
        for (Element src : media) {
            if (src.tagName().equals("img"))
                print(" * %s: <%s> %sx%s (%s)",
                        src.tagName(), src.attr("abs:src"), src.attr("width"), src.attr("height"),
                        trim(src.attr("alt"), 20));
            else
                print(" * %s: <%s>", src.tagName(), src.attr("abs:src"));
        }

        print("\nImports: (%d)", imports.size());
        for (Element link : imports) {
            print(" * %s <%s> (%s)", link.tagName(),link.attr("abs:href"), link.attr("rel"));
        }

        print("\nLinks: (%d)", links.size());
        for (Element link : links) {
            print(" * a: <%s>  (%s)", link.attr("abs:href"), trim(link.text(), 35));
        }
    }

    private static void print(String msg, Object... args) {
        System.out.println(String.format(msg, args));
    }

    private static String trim(String s, int width) {
        if (s.length() > width)
            return s.substring(0, width-1) + ".";
        else
            return s;
    }
}
org/jsoup/www.jb51.nets/ListLinks.java

  1. 上一頁:
  2. 下一頁:
Copyright © 程式師世界 All Rights Reserved