程序師世界是廣大編程愛好者互助、分享、學習的平台,程序師世界有你更精彩!
首頁
編程語言
C語言|JAVA編程
Python編程
網頁編程
ASP編程|PHP編程
JSP編程
數據庫知識
MYSQL數據庫|SqlServer數據庫
Oracle數據庫|DB2數據庫
 程式師世界 >> 編程語言 >> 更多編程語言 >> Python >> PYTHON解析XML的多種方式效率對比實測

PYTHON解析XML的多種方式效率對比實測

編輯:Python

在最初學習PYTHON的時候,只知道有DOM和SAX兩種解析方法,但是其效率都不夠理想,由於需要處理的文件數量太大,這兩種方式耗時太高無法接受。

在網絡搜索後發現,目前應用比較廣泛,且效率相對較高的ElementTree也是一個比較多人推薦的算法,於是拿這個算法來實測對比,ElementTree也包括兩種實現,一個是普通ElementTree(ET),一個是ElementTree.iterparse(ET_iter)。

本文將對DOM、SAX、ET、ET_iter四種方式進行橫向對比,通過處理相同文件比較各個算法的用時來評估其效率。

程序中將四種解析方法均寫為函數,在主程序中分別調用,來評估其解析效率。

解壓後的XML文件內容示例為:

image

主程序函數調用部分代碼為:

    print("文件計數:%d/%d." % (gz_cnt,paser_num))
    str_s,cnt = dom_parser(gz)
    #str_s,cnt = sax_parser(gz)
    #str_s,cnt = ET_parser(gz)
    #str_s,cnt = ET_parser_iter(gz)
    output.write(str_s)
    vs_cnt += cnt

在最初的函數調用中函數返回兩個值,但接收函數調用值時用兩個變量分別調用,導致每個函數都要執行兩次,之後修改為一次調用兩個變量接收返回值,減少了無效調用。

1、DOM解析

函數定義代碼:

def dom_parser(gz):
    import gzip,cStringIO
    import xml.dom.minidom
    
    vs_cnt = 0
    str_s = ''
    file_io = cStringIO.StringIO()
    xm = gzip.open(gz,'rb')
    print("已讀入:%s.\n解析中:" % (os.path.abspath(gz)))
    doc = xml.dom.minidom.parseString(xm.read())
    bulkPmMrDataFile = doc.documentElement
    #讀入子元素
    enbs = bulkPmMrDataFile.getElementsByTagName("eNB")
    measurements = enbs[0].getElementsByTagName("measurement")
    objects = measurements[0].getElementsByTagName("object")
    #寫入csv文件
    for object in objects:
        vs = object.getElementsByTagName("v")
        vs_cnt += len(vs)
        for v in vs:
            file_io.write(enbs[0].getAttribute("id")+' '+object.getAttribute("id")+' '+            object.getAttribute("MmeUeS1apId")+' '+object.getAttribute("MmeGroupId")+' '+object.getAttribute("MmeCode")+' '+            object.getAttribute("TimeStamp")+' '+v.childNodes[0].data+'\n')  #獲取文本值
    str_s = (((file_io.getvalue().replace(' \n','\r\n')).replace(' ',',')).replace('T',' ')).replace('NIL','')
    xm.close()
    file_io.close()
    return (str_s,vs_cnt)

程序運行結果:

**************************************************
程序處理啟動。
輸入目錄為:/tmcdata/mro2csv/input31/。
輸出目錄為:/tmcdata/mro2csv/output31/。
輸入目錄下.gz文件個數為:12,本次處理其中的12個。
**************************************************
文件計數:1/12.
已讀入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.
解析中:
文件計數:2/12.
已讀入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.
解析中:
文件計數:3/12.
已讀入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.
解析中:
………………………………………
文件計數:12/12.
已讀入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.
解析中:
VS行計數:177849,運行時間:107.077867,每秒處理行數:1660。
已寫入:/tmcdata/mro2csv/output31/mro_0001.csv。

**************************************************
程序處理結束。

由於DOM解析需要將整個文件讀入內存,並建立樹結構,其內存消耗和時間消耗都比較高,但其優點在於邏輯簡單,不需要定義回調函數,便於實現。

2、SAX解析

函數定義代碼:

def sax_parser(gz):
    import os,gzip,cStringIO
    from xml.parsers.expat import ParserCreate

    #變量聲明
    d_eNB = {}
    d_obj = {}
    s = ''
    global flag 
    flag = False
    file_io = cStringIO.StringIO()
    
    #Sax解析類
    class DefaultSaxHandler(object):
        #處理開始標簽
        def start_element(self, name, attrs):
            global d_eNB
            global d_obj
            global vs_cnt
            if name == 'eNB':
                d_eNB = attrs
            elif name == 'object':
                d_obj = attrs
            elif name == 'v':
                file_io.write(d_eNB['id']+' '+ d_obj['id']+' '+d_obj['MmeUeS1apId']+' '+d_obj['MmeGroupId']+' '+d_obj['MmeCode']+' '+d_obj['TimeStamp']+' ')
                vs_cnt += 1
            else:
                pass
        #處理中間文本
        def char_data(self, text):
            global d_eNB
            global d_obj
            global flag
            if text[0:1].isnumeric():
                file_io.write(text)
            elif text[0:17] == 'MR.LteScPlrULQci1':
                flag = True
                #print(text,flag)
            else:
                pass
        #處理結束標簽
        def end_element(self, name):
            global d_eNB
            global d_obj
            if name == 'v':
                file_io.write('\n')
            else:
                pass
    
    #Sax解析調用
    handler = DefaultSaxHandler()
    parser = ParserCreate()
    parser.StartElementHandler = handler.start_element
    parser.EndElementHandler = handler.end_element
    parser.CharacterDataHandler = handler.char_data
    vs_cnt = 0
    str_s = ''
    xm = gzip.open(gz,'rb')
    print("已讀入:%s.\n解析中:" % (os.path.abspath(gz)))
    for line in xm.readlines():
        parser.Parse(line) #解析xml文件內容
        if flag:
            break
    str_s = file_io.getvalue().replace(' \n','\r\n').replace(' ',',').replace('T',' ').replace('NIL','')    #寫入解析後內容
    xm.close()
    file_io.close()
    return (str_s,vs_cnt)

程序運行結果:

**************************************************
程序處理啟動。
輸入目錄為:/tmcdata/mro2csv/input31/。
輸出目錄為:/tmcdata/mro2csv/output31/。
輸入目錄下.gz文件個數為:12,本次處理其中的12個。
**************************************************
文件計數:1/12.
已讀入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.
解析中:
文件計數:2/12.
已讀入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.
解析中:
文件計數:3/12.
已讀入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.
解析中:
.........................................
文件計數:12/12.
已讀入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.
解析中:
VS行計數:177849,運行時間:14.386779,每秒處理行數:12361。
已寫入:/tmcdata/mro2csv/output31/mro_0001.csv。

**************************************************
程序處理結束。

SAX解析相比DOM解析,運行時間大幅縮短,由於SAX采用逐行解析,對於處理較大文件其占用內存也少,因此SAX解析是目前應用較多的一種解析方法。其缺點在於需要自己實現回調函數,邏輯較為復雜。

3、ET解析

函數定義代碼:

def ET_parser(gz):
    import os,gzip,cStringIO
    import xml.etree.cElementTree as ET

    vs_cnt = 0
    str_s = ''
    file_io = cStringIO.StringIO()
    xm = gzip.open(gz,'rb')
    print("已讀入:%s.\n解析中:" % (os.path.abspath(gz)))
    tree = ET.ElementTree(file=xm)
    root = tree.getroot()
    for elem in root[1][0].findall('object'):
            for v in elem.findall('v'):
                    file_io.write(root[1].attrib['id']+' '+elem.attrib['TimeStamp']+' '+elem.attrib['MmeCode']+' '+\
                    elem.attrib['id']+' '+ elem.attrib['MmeUeS1apId']+' '+ elem.attrib['MmeGroupId']+' '+ v.text+'\n')
            vs_cnt += 1
    str_s = file_io.getvalue().replace(' \n','\r\n').replace(' ',',').replace('T',' ').replace('NIL','')    #寫入解析後內容
    xm.close()
    file_io.close()
    return (str_s,vs_cnt)

程序運行結果:

**************************************************
程序處理啟動。
輸入目錄為:/tmcdata/mro2csv/input31/。
輸出目錄為:/tmcdata/mro2csv/output31/。
輸入目錄下.gz文件個數為:12,本次處理其中的12個。
**************************************************
文件計數:1/12.
已讀入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.
解析中:
文件計數:2/12.
已讀入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.
解析中:
文件計數:3/12.
已讀入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.
解析中:
...........................................
文件計數:12/12.
已讀入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.
解析中:
VS行計數:177849,運行時間:4.308103,每秒處理行數:41282。
已寫入:/tmcdata/mro2csv/output31/mro_0001.csv。

**************************************************
程序處理結束。

相較於SAX解析,ET解析時間更短,並且函數實現也比較簡單,所以ET具有類似DOM的簡單邏輯實現且匹敵SAX的解析效率,因此ET是目前XML解析的首選。

4、ET_iter解析

函數定義代碼:

def ET_parser_iter(gz):
    import os,gzip,cStringIO
    import xml.etree.cElementTree as ET

    vs_cnt = 0
    str_s = ''
    file_io = cStringIO.StringIO()
    xm = gzip.open(gz,'rb')
    print("已讀入:%s.\n解析中:" % (os.path.abspath(gz)))
    d_eNB = {}
    d_obj = {}
    i = 0
    for event,elem in ET.iterparse(xm,events=('start','end')):
        if i >= 2:
            break        
        elif event == 'start':
                    if elem.tag == 'eNB':
                            d_eNB = elem.attrib
                    elif elem.tag == 'object':
                            d_obj = elem.attrib
        elif event == 'end' and elem.tag == 'smr':
                    i += 1
        elif event == 'end' and elem.tag == 'v':
                    file_io.write(d_eNB['id']+' '+d_obj['TimeStamp']+' '+d_obj['MmeCode']+' '+d_obj['id']+' '+\
                    d_obj['MmeUeS1apId']+' '+ d_obj['MmeGroupId']+' '+str(elem.text)+'\n')
                    vs_cnt += 1
        elem.clear()
    str_s = file_io.getvalue().replace(' \n','\r\n').replace(' ',',').replace('T',' ').replace('NIL','')    #寫入解析後內容
    xm.close()
    file_io.close()
    return (str_s,vs_cnt)

程序運行結果:

**************************************************
程序處理啟動。
輸入目錄為:/tmcdata/mro2csv/input31/。
輸出目錄為:/tmcdata/mro2csv/output31/。
輸入目錄下.gz文件個數為:12,本次處理其中的12個。
**************************************************
文件計數:1/12.
已讀入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_234598_20160224060000.xml.gz.
解析中:
文件計數:2/12.
已讀入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_233798_20160224060000.xml.gz.
解析中:
文件計數:3/12.
已讀入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_123798_20160224060000.xml.gz.
解析中:
...................................................
文件計數:12/12.
已讀入:/tmcdata/mro2csv/input31/TD-LTE_MRO_NSN_OMC_235598_20160224060000.xml.gz.
解析中:
VS行計數:177849,運行時間:3.043805,每秒處理行數:58429。
已寫入:/tmcdata/mro2csv/output31/mro_0001.csv。

**************************************************
程序處理結束。

在引入了ET_iter解析後,解析效率比ET提升了近50%,而相較於DOM解析更是提升了35倍,在解析效率提升的同時,由於其采用了iterparse這個循序解析的工具,其內存占用也是比較小的。

所以,小伙伴們,請好好利用這幾種工具吧。

主程序文件為/linux/os_walk_dom_parser_func.py,測試用mro文件目錄為:/mro

測試用的程序和文件可以到我的github頁面下載,歡迎小伙伴們一起學習討論。

  1. 上一頁:
  2. 下一頁:
Copyright © 程式師世界 All Rights Reserved