這篇文章主要介紹了分析用Python腳本關閉文件操作的機制,作者分Python2.x版本和3.x版本兩種情況進行了闡述,需要的朋友可以參考下
如果不用“with”,那麼Python會在何時關閉文件呢?答案是:視情況而定。
Python程序員最初學到的東西裡有一點就是可以通過迭代法很容易地遍歷一個打開文件的全文:
?
1 2 3 f = open('/etc/passwd') for line in f: print(line)注意上面的代碼具有可行性,因為我們的文件對象“f”是一個迭代器。換句話說,“f“ 知道在一個循環或者任何其他的迭代上下文中做什麼,比如像列表解析。
我的Python課堂上的大多數學生都具有其他編程語言背景,在使用以前所熟悉的語言時,他們總是在完成文件操作時被期望關閉文件。因此,在我向他們介紹了Python文件操作的內容不久後他們問起如何在Python中關閉文件時,我一點都不驚訝。
最簡單的回答就是我們可以通過調用f.close()顯式地關閉文件。一旦我們關閉了文件,該文件對象依然存在,但是我們無法再通過它來讀取文件內容了,而且文件對象返回的可打印內容也表明文件已經被關閉。
?
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 >>> f = open('/etc/passwd') >>> f <open file '/etc/passwd', mode 'r' at 0x10f023270> >>> f.read(5) '##n# ' f.close() >>> f <closed file '/etc/passwd', mode 'r' at 0x10f023270> f.read(5) --------------------------------------------------------------------------- ValueError Traceback (most recent call last) <ipython-input-11-ef8add6ff846> in <module>() ----> 1 f.read(5) ValueError: I/O operation on closed file所以是這樣,我在用Python編程的時候,很少明確地對文件調用 “close” 方法。此外,你也很可能不想或不必那樣做。
打開文件的優選最佳實踐方式是使用 “with” 語句,就像如下所示:
?
1 2 3 with open('/etc/passwd') as f: for line in f: print(line)“with”語句對 “f” 文件對象調用在Python中稱作“上下文管理器”的方法。也就是說,它指定 “f” 為指向 /etc/passwd 內容的新的文件實例。在 “with” 打開的代碼塊內,文件是打開的,而且可以自由讀取。
然而,一旦Python代碼從 “with” 負責的代碼段退出,文件會自動關閉。試圖在我們退出 “with”代碼塊後從 f 中讀取內容會導致和上文一樣的 ValueError 異常。所以,通過使用 “with”,你避免了顯式地關閉文件的操作。Python 會以一種不那麼有 Python 風格的方式在幕後神奇而靜靜地替你關閉文件。
但是你不顯式地關閉文件會怎樣?如果你有點懶,既不使用 “with” 代碼塊也不調用f.close()怎麼辦?這時文件會什麼時候關閉?何時應該關閉文件?
我之所以問這個,是因為我教了這麼多年Python,確信努力教授“with”或上下文管理器的同時又教很多其它的話題超出了學生接受的范圍。在介紹性課程談及 “with” 時,我一般會告訴學生在他們職業生涯中遇到這個問題時,讓Python去關閉文件就好,不論文件對象的應用計數降為0還是Python退出時。
在我的Python文件操作免費e-mail課程中,我並沒有在所有的解決方案中使用with,想看看如何。結果一些人質疑我,說不使用“with”會向人們展示一種糟糕的實踐方案並且會有數據未寫入磁盤的風險。
我收到了很多關於此話題的郵件,於是我問自己:如果我們沒有顯式地關閉文件或者沒用“with”代碼塊,那麼Python會何時關閉文件?也就是說,如果我讓文件自動關閉,那麼會發生什麼?
我總是假定當對象的引用計數降為0時,Python會關閉文件,進而垃圾回收機制清理文件對象。當我們讀文件時很難證明或核實這一點,但寫入文件時卻很容易。這是因為當寫入文件時,內容並不會立即刷新到磁盤(除非你向“open”方法的第三個可選參數傳入“False”),只有當文件關閉時才會刷新。
於是我決定做些實驗以便更好地理解Python到底能自動地為我做什麼。我的實驗包括打開一個文件、寫入數據、刪除引用和退出Python。我很好奇數據是什麼時候會被寫入,如果有的話。
我的實驗是這個樣子:
?
1 2 3 4 5 6 7 8 f = open('/tmp/output', 'w') f.write('abcn') f.write('defn') # check contents of /tmp/output (1) del(f) # check contents of /tmp/output (2) # exit from Python # check contents of /tmp/output (3)我在Mac平台上用Python 2.7.9 做了第一個實驗,報告顯示在階段一文件存在但是是空的,階段二和階段三中文件包含所有的內容。這樣,在CPython 2.7中我最初的直覺似乎是正確的:當一個文件對象被垃圾回收時,它的 __del__ (或者等價的)方法會刷新並關閉文件。而且在我的IPython進程中調用“lsof”命令顯示文件確實在引用對象移除後被關閉了。
那 Python3 如何呢?我在Mac上 Python 3.4.2 環境下做了以上的實驗,得到了相同的結果。移除對文件對象最後的引用後會導致文件被刷新並且被關閉。
這對於 Python 2.7 和 3.4 很好。但是在 PyPy 和 Jython下的替代實現會怎樣呢?或許情況會有些不同。
於是我在 PyPy 2.7.8 下做了相同的實驗。而這次,我得到了不同的結果!刪除文件對象的引用後——也就是在階段2,並沒有導致文件內容被刷入磁盤。我不得不假設這和垃圾回收機制的不同或其他在 PyPy 和 CPython中工作機制的不同有關系。但是如果你在 PyPy中運行程序,就絕不要指望僅僅因為文件對象的引用結束,文件就會被刷新和關閉。命令 lsof 顯示直到Python進程退出時文件才會被釋放。
為了好玩,我決定嘗試一下 Jython 2.7b3. 結果Jython 表現出了和PyPy一樣的行為。也就是說,從 Python 退出確實會確保緩存中的數據寫入磁盤。
我重做了這些實驗,但是我把 “abcn”和 “defn”換成了 “abcn”*1000 和“defn”*1000.
在 Python 2.7 的環境下,“abcn” * 1000 語句執行後沒有任何東西寫入。但“defn” * 1000 語句執行後,文件包含有4096個字節——可能代表緩沖區的大小。調用 del(f) 刪除文件對象的引用導致數據被刷入磁盤和文件關閉,此時文件中共有8000字節的數據。所以忽略字符串大小的話 Python 2.7 的行為表現基本相同。唯一不同的是如果超出了緩沖區的大小,那麼一些數據將在最後文件關閉數據刷新前寫入磁盤。
換做是Python 3的話,情況就有些不同了。f.write執行後沒有任何數據會寫入。但是文件對象引用一旦結束,文件就會刷新並關閉。這可能是緩沖區很大的緣故。但毫無疑問,刪除文件對象引用會使文件刷新並關閉。
至於 PyPy 和 Jython,對大文件和小文件的操作結果都一樣:文件在 PyPy 或 Jython 進程結束的時候刷新並關閉,而不是在文件對象的引用結束的時候。
為了再次確認,我又使用 “with” 進行了實驗。在所有情況下,我們都能夠輕松的預測文件是何時被刷新和關閉的——就是當退出代碼段,並且上下文管理器在後台調用合適方法的時候。
換句話說,如果你不使用“with”,那麼至少在非常簡單的情形下,你的數據不一定有丟失的危險。然而你還是不能確定數據到底是在文件對象引用結束還是程序退出的時候被保存的。如果你假定因為對文件唯一的引用是一個本地變量所以文件在函數返回時會關閉,那麼事實一定會讓你感到吃驚。如果你有多個進程或線程同時對一個文件進行寫操作,那麼你真的要非常小心了。
或許這個行為可以更好地定義不就可以在不同的平台上表現得基本一致了嗎?也許我們甚至可以看看Python規范的開始,而不是指著CPython說“Yeah,不管版本如何總是對的”。
我依然覺得“with”和上下文管理器很棒。而且我想對於Python新手,理解“with”的工作原理很難。但我還是不得不提醒新手開發者注意:如果他們決定使用Python的其他可選版本,那麼會出現很多不同於CPython的古怪情況而且如果他們不夠小心,甚至會深受其害。