當我們用System.IO.StreamReader讀取包含漢字的txt文件時,經常會讀出亂碼(StreamWriater寫文本文件也
有類似的問題),原因很簡單,就是文件的編碼(encoding)和StreamReader/Writer的encoding不對應。
為了解決這個問題,我寫了一個類,來取得一個文本文件的encoding,這樣我們就可以創建對應的
StreamReader和StreamWriter來讀寫,保證不會出現亂碼現象。其實原理很簡單,文本編輯器(比如XP自帶的記事
本)在生成文本文件時,如果編碼格式和系統默認的編碼(中文系統下默認為GB2312)不一致時,會在txt文件開頭
部分添加特定的“編碼字節序標識(Encoding Bit Order Madk,簡寫為BOM)”,類似PE格式的"MZ"文件頭。這樣
它在讀取時就可以根據這個BOM來確定該文本文件生成時所使用的Encoding。這個BOM我們用記事本等程序打開默認
是看不到的,但是用stream按字節讀取時是可以讀到的。我的這個TxtFileEncoding類就是根據這個BOM“文件頭”
來確定txt文件生成時用到的編碼的。
// 作者:袁曉輝
http://www.mscto.com
// 2005-8-8
// // // // // //
using System;
using System.Text;
using System.IO;
namespace Farproc.Text
{
///
http://www.mscto.com
/// 用於取得一個文本文件的編碼方式(Encoding)。
///
public class TxtFileEncoding
{
public TxtFileEncoding()
{
//
// TODO: 在此處添加構造函數邏輯
//
}
///
/// 取得一個文本文件的編碼方式。如果無法在文件頭部找到有效的前導符,Encoding.Default將被返回。
///
/// 文件名。
///
public static Encoding GetEncoding(string fileName)
{
return GetEncoding(fileName, Encoding.Default);
}
///
/// 取得一個文本文件流的編碼方式。
///
/// 文本文件流。
///
public static Encoding GetEncoding(FileStream stream)
http://www.mscto.com
{
return GetEncoding(stream, Encoding.Default);
http://www.mscto.com
}
///
/// 取得一個文本文件的編碼方式。
///
/// 文件名。
/// 默認編碼方式。當該方法無法從文件的頭部取得有效的前導符時,將返回該編碼方式。
///
public static Encoding GetEncoding(string fileName, Encoding defaultEncoding)
{
FileStream fs = new FileStream(fileName, FileMode.Open);
Encoding targetEncoding = GetEncoding(fs, defaultEncoding);
fs.Close();
return targetEncoding;
} http://www.mscto.com
///
/// 取得一個文本文件流的編碼方式。
http://www.mscto.com
///
/// 文本文件流。
/// 默認編碼方式。當該方法無法從文件的頭部取得有效的前導符時,將返回該編碼方式。
///
public static Encoding GetEncoding(FileStream stream, Encoding defaultEncoding)
{
Encoding targetEncoding = defaultEncoding;
if(stream != null && stream.Length >= 2)
{
//保存文件流的前4個字節
byte byte1 = 0;
byte byte2 = 0;
byte byte3 = 0;
byte byte4 = 0;
//保存當前Seek位置
long origPos = stream.Seek(0, SeekOrigin.Begin);
stream.Seek(0, SeekOrigin.Begin);
int nByte = stream.ReadByte();
byte1 = Convert.ToByte(nByte);
byte2 = Convert.ToByte(stream.ReadByte());
if(stream.Length >= 3)
{
byte3 = Convert.ToByte(stream.ReadByte());
http://www.mscto.com
}
if(stream.Length >= 4)
{
byte4 = Convert.ToByte(stream.ReadByte());
http://www.mscto.com
}
http://www.mscto.com
//根據文件流的前4個字節判斷Encoding
//Unicode {0xFF, 0xFE};
//BE-Unicode {0xFE, 0xFF};
//UTF8 = {0xEF, 0xBB, 0xBF}; http://www.mscto.com
if(byte1 == 0xFE && byte2 == 0xFF)//UnicodeBe
{
targetEncoding = Encoding.BigEndianUnicode;
}
if(byte1 == 0xFF && byte2 == 0xFE && byte3 != 0xFF)//Unicode
{
targetEncoding = Encoding.Unicode;
}
if(byte1 == 0xEF && byte2 == 0xBB && byte3 == 0xBF)//UTF8
{
targetEncoding = Encoding.UTF8;
}
//恢復Seek位置
stream.Seek(origPos, SeekOrigin.Begin);
http://www.mscto.com
}
return targetEncoding;
}
}
} http://www.mscto.com
由於在GB2312和UTF7編碼都沒有BOM,所以需要指定一個默認的Encoding,在找不到合法的BOM時,將返回這個 http://www.mscto.com
Encoding。有誰知道如何區分GB2312和UTF7編碼txt文件的方法,也請告訴我。
由於只是static方法,所以不用new,直接通過類名調用方法,使用起來也很簡單。
using System;
using Farproc.Text;
http://www.mscto.com
using System.Text; http://www.mscto.com
using System.IO;
namespace ConsoleApplication1
{
///
/// Class1 的摘要說明。
///
class Class1
{
///
/// 應用程序的主入口點。
///
[STAThread]
static void Main(string[] args)
{
//
// TODO: 在此處添加代碼以啟動應用程序
//
string fileName = @"e:\a.txt";
//生成一個big endian Unicode編碼格式的文本文件
StreamWriter sw = new StreamWriter(fileName, false, Encoding.BigEndianUnicode);//你可以試試其他編碼,比如Encoding.GetEncoding("GB2312")或UTF8
sw.Write("這是一個String");
http://www.mscto.com
sw.Close();
//讀取
Encoding fileEncoding = TxtFileEncoding.GetEncoding(fileName, Encoding.GetEncoding("GB2312"));//取得這txt文件的編碼
Console.WriteLine("這個文本文件的編碼為:" fileEncoding.EncodingName);
StreamReader sr = new StreamReader(fileName, fileEncoding);//用該編碼創建StreamReader
//用下面的方法雖然可以讓系統自動判斷文本文件的編碼格式,但是我們無法取得該文本文件的編碼
//sr.CurrentEncoding永遠為 Unicode(UTF-8)
//StreamReader sr = new StreamReader(fileName, true);
//Console.WriteLine("這個文本文件的編碼為:" sr.CurrentEncoding.EncodingName);
Console.WriteLine("這個文本文件的內容為:" sr.ReadToEnd());
sr.Close();
Console.ReadLine();
http://www.mscto.com
}
}
}
.Net下的string永遠是Unicode的,所以只能判斷txt文件的Encoding。對於byte[],只有自己知道它的
Encoding才能轉換為string 轉換為其他編碼的byte[],一個例外是把整個txt文件通過stream讀入byte[]後也可以根據它的前幾個字節判斷
Encoding,對於片斷,我們就無能為力了:)