当我们用System.IO.StreamReader读取包含汉字的txt文件时,经常会读出乱码(StreamWriater写文本文件也有类似的问题),原因很简单,就是文件的编码(encoding)和StreamReader/Writer的encoding不对应。为了解决这个问题,我写了一个类,来取得一个文本文件的encoding,这样我们就可以创建对应的StreamReader和StreamWriter来读写,保证不会出现乱码现象。其实原理很简单,文本编辑器(比如XP自带的记事本)在生成文本文件时,如果编码格式和系统默认的编码(中文系统下默认为GB2312)不一致时,会在txt文件开头部分添加特定的“编码字节序标识(Encoding Bit Order Madk,简写为BOM)”,类似PE格式的"MZ"文件头。这样它在读取时就可以根据这个BOM来确定该文本文件生成时所使用的Encoding。这个BOM我们用记事本等程序打开默认是看不到的,但是用stream按字节读取时是可以读到的。我的这个TxtFileEncoding类就是根据这个BOM“文件头”来确定txt文件生成时用到的编码的。


using System;
using System.Text;
using System.IO;
namespace Text
{
	/// <summary>
	/// 用于取得一个文本文件的编码方式(Encoding)。
	/// </summary>
	public class TxtFileEncoding
	{
		public TxtFileEncoding()
		{
			//
			// TODO: 在此处添加构造函数逻辑
			//
		}
		/// <summary>
		/// 取得一个文本文件的编码方式。如果无法在文件头部找到有效的前导符,Encoding.Default将被返回。
		/// </summary>
		/// <param name="fileName">文件名。</param>
		/// <returns></returns>
		public static Encoding GetEncoding(string fileName)
		{
			return GetEncoding(fileName, Encoding.Default);
		}
		/// <summary>
		/// 取得一个文本文件流的编码方式。
		/// </summary>
		/// <param name="stream">文本文件流。</param>
		/// <returns></returns>
		public static Encoding GetEncoding(FileStream stream)
		{
			return GetEncoding(stream, Encoding.Default);
		}
		/// <summary>
		/// 取得一个文本文件的编码方式。
		/// </summary>
		/// <param name="fileName">文件名。</param>
		/// <param name="defaultEncoding">默认编码方式。当该方法无法从文件的头部取得有效的前导符时,将返回该编码方式。</param>
		/// <returns></returns>
		public static Encoding GetEncoding(string fileName, Encoding defaultEncoding)
		{
			FileStream fs = new FileStream(fileName, FileMode.Open);
			Encoding targetEncoding = GetEncoding(fs, defaultEncoding);
			fs.Close();
			return targetEncoding;
		}
		/// <summary>
		/// 取得一个文本文件流的编码方式。
		/// </summary>
		/// <param name="stream">文本文件流。</param>
		/// <param name="defaultEncoding">默认编码方式。当该方法无法从文件的头部取得有效的前导符时,将返回该编码方式。</param>
		/// <returns></returns>
		public static Encoding GetEncoding(FileStream stream, Encoding defaultEncoding)
		{
			Encoding targetEncoding = defaultEncoding;
			if (stream != null && stream.Length >= 2)
			{
				//保存文件流的前4个字节
				byte byte1 = 0;
				byte byte2 = 0;
				byte byte3 = 0;
				byte byte4 = 0;
				//保存当前Seek位置
				long origPos = stream.Seek(0, SeekOrigin.Begin);
				stream.Seek(0, SeekOrigin.Begin);

				int nByte = stream.ReadByte();
				byte1 = Convert.ToByte(nByte);
				byte2 = Convert.ToByte(stream.ReadByte());
				if (stream.Length >= 3)
				{
					byte3 = Convert.ToByte(stream.ReadByte());
				}
				if (stream.Length >= 4)
				{
					byte4 = Convert.ToByte(stream.ReadByte());
				}
				//根据文件流的前4个字节判断Encoding
				//Unicode {0xFF, 0xFE};
				//BE-Unicode {0xFE, 0xFF};
				//UTF8 = {0xEF, 0xBB, 0xBF};
				if (byte1 == 0xFE && byte2 == 0xFF)//UnicodeBe
				{
					targetEncoding = Encoding.BigEndianUnicode;
				}
				if (byte1 == 0xFF && byte2 == 0xFE && byte3 != 0xFF)//Unicode
				{
					targetEncoding = Encoding.Unicode;
				}
				if (byte1 == 0xEF && byte2 == 0xBB && byte3 == 0xBF)//UTF8
				{
					targetEncoding = Encoding.UTF8;
				}
				//恢复Seek位置
				stream.Seek(origPos, SeekOrigin.Begin);
			}
			return targetEncoding;
		}

		// 新增加一个方法,解决了不带BOM的 UTF8 编码问题

		/// <summary>
		/// 通过给定的文件流,判断文件的编码类型
		/// </summary>
		/// <param name="fs">文件流</param>
		/// <returns>文件的编码类型</returns>
		public static System.Text.Encoding GetEncoding(Stream fs)
		{
			byte[] Unicode = new byte[] { 0xFF, 0xFE, 0x41 };
			byte[] UnicodeBIG = new byte[] { 0xFE, 0xFF, 0x00 };
			byte[] UTF8 = new byte[] { 0xEF, 0xBB, 0xBF }; //带BOM
			Encoding reVal = Encoding.Default;

			BinaryReader r = new BinaryReader(fs, System.Text.Encoding.Default);
			byte[] ss = r.ReadBytes(4);
			if (ss[0] == 0xFE && ss[1] == 0xFF && ss[2] == 0x00)
			{
				reVal = Encoding.BigEndianUnicode;
			}
			else if (ss[0] == 0xFF && ss[1] == 0xFE && ss[2] == 0x41)
			{
				reVal = Encoding.Unicode;
			}
			else
			{
				if (ss[0] == 0xEF && ss[1] == 0xBB && ss[2] == 0xBF)
				{
					reVal = Encoding.UTF8;
				}
				else
				{
					int i;
					int.TryParse(fs.Length.ToString(), out i);
					ss = r.ReadBytes(i);

					if (IsUTF8Bytes(ss))
						reVal = Encoding.UTF8;
				}
			}
			r.Close();
			return reVal;

		}

		/// <summary>
		/// 判断是否是不带 BOM 的 UTF8 格式
		/// </summary>
		/// <param name="data"></param>
		/// <returns></returns>
		private static bool IsUTF8Bytes(byte[] data)
		{
			int charByteCounter = 1;  //计算当前正分析的字符应还有的字节数
			byte curByte; //当前分析的字节.
			for (int i = 0; i < data.Length; i++)
			{
				curByte = data[i];
				if (charByteCounter == 1)
				{
					if (curByte >= 0x80)
					{
						//判断当前
						while (((curByte <<= 1) & 0x80) != 0)
						{
							charByteCounter++;
						}
						//标记位首位若为非0 则至少以2个1开始 如:110XXXXX...........1111110X 
						if (charByteCounter == 1 || charByteCounter > 6)
						{
							return false;
						}
					}
				}
				else
				{
					//若是UTF-8 此时第一位必须为1
					if ((curByte & 0xC0) != 0x80)
					{
						return false;
					}
					charByteCounter--;
				}
			}
			if (charByteCounter > 1)
			{
				throw new Exception("非预期的byte格式!");
			}
			return true;
		}
	}
}
由于在GB2312和UTF7编码都没有BOM,所以需要指定一个默认的Encoding,在找不到合法的BOM时,将返回这个Encoding。有谁知道如何区分GB2312和UTF7编码txt文件的方法,也请告诉我。
由于只是static方法,所以不用new,直接通过类名调用方法,使用起来也很简单。



using System;
using Text;
using System.Text;
using System.IO;
namespace ConsoleApplication1
{
	/// <summary>
	/// Class1 的摘要说明。
	/// </summary>
	class Class1
	{
		/// <summary>
		/// 应用程序的主入口点。
		/// </summary>
		[STAThread]
		static void Main(string[] args)
		{
			//
			// TODO: 在此处添加代码以启动应用程序
			//
			string fileName = @"e:\a.txt";
			//生成一个big endian Unicode编码格式的文本文件
			StreamWriter sw = new StreamWriter(fileName, false, Encoding.BigEndianUnicode);//你可以试试其他编码,比如Encoding.GetEncoding("GB2312")或UTF8
			sw.Write("这是一个String");
			sw.Close();

			//读取
			Encoding fileEncoding = TxtFileEncoding.GetEncoding(fileName, Encoding.GetEncoding("GB2312"));//取得这txt文件的编码
			Console.WriteLine("这个文本文件的编码为:" + fileEncoding.EncodingName);
			StreamReader sr = new StreamReader(fileName, fileEncoding);//用该编码创建StreamReader

			//用下面的方法虽然可以让系统自动判断文本文件的编码格式,但是我们无法取得该文本文件的编码
			//sr.CurrentEncoding永远为 Unicode(UTF-8)
			//StreamReader sr = new StreamReader(fileName, true);
			//Console.WriteLine("这个文本文件的编码为:" + sr.CurrentEncoding.EncodingName);
			Console.WriteLine("这个文本文件的内容为:" + sr.ReadToEnd());
			sr.Close();
			Console.ReadLine();
		}
	}
}
.NET下的string永远是Unicode的,所以只能判断txt文件的Encoding。对于byte[],只有自己知道它的Encoding才能转换为string 转换为其他编码的byte[],一个例外是把整个txt文件通过stream读入byte[]后也可以根据它的前几个字节判断Encoding,对于片断,我们就无能为力了:)


CSharp .Net C# Encoding 最后修改于 2014-04-03 10:28:17
上一篇