unicode utf8 转换 字符集Unicode与UTF-8之间的转换.doc

unicode utf8 转换 字符集Unicode与UTF-8之间的转换 导读：就爱阅读网友为您分享以下“字符集Unicode与UTF-8之间的转换”资讯，希望对您有所帮助，感谢您对92的支持! [字符集]Unicode和UTF-8之间的转换详解 最近在用VC++开发一个小工具，平时用惯了.NET，用起VC++最郁闷的就是字符串处理。当然最最让人难于琢磨的就是字符集，编码之间的转换。通过这几天的研究，终于明白了 Unicode和UTF-8之间编码的区别。Unicode是一个字符集，而UTF-8是Unicode的其中一种，Unicode是定长的都为双字节，而UTF-8是可变的，对于汉字来说Unicode占有的字节比UTF-8占用的字节少1个字节。Unicode为双字节，而UTF-8中汉字占三个字节。 UTF-8编码字符理论上可以最多到6个字节长,然而16位BMP（Basic Multilingual Plane）字符最多只用到3字节长。下面看一下UTF-8编码表： U- U-0000007F: 0xxxxxxx U- U-000007FF: 110xxxxx 10xxxxxx U- U-0000FFFF: 1110xxxx 10xxxxxx 10xxxxxx U- U-001FFFFF: 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx U- U-03FFFFFF: 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx U- U-7FFFFFFF: 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx xxx 的位置由字符编码数的二进制表示的位填入， 越靠右的 x 具有越少的特殊意义，只用最短的那个足够表达一个字符编码数的多字节串。 注意在多字节串中, 第一个字节的开头”1”的数目就是整个串中字节的数目。而第一行中以0开头，是为了兼容ASCII编码，为一个字节，第二行就为双字节字符串，第三行为3字节，如汉字就属于这种，以此类推。(个人认为：其实我们可以简单的把前面的1的个数看成字节数) 为了要将Unicode转换为UTF-8，当然要知道他们的区别到底在什么地方。下面来看一下，在Unicode中的编码是怎样转换成UTF-8的，在UTF-8中，如果一个字符的字节小于0x80（128）则为ASCII字符，占一个字节，可以不用转换，因为UTF-8兼容ASCII编码。假如在Unicode中汉字“你”的编码为“u4F60”，把它转换为二进制为100111101100000，然后按照UTF-8的方法进行转换。可以将Unicode二进制从地位往高位取出二进制数字，每次取6位，如上述的二进制就可以分别取出为如下所示的格式，前面按格式填补，不足8位用0填补。 unicode: 100111101100000 4F60 utf-8: 10111101 E4BDA0 从上面就可以很直观的看出Unicode到UTF-8之间的转换，当然知道了UTF-8的格式后，就可以进行逆运算，就是按照格式把它在二进制中的相应位置上取出，然后在转换就是所得到的Unicode字符了（这个运算可以通过“位移”来完成）。 如上述的“你”的转换，由于其值大于0x800小于0x10000，因此可以判断为三字节存储，则最高位需要向右移“12”位再根据三字节格式的最高位0xE0）求或（|）就可以得到最高位的值了。同理第二位则是右移“6”位，则还剩下最高位和第二位的二进制值，可以通过与111111（0x3F）求按位于（）操作，再0x80）求或（|）。第三位就不用移位了，只要直接取最后六位（与111111（ox3F）取），在0x80)求或（|）。OK了，转换成功！在VC++中的代码如下所示（Unicode到UTF-8的转换）。 1 const wchar_t pUnicode = L”你”; 2 char utf8[3+1]; 3 memset(utf8,0,4); 4 utf8[0] = 0xE0|(pUnicodegt;gt;12); 5 utf8[1] = 0x80|((pUnicodegt;gt;6)0x3F); 6 utf8[2] = 0x80|(pUnicode0x3F); 7 utf8[3] = “\0”; 8 //char[4]就是UTF-8的