PHP实现Unicode和Utf-8互相转换

  一. 编码原理及实现

  unicode编码是实现utf-8与gb系列编码(gb23十二、gbk、gb18030)转换的基础，虽然咱们也能够直接作一个utf-8到这些编码 的对照表，但不多有人会这么作，由于utf-8的可变编码具备不肯定性，所以通常状况使用都是unicode与gb编码的对照 表，unicode(UCS-2)其实是utf-8的基础编码，utf-8只是它的一种实现而已，二者存在下面的对应关系：

Unicode符号范围           | UTF-8编码方式

u0000 0000 - u0000 007F   | 0xxxxxxx

u0000 0080 - u0000 07FF   | 110xxxxx 10xxxxxx

u0000 0800 - u0000 FFFF   | 1110xxxx 10xxxxxx 10xxxxxx

  因为目前utf-8使用的字符都是居于UCS-2的，所以对于4-6字节编码的状况是没必要考虑的，一样地，在反向转换的时候，若是出现四字节以上的 utf-8字符，能够直接视为乱码忽略掉或转为unicode实体形式("&#long int;"形式)，而后交给浏览器或相关解析程序去处理，用php把unicode转为utf-8编码的算法以下：

/*   * 参数 $c 是unicode字符编码的int类型数值，若是是用二进制读取的数据，在php中一般要用 hexdec(bin2hex( $bin_unichar )) 这样转换   */ function uni2utf8( $c ) {    if ( $c < 0x80)    {          $utf8char = chr ( $c );    }    else if ( $c < 0x800)    {          $utf8char = chr (0xC0 | $c >> 0x06). chr (0x80 | $c & 0x3F);    }    else if ( $c < 0x10000)    {          $utf8char = chr (0xE0 | $c >> 0x0C). chr (0x80 | $c >> 0x06 & 0x3F). chr (0x80 | $c & 0x3F);    }    //由于UCS-2只有两字节，因此后面的状况是不可能出现的，这里只是说明unicode HTML实体编码的用法。    else    {          $utf8char = "&#{$c};" ;    }    return $utf8char ; }

在目前的环境范围内，能够认为 utf-8字符集==unicode(UCS-2)，但从理论上，主要字符集之关的包含关系以下：

utf-8 > unicode(UCS-2) > gb18030 > gbk > gb2312

所以，若是编码都正确的状况下：

gb2312 => gbk => gb18030 => unicode(UCS-2) => utf-8

这样的一个转变过程，基本上是无损的，但反而言之，由

utf-8 => unicode(UCS-2) => gb18030=> gbk => gb2312

这样的转变过程，是极可能存在不能识别的字符的，所以，若是对于使用utf-8编码的系统，尽可能不要轻易的去作反向转换编码的操做。

二. 用PHP将Unicode 转化为UTF-8另一种方法:

function unescape( $str ) {      $str = rawurldecode( $str );      preg_match_all( "/(?:%u.{4})|&#x.{4};|&#\d+;|.+/U" , $str , $r );      $ar = $r [0];      //print_r($ar);      foreach ( $ar as $k => $v ) {          if ( substr ( $v ,0,2) == "%u" ){              $ar [ $k ] = iconv( "UCS-2BE" , "UTF-8" ,pack( "H4" , substr ( $v ,-4)));    }          elseif ( substr ( $v ,0,3) == "&#x" ){              $ar [ $k ] = iconv( "UCS-2BE" , "UTF-8" ,pack( "H4" , substr ( $v ,3,-1)));    }          elseif ( substr ( $v ,0,2) == "&#" ) {              $ar [ $k ] = iconv( "UCS-2BE" , "UTF-8" ,pack( "n" , substr ( $v ,2,-1)));          }      }      return join( "" , $ar ); }

Linux 服务器上 UCS-2 编码方式与 Winodws 不一致,如下是有关两个平台 UCS-2 编码的潜规则：

1. UCS-2 不等于 UTF-16。 UTF-16 每一个字节使用 ASCII 字符范围编码，而 UCS-2 对每一个字节的编码能够超出 ASCII 字符范围。UCS-2 和 UTF-16 对每一个字符至多占两个字节，可是他们的编码是不同的。

2. 对于 UCS-2, windows 下默认是 UCS-2LE。用 MultibyteToWidechar（或者A2W）生成的是 UCS-2LE 的 unicode。windows记事本能够将文本保存为 UCS-2BE，至关于多了层转换。

3. 对于 UCS-2, linux 下默认是 UCS-2BE。用iconv(指定UCS-2)来转换生成的是 UCS-2BE 的 unicode。若是转换windows平台过来的 UCS-2, 须要指定 UCS-2LE。

4. 鉴于windows和linux等多个平台对 UCS-2 的理解不一样（UCS-2LE,UCS-2BE）。MS 主张 unicode 有个引导标志(UCS-2LE FFFE, UCS-2BE FEFF)，以代表下面的字符是 unicode 而且判别 big-endian 或 little-endian。 因此从 windows 平台过来的数据发现有这个前缀，不用慌张。

5. linux 的编码输出，好比从文件输出，从 printf 输出，须要控制台作适当的编码匹配（若是编码不匹配，通常和该程序编译时的编码有若干关系），而控制台的转换输入须要查看当前的系统编码。好比控制台当前 的编码是 UTF-8, 那么 UTF-8 编码的东西能正确显示，GBK 就不能；一样，当前编码是 GBK, 就能显示 GBK 编码，后来的系统应该更智能的处理好更多的转换了。不过经过 putty 等终端仍是须要设置好终端的编码转换以解除乱码的烦恼。

三.再提供一对PHP中对汉字进行UNICODE完整的编码和解码的实现供参考:

//将内容进行UNICODE编码

function unicode_encode( $name )

{

     $name = iconv( 'UTF-8' , 'UCS-2' , $name );

     $len = strlen ( $name );

     $str = '' ;

     for ( $i = 0; $i < $len - 1; $i = $i + 2)

     {

         $c = $name [ $i ];

         $c2 = $name [ $i + 1];

         if (ord( $c ) > 0)

         {  

             // 两个字节的文字

             $str .= '\u' . base_convert (ord( $c ), 10, 16). base_convert (ord( $c2 ), 10, 16);

         }

         else

         {

             $str .= $c2 ;

         }

     }

     return $str ;

}

// 将UNICODE编码后的内容进行解码

function unicode_decode( $name )

{

     // 转换编码，将Unicode编码转换成能够浏览的utf-8编码

     $pattern = '/([\w]+)|(\\\u([\w]{4}))/i' ;

     preg_match_all( $pattern , $name , $matches );

     if (! empty ( $matches ))

     {

         $name = '' ;

         for ( $j = 0; $j < count ( $matches [0]); $j ++)

         {

             $str = $matches [0][ $j ];

             if ( strpos ( $str , '\\u' ) === 0)

             {

                 $code = base_convert ( substr ( $str , 2, 2), 16, 10);

                 $code2 = base_convert ( substr ( $str , 4), 16, 10);

                 $c = chr ( $code ). chr ( $code2 );

                 $c = iconv( 'UCS-2' , 'UTF-8' , $c );

                 $name .= $c ;

             }

             else

             {

                 $name .= $str ;

             }

         }

     }

     return $name ;

}