likes
comments
collection
share

json_encode 使用 JSON_UNESCAPED_UNICODE

作者站长头像
站长
· 阅读数 29

提出问题

PHP 原生的 json_encode 方法对中文进行编码的时候，不加参数 JSON_UNESCAPED_UNICODE 得到一串类 \uXXXX 的字符串，加参数则是我们通常看到的中文，发生了什么？

确认现象

//1.php
<?php
echo json_encode('好');

# php 1.php > 1.txt

# ls -l 1.txt
-rw-r--r-- 1 root root 8 Jun 12 15:21 1.txt

# cat 1.txt
"\u597d"
//2.php
<?php
echo json_encode('好', JSON_UNESCAPED_UNICODE);

php 2.php > 2.txt

# ls -l 2.txt
-rw-r--r-- 1 root root 5 Jun 12 15:23 2.txt

# cat 2.txt
"好"

先说结论

我们通常使用的 json 格式都是 utf-8 编码，但它认可 utf-16 编码的转义。即，

展示正常的 好 是utf-8编码；

\u597d 单个字符(有6个)拎出来传输的时候也都是 utf-8 编码，但在具体解析的时候，判断出有转义，将\、u、5、9、7、d这6个字符合在一起，作为utf-16编码。

json_encode 加参数 JSON_UNESCAPED_UNICODE，不对字符进行 utf-16 转义，直接使用 utf-8。由于没有使用转义，整个字符串大小也由8字节变小为5字节。原因是转义字符 \u597d 中每个字符占了1字节，一共是6字节，而 好 的utf-8编码只有3字节，少用了3字节。

验证

hexdump 可以查看文本文件以二进制格式。以下的 -c 参数，如果对应单字节有符合的 ascii 码，会直接以 ascii 码格式展示，否则以相应的八进制数展示；-b 参数，完全以8进制数展示每个字节。

# hexdump -c 1.txt
0000000   "   \   u   5   9   7   d   "       
0000008

//八进制格式
# hexdump -b 1.txt
0000000 042 134 165 065 071 067 144 042       
0000008


# hexdump -c 2.txt
0000000   " 345 245 275   "         
0000005

//八进制格式
# hexdump -b 2.txt
0000000 042 345 245 275 042          
0000005
以上使用 od -w1 -b 2.txt 有同 hexdump 差不多的效果

从上面输出不难看出，好 对应的字节八进制数应该就是 345、245、275。

转换成二进制，分别是 11100101、10100101、10111101。

二进制还可以转换成16进制数，但此处有一个字节序大小端的顾虑，哪一头开始的呢，是 275 还是 345 对应的是开头？

突破口是 好 对应的是3字节，3字节的 utf-8 编码对应的开头一定是1110（参见阮一峰的字符编码笔记：ASCII，Unicode 和 UTF-8），正好是345的开头，且字节内部也是大端。确定大端后，再联想到常说的网络字节序是大端。看了 json标准，utf-16、utf-32 都有大小端的区分，唯独 utf-8 没有，那么 utf-8 编码的 json 应该就是大端的了。(也想不出如果是小端的话，多字节字符怎么判断的好)

将二进制转换成16进制，分别是 E5、A5、BD，

找一个在线编码转换的验证 验证有没有转错了，得到结果：

字符 编码10进制 编码16进制 Unicode编码10进制 Unicode编码16进制
好 15050173 E5A5BD 22909 597D

E5A5BD 对上了。

另一个在线的编码转换网站 得到的转换结果是 &#x597D;，这实际上 utf-8 对应的 unicode码点，不是想要的 utf-8 编码，严重误导人，网上好些在线编码网站都是这样。

一些定义说明

  1. json 是一种传输协议，规定了一种文本组织结构，用于交互。json 常用 utf-8 编码, 但不是必须。
  2. unicode 是一个标准，为每一个字符唯一对应定义一个 unicode码点。
  3. utf-8、utf-16 等是针对 unicode码点 的编码方式。比如 utf-8 编码对应的字节数在1-4字节，由于短字节数量更少，所以优先分配给了越常使用的字符(unicode码点)。

参考