|
|
发表于 2022-9-11 21:05:01
|
查看: 1318 |
回复: 0
转载请注明文章出处:https://itlanyan.com/string-unicode-utf8-converter/
1 i! ~$ h8 ]+ {1 l: B想知道某个字符串的UTF8编码,图方便打算使用在线工具。坑爹的是,号称“UTF8汉字互转”的网页几乎全是字符串和unicode码点互转,并不提供与UTF8编码互转功能。没搞懂unicode码点(code point)和UTF8编码的关系,还大言不惭的说UTF8编码,真让人无语。
: e+ M; v% L5 n. U
8 s9 C$ J% J) J ]3 M2 L. P2 l+ ]5 L# A" g4 R
$ d/ n: S, N$ m1 }+ W4 M' e% ~
8 a( e' L7 c1 o5 ~( _5 W( m" Q" @
7 r7 y" P/ S. ]7 `& q字符、字节和字节序,unicode和UTF8编码,是理解字符编码重要的概念,详情可查看本人之前博文文件和字符编码。本文讨论unicode和UTF8之间的转换,先简要介绍两个概念:unicode是将字符与码点(code point,一个整数)一一对应的编码方案;码点通常用\uXXXX或者U+XXXX的方式表示,XXXX是码点的十六进制;UTF8是unicode的一个具体编码方案,规定字符存储的方式;UTF8编码字节数可变,不存在大小端问题,互联网通信中常采用此种编码方式。- q3 F# P, g; L0 u* f. K8 m9 |5 e
回顾一下那成片的“汉字UTF8编码互转”网页所做的事情。以“中国”为例,两个汉字码点分别为20013和22269,十六进制表示4E2D 56FD,UTF8编码E4 B8 AD E5 9B BD。随手打开搜索结果中的http://www.ip138.com/utf8/,输入“中国”,点击“转换UTF-8”按钮,下方出现码点的十六进制编码4E2D 56FD(&#x可以理解为十六进制的前缀0x),并非UTF8编码。: G @+ O3 }" e- k. f8 o
JavaScript的String对象有charCodeAt和codePointAt(兼容性不如charCodeAt)方法。根据这个函数,网页的转换工作可用如下代码实现:
+ ?9 L/ Z( \8 T, x4 p$ o! t2 tfunction encode(str) {9 v- P, j% ?5 Q, l
var result = '';2 [4 S1 m, I: ]
var len = str.length;6 Q* |& G4 T, E; w
for (var i = 0; i 调用encode(“中国”)或者其他字符串,将得到每个字符对应码点的十六进制。但这不是字符串的UTF8编码!
- S& q) ^! S5 o; p. \要拿到UTF8编码,需要在码点的基础上多走一步。先回顾unicode码点与UTF8的转换关系:& \, M. s4 V! E, x
| unicode码点(十六进制)[/td]UTF-8(二进制) | | 0000 0000-0000 007F | 0xxxxxxx | | 0000 0080-0000 07FF | 110xxxxx 10xxxxxx | | 0000 0800-0000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx | | 0001 0000-0010 FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx | 根据这个表,结合charCodeAt函数,可以写出字符串到UTF8编码的函数:
/ C, d* c; l+ c! P9 B2 w// 获取字符串的utf8字节流7 ^0 n% p4 s: Y. G+ \: q8 K
function getUTF8Bytes(str) {
H. d3 ~; T1 H3 n+ x var bytes = [];
7 l9 u$ Z( N: M8 h) n0 w! A, H var len = str.length;! A, [: H2 c# k/ A& ^9 ]2 Y
for (var i = 0; i = 0x10000 && code > 18) | 0xf0); // 第一个字节' J( M; P. r5 r% V
bytes.push(((code >> 12) & 0x3f) | 0x80);- a0 ~# B( P3 F3 p$ i' e# ]5 k
bytes.push(((code >> 6) & 0x3f) | 0x80); }9 I/ v9 R9 u2 L( \/ E% Y
bytes.push((code & 0x3f) | 0x80);; W! j: |3 t$ |) }. X+ z
} else if (code >= 0x800 && code > 12) | 0xe0);! j" p0 b1 Z9 E2 K
bytes.push(((code >> 6) & 0x3f) | 0x80);
! }1 p7 s; s8 t! e5 h% d bytes.push((code & 0x3f) | 0x80);. u5 M* v/ [! y* t8 b
} else if (code >= 0x80 && code > 6) | 0xc0);5 i" N3 G$ l1 c! u
bytes.push((code & 0x3f) | 0x80);
, R" L) P! Q. P& n, } } else {7 R) N, D) ^( C
bytes.push(code)
_5 H) }" b. Q# F1 Y0 h6 P8 Q, q }) |3 z7 N5 a) a' n
}( W \" h. ~+ b; t
return bytes;: W V9 D1 q8 _# s
}' `& S4 ~3 u+ L+ ]1 o
// 将字节流转换成16进制字符串
4 [# p" ^" K2 U6 H# P+ jfunction hexString(bytes) {2 z" I6 h7 x" Y& f$ r. A
var arr = bytes.map(function (code) {" o$ \) D& @) @$ Y! o: f3 C4 M7 G( n; r9 G
return (code).toString(16).toUpperCase();% h: p7 v$ i$ _" M8 M: k
});
! G1 `, H, Y# t9 R4 _3 S N& b return arr.join(' ');
% X" M2 h. y* H; r$ E}
7 Q0 N( W, W& f7 T: t8 Dfunction utf8(str) {$ P+ X( c8 w0 G& ~9 z
return hexString(getUTF8Bytes(str));
% Y* N8 L0 \0 R0 w}; G& J5 U8 F0 C
调用函数utf8,这才是JavaScript得到字符串的UTF8编码的正确姿势!从UTF8编码转换到字符串,做相反工作即可。
! V; V! p7 `- I U3 k7 W* TAD:【国外VPS推荐】 Vultr全球16个数据中心,高速SSD硬盘,月付2.5$起,注册充10$送100$打赏赞(1) |
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
|