|
|
发表于 2022-9-11 21:05:01
|
查看: 1509 |
回复: 0
转载请注明文章出处:https://itlanyan.com/string-unicode-utf8-converter/0 j- J( x5 A/ P q4 A# z& E6 U1 i' T, D
想知道某个字符串的UTF8编码,图方便打算使用在线工具。坑爹的是,号称“UTF8汉字互转”的网页几乎全是字符串和unicode码点互转,并不提供与UTF8编码互转功能。没搞懂unicode码点(code point)和UTF8编码的关系,还大言不惭的说UTF8编码,真让人无语。
" [4 w! o" ?+ c5 w0 g0 X; @$ D* K9 I( w* W/ {
4 N% I- n1 F' q& K! _. o+ {! ~: |/ q4 E
8 ~) |1 T( ^1 p* G& p3 j: s6 f$ d' r7 ~4 S& J' N/ j) J2 @, B `2 t
字符、字节和字节序,unicode和UTF8编码,是理解字符编码重要的概念,详情可查看本人之前博文文件和字符编码。本文讨论unicode和UTF8之间的转换,先简要介绍两个概念:unicode是将字符与码点(code point,一个整数)一一对应的编码方案;码点通常用\uXXXX或者U+XXXX的方式表示,XXXX是码点的十六进制;UTF8是unicode的一个具体编码方案,规定字符存储的方式;UTF8编码字节数可变,不存在大小端问题,互联网通信中常采用此种编码方式。* B: l* O. q8 _( O
回顾一下那成片的“汉字UTF8编码互转”网页所做的事情。以“中国”为例,两个汉字码点分别为20013和22269,十六进制表示4E2D 56FD,UTF8编码E4 B8 AD E5 9B BD。随手打开搜索结果中的http://www.ip138.com/utf8/,输入“中国”,点击“转换UTF-8”按钮,下方出现码点的十六进制编码4E2D 56FD(&#x可以理解为十六进制的前缀0x),并非UTF8编码。
( \0 N7 `, l( Q. g) rJavaScript的String对象有charCodeAt和codePointAt(兼容性不如charCodeAt)方法。根据这个函数,网页的转换工作可用如下代码实现:
d" E J7 c8 k* @% C- \function encode(str) {
* ] ?# l4 w8 ^" r. W) n" K. d var result = '';& W" u3 D7 T7 g2 @2 y
var len = str.length;
& R0 {8 g" _5 Q; z for (var i = 0; i 调用encode(“中国”)或者其他字符串,将得到每个字符对应码点的十六进制。但这不是字符串的UTF8编码!
- s2 b ]0 {8 Z要拿到UTF8编码,需要在码点的基础上多走一步。先回顾unicode码点与UTF8的转换关系:
% V+ `8 I& Q: D$ z| unicode码点(十六进制)[/td]UTF-8(二进制) | | 0000 0000-0000 007F | 0xxxxxxx | | 0000 0080-0000 07FF | 110xxxxx 10xxxxxx | | 0000 0800-0000 FFFF | 1110xxxx 10xxxxxx 10xxxxxx | | 0001 0000-0010 FFFF | 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx | 根据这个表,结合charCodeAt函数,可以写出字符串到UTF8编码的函数:- L2 o! Y' X: t9 ]! ?8 A
// 获取字符串的utf8字节流
8 W# [9 N; m" C5 bfunction getUTF8Bytes(str) {
% n5 L# H, ~4 G var bytes = [];% g3 A3 S) \. X2 M
var len = str.length;
$ g6 P! K* n% L0 ~ for (var i = 0; i = 0x10000 && code > 18) | 0xf0); // 第一个字节% y' ?# P- p6 S t% A
bytes.push(((code >> 12) & 0x3f) | 0x80);' `4 ?0 v1 ^/ X2 U4 |6 G
bytes.push(((code >> 6) & 0x3f) | 0x80);
6 P( L% D: R( F* m% c bytes.push((code & 0x3f) | 0x80);: f7 O; h. Q7 I7 C
} else if (code >= 0x800 && code > 12) | 0xe0);4 n* E( k. t9 I+ |+ f8 P
bytes.push(((code >> 6) & 0x3f) | 0x80);/ f" N" u |4 f5 ^/ b, W
bytes.push((code & 0x3f) | 0x80);, E% `6 O0 I! B% |7 u
} else if (code >= 0x80 && code > 6) | 0xc0);/ Z% `! C" G; [) b4 d
bytes.push((code & 0x3f) | 0x80);, K+ G+ {9 T& c' M p w8 M V5 Z
} else {1 `8 o, S( I$ {# Q# m
bytes.push(code)
1 ?4 Q! Y. e% g0 d) Q }
. }4 g% F& g, S) H# @. I+ d% n8 n! F }
; p0 Y2 h% t6 w# h return bytes;6 V2 a$ v2 _3 [1 j* T, y4 k2 p$ Y
}" Y3 S |/ Z7 a& w2 c5 C
// 将字节流转换成16进制字符串$ K9 t. j# `7 a
function hexString(bytes) {* W6 J& ]1 F1 t. V5 ? l/ F3 s2 ?
var arr = bytes.map(function (code) {( e# b" t& Y0 F" X4 ] A
return (code).toString(16).toUpperCase();
) c' V* S7 w3 v* G1 s& K# u# B5 j });4 J9 o4 u3 a/ l r
return arr.join(' ');+ `. ~% a& X0 i" V/ b
}
3 U' s8 @7 n2 j6 j6 P4 xfunction utf8(str) {- }6 N8 H% [: L' ^- n$ h
return hexString(getUTF8Bytes(str));9 G3 A, n. Z) c& A& g. k
}. v3 ~& n2 @' r( U4 R
调用函数utf8,这才是JavaScript得到字符串的UTF8编码的正确姿势!从UTF8编码转换到字符串,做相反工作即可。
8 L( S% G: z. r( g( SAD:【国外VPS推荐】 Vultr全球16个数据中心,高速SSD硬盘,月付2.5$起,注册充10$送100$打赏赞(1) |
本帖子中包含更多资源
您需要 登录 才可以下载或查看,没有账号?立即注册
|