node.js

关注公众号 jb51net

关闭
首页 > 网络编程 > JavaScript > node.js > Node.js环境中使用GBK编码

Node.js环境中使用GBK编码方式

作者:躁动de气球

NodeJS环境中使用GBK编码,Buffer对象支持多种编码格式,文章介绍NodeJS原生支持的编码格式,并推荐使用iconv-lite进行编码转换

NodeJS环境中使用GBK编码

Node默认支持的编码格式

Node中的Buffer对象支持以下编码(以6.9.1版本为例):参考API[https://npm.taobao.org/mirrors/node/latest/docs/api/buffer.html#buffer_buffers_and_character_encodings]

GBK与UTF-8

简单说一个是国家标准(GB)、一个是国际标准。

GBK是我国颁布的一种汉字编码,作为一个体系,其前身是GB2312,后来演进为GB18030。这个系列的编码标准致力于解决中国国内面临的文字的编码问题,支持的语言包括中文汉字(简体)、日语、韩语、藏文、蒙文、维吾尔文等,主要还是中文。常见汉字用两个字节编码。

UTF-8是一种国际标准,同一个体系的还有UTF-16等。UTF-8致力于解决地球上全部文字的编码表示问题,除了东亚文字还包括其他语言的编码,如波斯文。其编码一个文字采用两个或三个字节。

一个常用汉字占用的字节数:

稀有的汉字:

特别稀有的汉字:

两种编码同时存在,且会长期共存。同一个系统内部尽量不要混用。

使用iconv-lite做编码转换

Node环境下处理汉字编码常用的有iconv和iconv-lite,前者使用二进制库实现,后者纯JS实现(性能上后者略好【没有实际测试】),这里只介绍iconv-lite[https://npm.taobao.org/package/iconv-lite]
iconv-lite支持的编码格式包括:

官方给出的例子:

var iconv = require('iconv-lite');
str = iconv.decode(new Buffer([0x68, 0x65, 0x6c, 0x6c, 0x6f]), 'win1251');
buf = iconv.encode("Sample input string", 'win1251');

也支持Stream方式使用,参见 https://npmmirror.com/package/iconv-lite

对于早期版本的Node,可以通过extendNodeEncodings在不影响代码结构的情况下扩展Node各原生接口支持的编码种类;这种方式在较新版本(v4+)已经废弃无法使用。

给出一个从GBK文件读取内容,然后编码转存为UTF-8编码的例子:

var buffer = Buffer.from(fs.readFileSync('gbkFile.txt',{encoding:'binary'}),'binary');
console.log(buffer);//得到文件内容对应的Buffer
var text = iconv.decode(buffer,'GBK');//使用GBK解码
console.log(text);
//console.log(iconv.encode(text, 'utf8'));
//console.log(iconv.encode(text, 'gbk'));
fs.writeFileSync('utfFile.txt',iconv.encode(text, 'utf8'),'binary'); //按二进制方式写入
fs.writeFileSync('utfFile2.txt',text,'utf8'); //按UTF8写入

总结

以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。

您可能感兴趣的文章:
阅读全文