Node.js Stream(流)
Node.js 的 Stream 是一种处理流式数据的抽象接口,广泛应用于文件操作、网络通信等场景。
流式数据处理的一个主要优点是可以在数据传输过程中就开始处理数据,而不需要等待整个数据加载完毕,这使得 Node.js 能够高效地处理大量数据,而不会占用过多的内存。
Stream 是一个抽象接口,Node 中有很多对象实现了这个接口。例如,对http 服务器发起请求的 request 对象就是一个 Stream,还有stdout(标准输出)。
Node.js 的 Stream(流)是一种处理数据流的方式,它允许你以流的形式处理数据,而不是一次性将数据全部加载到内存中。这对于处理大量数据或者实现高效的数据传输非常有用。
Node.js,Stream 有四种流类型:
Readable - 可读操作。
Writable - 可写操作。
Duplex - 可读可写操作.
Transform - 操作被写入数据,然后读出结果。
所有的 Stream 对象都是 EventEmitter 的实例。常用的事件有:
data - 当有数据可读时触发。
end - 没有更多的数据可读时触发。
error - 在接收和写入过程中发生错误时触发。
finish - 所有数据已被写入到底层系统时触发。
本教程会为大家介绍常用的流操作。
从流中读取数据
常见的可读流包括文件读取流和网络请求响应流。
创建 input.txt 文件,内容如下:
菜鸟教程官网地址:www.runoob.com
创建 main.js 文件, 代码如下:
实例
var data = '';
// 创建可读流
var readerStream = fs.createReadStream('input.txt');
// 设置编码为 utf8。
readerStream.setEncoding('UTF8');
// 处理流事件 --> data, end, and error
readerStream.on('data', function(chunk) {
data += chunk;
});
readerStream.on('end',function(){
console.log(data);
});
readerStream.on('error', function(err){
console.log(err.stack);
});
console.log("程序执行完毕");
以上代码执行结果如下:
程序执行完毕 菜鸟教程官网地址:www.runoob.com
写入流
可写流用于将数据写入目的地,常见的可写流包括文件写入流和网络请求发送流。
创建 main.js 文件, 代码如下:
实例
var data = '菜鸟教程官网地址:www.runoob.com';
// 创建一个可以写入的流,写入到文件 output.txt 中
var writerStream = fs.createWriteStream('output.txt');
// 使用 utf8 编码写入数据
writerStream.write(data,'UTF8');
// 标记文件末尾
writerStream.end();
// 处理流事件 --> finish、error
writerStream.on('finish', function() {
console.log("写入完成。");
});
writerStream.on('error', function(err){
console.log(err.stack);
});
console.log("程序执行完毕");
以上程序会将 data 变量的数据写入到 output.txt 文件中。代码执行结果如下:
$ node main.js 程序执行完毕 写入完成。
查看 output.txt 文件的内容:
$ cat output.txt 菜鸟教程官网地址:www.runoob.com
双工流(Duplex)
双工流同时具有可读和可写的能力。
一个典型的双工流是 TCP 套接字。
实例
// 创建一个 TCP 服务器
const server = net.createServer((socket) => {
console.log('Client connected.');
// 读取客户端数据
socket.on('data', (data) => {
console.log('Received data:', data.toString());
});
// 向客户端发送数据
socket.write('Hello, Client!\n');
// 监听关闭事件
socket.on('end', () => {
console.log('Client disconnected.');
});
});
server.listen(3000, () => {
console.log('Server listening on port 3000.');
});
转换流(Transform)
转换流是一种特殊的双工流,可以修改或转换数据。常见的转换流包括压缩和解压缩流。
实例
const fs = require('fs');
// 创建一个可读流
const readableStream = fs.createReadStream('example.txt');
// 创建一个转换流(压缩)
const gzip = zlib.createGzip();
// 创建一个可写流
const writableStream = fs.createWriteStream('example.txt.gz');
// 将可读流管道到转换流,再管道到可写流
readableStream.pipe(gzip).pipe(writableStream);
// 监听完成事件
writableStream.on('finish', () => {
console.log('File compressed successfully.');
});
管道流
管道提供了一个输出流到输入流的机制。
通常我们用于从一个流中获取数据并将数据传递到另外一个流中。
如上面的图片所示,我们把文件比作装水的桶,而水就是文件里的内容,我们用一根管子(pipe)连接两个桶使得水从一个桶流入另一个桶,这样就慢慢的实现了大文件的复制过程。
以下实例我们通过读取一个文件内容并将内容写入到另外一个文件中。
设置 input.txt 文件内容如下:
菜鸟教程官网地址:www.runoob.com 管道流操作实例
创建 main.js 文件, 代码如下:
实例
// 创建一个可读流
var readerStream = fs.createReadStream('input.txt');
// 创建一个可写流
var writerStream = fs.createWriteStream('output.txt');
// 管道读写操作
// 读取 input.txt 文件内容,并将内容写入到 output.txt 文件中
readerStream.pipe(writerStream);
console.log("程序执行完毕");
代码执行结果如下:
$ node main.js 程序执行完毕
查看 output.txt 文件的内容:
$ cat output.txt 菜鸟教程官网地址:www.runoob.com 管道流操作实例
链式流
链式是通过连接输出流到另外一个流并创建多个流操作链的机制。
链式流一般用于管道操作。
接下来我们就是用管道和链式来压缩和解压文件。
创建 compress.js 文件, 代码如下:
实例
var zlib = require('zlib');
// 压缩 input.txt 文件为 input.txt.gz
fs.createReadStream('input.txt')
.pipe(zlib.createGzip())
.pipe(fs.createWriteStream('input.txt.gz'));
console.log("文件压缩完成。");
代码执行结果如下:
$ node compress.js 文件压缩完成。
执行完以上操作后,我们可以看到当前目录下生成了 input.txt 的压缩文件 input.txt.gz。
接下来,让我们来解压该文件,创建 decompress.js 文件,代码如下:
实例
var zlib = require('zlib');
// 解压 input.txt.gz 文件为 input.txt
fs.createReadStream('input.txt.gz')
.pipe(zlib.createGunzip())
.pipe(fs.createWriteStream('input.txt'));
console.log("文件解压完成。");
代码执行结果如下:
$ node decompress.js 文件解压完成。
暂停和恢复
可读流可以暂停和恢复数据的读取。
实例
const readableStream = fs.createReadStream('example.txt', 'utf8');
readableStream.on('data', (chunk) => {
console.log('Received chunk:', chunk);
readableStream.pause(); // 暂停读取
setTimeout(() => {
readableStream.resume(); // 恢复读取
}, 1000);
});
销毁
可以销毁流,释放资源。
实例
const readableStream = fs.createReadStream('example.txt', 'utf8');
readableStream.on('data', (chunk) => {
console.log('Received chunk:', chunk);
readableStream.destroy(); // 销毁流
});
房明
121***5022@qq.com
那我现在又这么一个需求,我想把input里面的内容写到outInput里面去,但是上面的方法都是把文档里面的内容重置了,我只想添加,而且保留原内容怎么办呢,可以在可读流创建完毕的回调函数里面进行操作,看代码:
如此,便可以啦;
房明
121***5022@qq.com
彤哥哥
lty***in@gmail.com
如楼上可能存在覆盖状态,可以设置写入流的追加参数来解决:
彤哥哥
lty***in@gmail.com
分享
294***2136@qq.com
按照第一个教程读取 input.txt 会出现中文乱码问题,即使你设置了如下:
也照样没有用的。我的代码确定跟上面第一个读取流的教程一模一样,input.txt 里面的内容也是一模一样,可就是照样乱码。
解决方案:
全局安装 iconv-lite 这个模块:
代码中写法如下:
原理是先统一用二进制编码方式读取,然后再用 GBK 解码。
分享
294***2136@qq.com
夏楠
414***997@qq.com
我不赞成一楼的那种写法杂乱无章。我用的是promise并发了两个文件的请求数据,然后再把两个文件的内容再重新写到另一个文件中,谢谢参考。
夏楠
414***997@qq.com
良木
341***8308@qq.com
一楼的意思就是一次追加操作,fs 包提供了一个函数 appendFile,可以解决追加操作。
个人搜索所得文件追加操作:
writeFile 函数虽然可以写入文件,但是如果文件已经存在,我们只是想添加一部分内容,它就不能满足我们的需求了,很幸运,fs 模块中还有 appendFile 函数,它可以将新的内容追加到已有的文件中,如果文件不存在,则会创建一个新的文件。使用方法如下:
例:fs.appendFile(文件名, 数据, 编码, 回调函数(err));
编码格式默认为 "utf8"。
良木
341***8308@qq.com