
在这个数字的海洋中,Linux如同一位睿智的航海者,带领我们穿越信息的波涛。基础IO操作,尤其是重定向与缓冲区的理解,犹如一首优雅的乐章,蕴含着深邃的哲理与实用的技巧。
文件描述符 fd 是基础IO中的重要概念,一个 fd 表示一个 file 对象,如常用的标准输入、输出、错误流的 fd 分别为 0、1、2
实际进行操作时,OS 只需要使用相应的fd即可,不必关心具体的 file,因此我们可以对标准流实施 重定向,使用指定的文件流,在实际 读/写 时,为了确保 IO 效率,还需要借助 缓冲区 进行批量读取,最大化提高效率。关于上述各种概念,将会在本文中详细介绍,且听我娓娓道来。
在使用 C语言 相关文件操作函数时,可以经常看到 FILE 这种类型,不同的 FILE* 表示不同的文件,实际进行读写时,根据 FILE* 进行操作即可
#include<iostream>
#include <cstdio>
using namespace std;
int main()
{
//分别打开三个 FILE 对象
FILE* fp1 = fopen("test1.txt", "w");
FILE* fp2 = fopen("test2.txt", "w");
FILE* fp3 = fopen("test3.txt", "w");
//对不同的 FILE* 进行操作
//……
//关闭
fclose(fp1);
fclose(fp2);
fclose(fp3);
fp1 = fp2 = fp3 = NULL;
return 0;
}那么在 C语言 中,OS 是如何根据不同的 FILE 指针,对不同的 FILE 对象进行操作的呢?*
文件描述符 fd,这是系统层面的标识符,FILE 类型中必然包含了这个成员
如何证明呢?实践出真知,在上面代码的基础上,加入打印语句
注:stdin 等标准流在C语言中被覆写为 FILE 类型
//标准文件流
cout << "stdin->fd: " << stdin->_fileno << endl;
cout << "stout->fd: " << stdout->_fileno << endl;
cout << "stderr->fd: " << stderr->_fileno << endl;
cout << "===================================" << endl;
cout << "此时标准流的类型为:" << typeid(stdin).name() << endl;
cout << "此时文件流的类型为:" << typeid(fp1).name() << endl;
cout << "===================================" << endl;
//自己打开的文件流
cout << "fp1->fd: " << fp1->_fileno << endl;
cout << "fp2->fd: " << fp2->_fileno << endl;
cout << "fp3->fd: " << fp3->_fileno << endl;
可以看出,FILE 类型中确实有 fd 的存在
文件描述符 是如何设计的?新打开的文件描述符为何是从 3 开始?别急,接着往下看
操作系统是一个伟大的产物,它可以调度各种资源完成各种任务,但资源太多、任务太重,不合理的分配会导致效率低下,因此在进行设计时,必须确保 OS 操作时的高效性
比如现在学习的 文件系统,倘若不进行设计的话,在进行 IO 时,OS 必须先将所有文件扫描一遍,找到目标文件后才能进行操作,这是非常不合理的
因此,根据 先描述、再组织 原则,OS 将所有的文件都统一视为 file 对象,获取它们的 file 指针,然后将这些指针存入指针数组中,可以进行高效的随机访问和管理,这个数组为 file* fd_array[],而数组的下标就是神秘的 文件描述符 fd
标准输入、标准输出、标准错误 这三个文件流,将它们的 file* 指针依次存入 fd_array 数组中,显然,下标 0、1、2 分别就是它们的文件描述符 fd;除了文件描述符外,还需要知道文件权限、大小、路径、引用计数、挂载数等信息,将这些文件属性汇集起来,就构成了 struct files_struct 这个结构体,而它正是 task_struct 中的成员之一
files_struct 结构体是对已打开文件进行描述后形成的结构体,其中包含了众多文件属性,本文探讨的是 文件描述符 fd

进程的 PCB 信息中必然包含文件操作相关信息,这就是 files_struct
注:文件被打开后,并不会加载至内存中(这样内存早爆了),而是静静的躺在
磁盘中,等待进程与其进行 IO,而文件的 inode可以找到文件的详细信息:所处分区、文件大小、读写权限等,关于 inode 的更多详细信息将会在 【深入理解文件系统】 中讲解
fd 的分配规则为:先来后到,优先使用当前最小的、未被占用的 fd
存在下面两种情况:
#include<iostream>
#include <cstdio>
#include <cassert>
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
#include <unistd.h>
using namespace std;
int main()
{
//先打开文件 file.txt
int fd = open("file.txt", O_WRONLY | O_CREAT | O_TRUNC, 0666);
assert(fd != -1); //存在打开失败的情况
cout << "单纯打开文件 fd: " << fd << endl;
close(fd); //记得关闭
//先关闭,再打开
close(0); //关闭1号文件执行流
fd = open("file.txt", O_WRONLY | O_CREAT | O_TRUNC, 0666);
cout << "先关闭1号文件执行流,再打开文件 fd: " << fd << endl;
close(fd);
return 0;
}
注意: 假若将标准输出 stdout 中的原文件执行流(显示器)关闭了,那么后续的打印语句将不再向显示器上打印,而是向此时 fd 为 1 的文件流中打印
这其实就是 重定向 的基本操作
如何理解 Linux 中一切皆文件这个概念?
OS 看来,不过是一个file对象 OS 来说,只需要提供相应的 读方法 和 写方法 就可以对其进行驱动,打开文件流后,将 file* 存入fd_array中管理即可,因此在 Linux 中,一切皆文件
在学习重定向前,首先要明白 标准输入、输出、错误 的用途
标准输入:从键盘中读取数据 标准输出:将数据输出至显示器中 标准错误:将可能存在的错误信息输出至显示器中
标准输出 与 标准错误 都是向显示器中输出数据,为什么不合并为一个?
C/C++ 中进行标准输入、输出、错误对应流:
使用cerr函数可直接向标准错误流中打印信息
前面说过,OS 在进行 IO 时,只会根据标准输入、输出、错误对应的文件描述符 0、1、2 来进行操作,也就是说 OS 作为上层不必关心底层中具体的文件执行流信息(fd_array[] 中存储的对象) 因此我们可以做到 “偷梁换柱”,将这三个标准流中的原文件执行流进行替换,这样就能达到重定向的目的了

下面直接在命令行中实现输出重定向,将数据输出至指定文件中,而非屏幕中
echo you can see me > file.txt当然也可以 从 file.txt 中读取数据,而非键盘
cat < file.txt现在可以理解了,
> 可以起到将标准输出重定向为指定文件流的效果,>> 则是追加写入< 则是从指定文件流中,标准输入式的读取出数据除此之外,我们还可以利用程序进行操作,在运行后进行重定向即可
#include <iostream>
using namespace std;
int main()
{
cout << "标准输出 stdout" << endl;
cerr << "标准错误 stderr" << endl;
return 0;
}直接运行的结果,此时的标准输出和标准错误都是向显示器上打印

利用命令行只对 标准输出 进行重定向,file.txt 中只收到了来自 标准输出 的数据,这是因为 标准输出与标准错误 是两个不同的 fd,现在只重定向了 标准输出 1
系统级接口 int dup2(int oldfd, int newfd)

函数解读:
下面来直接使用,模拟实现报错场景,将正常信息输出至 log.normal,错误信息输出至log.error中
#include <iostream>
#include <cstdlib>
#include <cerrno>
#include <cassert>
#include <cstring>
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
#include <unistd.h>
using namespace std;
int main()
{
//打开两个目标文件
int fdNormal = open("log.normal", O_WRONLY | O_CREAT | O_TRUNC, 0666);
int fdError = open("log.error", O_WRONLY | O_CREAT | O_TRUNC, 0666);
assert(fdNormal != -1 && fdError != -1);
//进行重定向
int ret = dup2(fdNormal, 1);
assert(ret != -1);
ret = dup2(fdError, 2);
assert(ret != -1);
for(int i = 10; i >= 0; i--)
cout << i << " "; //先打印部分信息
cout << endl;
int fd = open("cxk.txt", O_RDONLY); //打开不存在的文件
if(fd == -1)
{
//对于可能存在的错误信息,最好使用 perror / cerr 打印,方便进行重定向
cerr << "open fail! errno: " << errno << " | " << strerror(errno) << endl;
exit(-1); //退出程序
}
close(fd);
return 0;
}
在开发大型项目时,将 错误信息 单独剥离出来是一件很重要的事
在【基础IO】 中还存在一个重要概念:缓冲区
缓冲区 其实就是一个buffer数组,配合不同的刷新策略,起到提高IO效率的作用
必要性:
CPU 计算速度非常快!而磁盘的读取速度相对于 CPU来说是非常非常慢的,因此需要先将数据写入缓冲区中,依据不同的刷新策略,将数据刷新至内核缓冲区中,供 CPU进行使用,这样做的是目的是尽可能的提高效率,节省调用者的时间
因此在进行 读取 / 写入 操作时,常常会借助 缓冲区 buffer
#include <iostream>
#include <cassert>
#include <cstdio>
#include <cstring>
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
#include <unistd.h>
using namespace std;
int main()
{
int fd = open("file.txt", O_WRONLY | O_CREAT | O_TRUNC, 0666);
assert(fd != -1);
char buffer[256] = { 0 }; //缓冲区
int n = read(0, buffer, sizeof(buffer)); //读取信息至缓冲区中
buffer[n] = '\0';
//写入成功后,在写入文件中
write(fd, buffer, strlen(buffer));
close(fd);
return 0;
}缓冲区有多种刷新策略,比如C语言中 scanf 的缓冲区刷新策略为:遇到空白字符或换行就刷新,因此在输入时需要按一下回车,缓冲区中的数据才能刷新至内核缓冲区中,而 printf 的刷新策略为 行缓冲,即遇到 \n 才会进行刷新
总体来说,缓冲区的刷新策略分为以下三种:
一般而言,显示器的刷新策略为 行缓冲,而普通文件的刷新策略为 全缓冲
一个简单的 demo 观察 行缓冲
#include <iostream>
#include <unistd.h>
using namespace std;
int main()
{
while(true)
{
//未能触发行缓冲的刷新策略,只能等缓冲区满了被迫刷新
printf("%s", "hehehehe");
sleep(1);
}
return 0;
}运行结果:无内容打印
稍微改一下代码
while(true)
{
//能触发行缓冲的刷新策略
printf("%s\n", "hehehehe");
sleep(1);
}运行结果:每隔一秒,打印一次
文件分为两种,内存文件和磁盘文件
strcut file,利用链表和指针在缓冲区内层层相连fd是数组下标,分别与不同的文件形成映射每一个file对象中都有属于自己的缓冲区及刷新策略,而在系统中,还存在一个内核级缓冲区,这个缓冲区才是 CPU 真正进行IO的区域
IO 流程:

这里有一段比较有意思的代码:
#include <iostream>
#include <cstdio>
#include <cstring>
#include <unistd.h>
using namespace std;
int main()
{
fprintf(stdout, "hello fprintf\n");
const char* str = "hello write\n";
write(1, str, strlen(str));
fork(); //创建子进程
return 0;
}当我们直接运行程序时,结果如下:

而当我们进行重定向后,结果如下:

重定向前后出现两种截然不同的打印结果
原因分析:
行缓冲,而普通文件为全缓冲显示器 中打印内容,因为有 \n,所以两条语句都直接进行了冲刷普通文件 中打印内容,因为普通文件是写满后才能刷新,并且 fprintf 有属于自己的缓冲区,这就导致 fork() 创建子进程后,父子进程的 fprintf 缓冲区中都有内容,当程序运行结束后,统一刷新,于是就是打印了两次 hello fprintf注:系统级接口是没有自己的缓冲区的,直接冲刷至内核级缓冲区中,比如 write,所以创建子进程对 write 的冲刷没有任何影响
在Linux的世界里,重定向与缓冲区的理解不仅是技术的掌握,更是对信息流动的深刻洞察。它们如同两位舞者,在命令行的舞台上翩翩起舞,交织出一曲曲动人的旋律。通过灵活运用这些技巧,我们不仅能够高效地处理数据,还能在这片广袤的数字海洋中,找到属于自己的航道。让我们继续探索,书写更多的篇章,迎接下一个技术的曙光。
本篇关于重定向与缓冲区的介绍就暂告段落啦,希望能对大家的学习产生帮助,欢迎各位佬前来支持斧正!!!