为什么文件删除了但磁盘空间没有释放?

为什么,文件,除了,磁盘空间,没有,释放 · 浏览次数 : 475

小编点评

## 案例现象分析 **问题:** 监控系统发来一条告警消息,内容说某台服务器根目录磁盘占用空间达到阈值,超过百分之八十了。 **分析步骤:** 1. 登上服务器,使用 `df -Th` 命令查看磁盘空间使用情况。 2. 进入根目录,使用 `du -sh *` 命令查看各个目录的大小。 3. 发现 `var` 目录下的磁盘空间已经占用了 75G。 4. 查找 `var` 目录下占用的文件,发现 `nginx` 进程占用 66G 的 `access_log` 文件。 5. 确定 `access_log` 文件可能是导致系统根目录空间耗尽的原因。 **解决方案:** 1. 删除 `var` 目录下的所有文件。 2. 查看 `/var/log/nginx/access_log` 文件是否被打开或被其他进程锁定。 3. 如果 `access_log` 文件被锁定,可以使用 `kill` 或 `killall` 等工具杀死进程。 4. 如果 `access_log` 文件被正常打开,可以使用 `chown` 等工具将文件权限设置为非易删除。 5. 最后重启 `nginx` 进程。 **注意:** * 删除 `access_log` 文件后,请确保 `nginx` 进程已停止运行。 * 在生产环境下,一般不建议重启服务或重启系统。 * 使用方法一和方法二的解决方案都能够马上释放磁盘空间,但方法二更安全,因为它可以保证进程能够一直往文件里写数据。

正文

案例现象

这天,监控系统发来一条告警消息,内容说某台服务器根目录磁盘占用空间达到阈值,超过百分之八十了

 

登上服务器,df -Th 看一下,发现磁盘空间确实不够用了

 

 

 

 

进入到根目录,然后 du -sh *

 

 

 

可以看到,var 目录下的磁盘空间已经占用了 75G

 

 

既然如此,删除 var 目录下一些占空间较大的数据文件即可

 

 

继续定位到占用空间较大的是 /var/log 目录

 

最后排查到 /var/log/nginx/access_log这个文件占了 66G

 

这个文件是 Nginx 产生的访问日志文件,从日志大小来看,一方面没有做日志切割,另一方面很久没有清理这个文件

 

基本能够判断是这个文件造成的告警,执行如下删除操作

 

 删除完毕,我们再看下系统磁盘空间

 

 

 

咦?根分区空间怎么还没有释放,不是删除了文件了吗?

 

案例现象

一般来讲,很少出现删除了文件但磁盘空间不释放的现象

 

但是如果出现了,就要考虑到以下两种情况:

  1. 文件被某一进程锁定了

  2. 有进程一直在向这个文件写数据

 

为什么文件被进程占用之后删除不会释放磁盘空间呢?

 

我们来学习一下 Linux 的文件存储结构

 

在 Linux 中,文件存储在硬盘上,硬盘的最小存储单位是扇区(Sector),然而扇区只有 512字节大小,如果每次都读写这么小的单位效率一定很低

 

 

 

 

所以当操作系统从硬盘读取数据的时候,不会一个个扇区的地去读取,而是一次性连续读取多个扇区,即一次性读取一个”块“(block)

 

由多个 sector 组成的 block ,是文件存取的最小单位

 

block 常见大小的是 4KB,即连续 8 个 sector 组成一个 block

 

 

 

既然文件数据都存储在 block 中,那么我们指定读取某个文件数据的时候,操作系统就需要知道这个文件存储在哪个 block 上

 

而文件的数据存放位置信息被存放到了 inode 上,inode 中文名叫索引节点

 

我要打开 1.txt 这个文件并读取内容,会经过以下步骤

1、系统根据文件名(1.txt)找到对应的 inode 号

2、通过 inode 号获取到 inode 信息

3、根据 inode 信息找到文件数据所在的 block ,读出数据

 

 

除了文件的数据存放信息,文件的创建者、文件的大小、文件的属性等文件的元信息都被存储到了 inode 上

 

文件元信息包含以下内容(可以通过 stat 命令查看)

  • 文件的字节数

  • 文件拥有者的 User ID

  • 文件拥有者的 User ID

  • 文件拥有者的 User ID

  • 文件的时间戳

  • 链接数,即有多少文件名指向这个inode

  • 数据block的位置

 

inode 跟数据一样会消耗硬盘空间,所以硬盘格式化的时候,系统自动将硬盘分成2个区域:

  • 一个是数据区,存放文件数据

  • 另一个是 inode 区,存放 inode 所包含的信息,即文件元信息

 

简单来说在 Linux 下,文件由指针部分(inode)和数据部分(data)组成

 

在了解了文件的存储结构之后,我们来看下对文件执 rm 行删除操作之后,这两个部分会发生什么

 

文件被删除的时候,文件对应的 inode 就被删除掉了,而文件的数据部分在 inode 被清除掉之后,就会被覆盖并写入新的内容

 

但是如果文件在删除的时候是被打开的(有一个进程正在使用该文件,文件被进程锁定或者有进程一直在向这个文件写数据等)状态,那么进程依旧可以读取该文件,系统就会认为该文件的磁盘空间一直被占用

 

之所以出现删除 access_log 文件后空间没有释放,是因为 nginx 进程还在一直向这个文件写入内容

 

虽然删除了 access_log 文件,但是由于 nginx 进程锁定,文件的 inode 并没有清除掉,而由于 inode 没有清除,系统内核就认为文件并未删除,这才出现空间不释放的情况

 

解决问题

既然有了定位的思路,我们就来看看是不是有进程一直在向 access_log 文件写数据

 

我们使用 lsof 命令

 

 

 

可以看到 /var/log/nginx/access_log被进程 nginx 锁定,而且 nginx 进程一直在往这个文件写数据,现在文件大小已经 68G 了

 

由此可见,这个文件就是导致系统根目录空间耗尽的罪魁祸首,而最后一列的 deleted 状态表示这个文件已经被删除

 

但由于进程还在一直往里面写数据,导致磁盘空间并未释放

 

  • 方法一

删除掉日志文件之后,重启 nginx 进程或者重启系统让操作系统来回收磁盘空间

 

 

 

但是在生产环境下一般不建议重启服务或者重启系统

 

万一出问题了,这个锅可背不起

 

 

  • 方法二(推荐)

像这种进程不停对文件写数据的操作,如果你想要清空磁盘空间,推荐的办法是在线清空这个文件

 

 

通过这种方法,磁盘空间不仅可以马上释放,也可以保证进程能够一直往文件里写数据

 

 


感谢阅读,喜欢作者就动动小手[一键三连],这是我写作最大的动力

与为什么文件删除了但磁盘空间没有释放?相似的内容:

为什么文件删除了但磁盘空间没有释放?

案例现象 这天,监控系统发来一条告警消息,内容说某台服务器根目录磁盘占用空间达到阈值,超过百分之八十了 登上服务器,df -Th 看一下,发现磁盘空间确实不够用了 进入到根目录,然后 du -sh * 可以看到,var 目录下的磁盘空间已经占用了 75G 既然如此,删除 var 目录下一些占空间较大

[转帖]玩转REDIS-删除了两百万KEY,为什么内存依旧未释放?

https://www.freesion.com/article/87101375552/ 《玩转Redis》系列文章主要讲述Redis的基础及中高级应用。本文是《玩转Redis》系列第【12】篇,最新系列文章请前往公众号“zxiaofan”(点我点我)查看,或百度搜索“玩转Redis zxiaof

使用 shell 脚本拼接 srt 字幕文件 (srtcat)

将多个 srt 文件拼接成一个,找了好多工具,都太重了,自己用 shell 手搓一个。一开始没觉得这个小工具有多么难,以为半天肯定能搞定,结果足足搞了三天。绊倒我的居然是时间字段的拆分和前导零的删除,看看 shell 里有多少种实现方案,以及我为何选择了当前的方案。

[转帖]009 Linux 文件大小统计与排序 (du 于 df 和 sort)

https://my.oschina.net/u/3113381/blog/5463932 01 du 与 df 作用与区别? Linux 最有用最常用的统计文件大小命令是什么?无疑就是 du 和 df 了。 du(disk usage) du 能看到的文件只是一些当前存在的,没有被删除的。 df(

白话理解和使用DOCKER VOLUME

出于效率等一系列原因,Docker容器的文件系统在宿主机上存在的方式很复杂,这会带来下面几个问题: 不能在宿主机上很方便地访问容器中的文件。 无法在多个容器之间共享数据。 当容器删除时,容器中产生的数据将会丢失。 为了解决这些问题,Docker引入了数据卷(Volume) 机制。数据卷以独立于Do...

图解B树及C#实现(2)数据的读取及遍历

前言 本文为系列文章 B树的定义及数据的插入 数据的读取及遍历(本文) 数据的删除 前一篇文章为大家介绍了 B树 的基本概念及其插入算法。本文将基于前一篇的内容,为大家介绍插入到 B树 中的数据该怎么读取及遍历, 本文的代码基于前一篇文章的代码,已经实现的功能可能会被省略,只介绍新增的功能。 在本文

驱动开发:内核监控Register注册表回调

在笔者前一篇文章`《驱动开发:内核枚举Registry注册表回调》`中实现了对注册表的枚举,本章将实现对注册表的监控,不同于32位系统在64位系统中,微软为我们提供了两个针对注册表的专用内核监控函数,通过这两个函数可以在不劫持内核API的前提下实现对注册表增加,删除,创建等事件的有效监控,注册表监视通常会通过`CmRegisterCallback`创建监控事件并传入自己的回调函数,与该创建对应的是

认识 CPU 底层原理(2)——逻辑门

本文为B站UP主硬件茶谈制作的系列科普《【硬件科普】带你认识CPU》系列的学习笔记,仅作个人学习记录使用,如有侵权,请联系博主删除 上一篇文章我们从最基本的粒子的角度认识了组成CPU的最基本单元MOSFET的原理。CPU作为计算机的核心硬件,其最主要的功能是进行运算,本章我们将会介绍CPU设计者是如

Anaconda虚拟环境配置Python库与Spyder编译器

本文介绍在Anaconda中,为Python的虚拟环境安装第三方库与Spyder等配套软件的方法。 在文章创建Anaconda虚拟Python环境的方法中,我们介绍了在Anaconda环境下,创建、使用与删除Python虚拟环境的方法;而创建虚拟环境后,就需要在对应的环境内配置各类库与软件,本文就对

驱动开发:内核解锁与强删文件

在某些时候我们的系统中会出现一些无法被正常删除的文件,如果想要强制删除则需要在驱动层面对其进行解锁后才可删掉,而所谓的解锁其实就是释放掉文件描述符(句柄表)占用,文件解锁的核心原理是通过调用`ObSetHandleAttributes`函数将特定句柄设置为可关闭状态,然后在调用`ZwClose`将其文件关闭,强制删除则是通过`ObReferenceObjectByHandle`在对象上提供相应的权