[转帖] Linux查看日志文件写入速度的4种方法

linux,查看,日志,文件,写入,速度,方法 · 浏览次数 : 0

小编点评

**使用 dd 命令** ```bash $ tail -F app.log | dd of=/dev/null status=progress3875840 bytes (3.9 MB) copied, 8.228797 s, 471 kB/s ``` **使用 pv 命令** ```bash $ tail -F app.log | pv >/dev/null2.05MiB 0:00:03 [ 330kiB/s] [ <=> ] ``` **使用 cv 命令** ```bash $ yum install -y cv $ cv -mc java[ 1] java app.log 100.0% (6.1 GiB / 6.1 GiB) 390.2 KiB/s ``` **使用脚本** ```bash while sleep 1; do sz=`stat -c %s app.log` numfmt --from=auto --to=iec $((sz-psz)) psz=$sz done ```

正文

https://www.cnblogs.com/codelogs/p/16365448.html

 

简介#

有时,我们需要查看某个文件的增长速度,如日志文件,以此来感受系统的负载情况,因为一般情况下,日志写入越快,说明系统负载越重。

本文就来介绍下Linux中查看日志增长速度的几种方法,如下:

使用dd#

首先要介绍的是dd,因为dd命令几乎所有主流发行版都自带,无需额外安装,如下:

$ tail -F app.log | dd of=/dev/null status=progress
3875840 bytes (3.9 MB) copied, 8.228797 s, 471 kB/s

如上,使用tail -F获取新写入的数据,然后用管道将数据交给dd,dd将数据拷贝到/dev/null,其中status=progress是用来显示拷贝速度的,可见,我们日志的写入速度是471 kB/s

使用pv#

pv命令可以看做是带进度的cp,如下:

$ yum install -y pv

$ tail -F app.log | pv >/dev/null
2.05MiB 0:00:03 [ 330kiB/s] [       <=>                                ]

原理与dd类似,不过命令换成了pv。

使用cv命令#

由于日志数据都是程序(如java)写入的,而在如下的伪文件中,存放着程序打开的文件信息,如下:

  • /proc/<pid>/fd:存放着打开的文件描述符
  • /proc/<pid>/fdinfo:存放着文件描述符写入到的offset

于是定期的读取这个offset就可以知道文件的写入速度了,这也是cv命令的实现原理,如下:

$ yum install -y cv

$ cv -mc java
[    1] java app.log 100.0% (6.1 GiB / 6.1 GiB) 390.2 KiB/s

# 实际上,由于Linux上大多数命令(如cp)没自带进度查看功能,而cv就成了很好的补充
# 比如查看cp复制文件的进度
$ cp app.log app.log.bak & cv -mc cp 

新版cv命令已经改名为progress,安装不到cv包时,可试着安装progress包。

编写小脚本#

通过写一个小脚本,定期观察文件大小,也可查看文件写入速度,如下:

# 每秒获取文件大小,通过减去上一秒的大小,即可计算出速度
while sleep 1; do  \
  sz=`stat -c %s app.log`; \
  numfmt --from=auto --to=iec $((sz-psz)); \
  psz=$sz; \
done

492K
750K
370K


通过watch再加上观察,也能大致看出速度,如下:

watch -d -t -n1 du app.log

watch_du

举一反三#

其实转念一想,如果我们在某个函数中打上日志,然后通过grep过滤出此日志,然后我们只要计算每秒输出的日志行数,这岂不就是函数执行的QPS了!

# 使用grep过滤出日志,tr删除非换行符,所以dd显示的是换行符的个数!
$ tail -F app.log \
    | grep --line-buffered '/order/get' \
    | stdbuf -oL tr -dc '\n' \                     
    | dd of=/dev/null bs=1 status=progress

151 bytes (151 B) copied, 15.523018 s, 0.0 kB/s

这里可以通过151/15计算出QPS是10,由于没有超过1000,所以看到的是0.0kB/s,如果使用pv命令,会更简单一些,如下:

$ tail -F app.log \
    | grep --line-buffered '/order/get' \
    | pv -l >/dev/null
    
144  0:00:03 [11.5 /s] [       <=>                         ]

往期内容#

密码学入门
q命令-用SQL分析文本文件
神秘的backlog参数与TCP连接队列
mysql的timestamp会存在时区问题?
真正理解可重复读事务隔离级别
字符编码解惑

与[转帖] Linux查看日志文件写入速度的4种方法相似的内容:

[转帖] Linux查看日志文件写入速度的4种方法

https://www.cnblogs.com/codelogs/p/16365448.html 简介# 有时,我们需要查看某个文件的增长速度,如日志文件,以此来感受系统的负载情况,因为一般情况下,日志写入越快,说明系统负载越重。 本文就来介绍下Linux中查看日志增长速度的几种方法,如下: 使用d

[转帖]使用Linux命令快速查看某一行

原创:打码日记(微信公众号ID:codelogs),欢迎分享,转载请保留出处。 简介# 当年,我还是Linux菜鸟的时候,就在简历上写着精通Linux命令了,而当面试官问我“如何快速查看某个文件的第200行,仅这一行”时,我的心里是懵逼的。 当时面试官心里估计在窃喜,从我敷衍的回答中,他应该已经完全

[转帖] 拒绝蛮力,高效查看Linux日志文件!

https://www.cnblogs.com/codelogs/p/16410363.html 简介# 日常分析问题时,会频繁地查看分析日志,但如果蛮力去查看日志,耗时费力还不一定有效果,因此我总结了在Linux常用的一些日志查看技巧,提升日志阅读效率。 grep查找日志# 在我们查找某些异常日志

[转帖] 拒绝蛮力,高效查看Linux日志文件!

https://www.cnblogs.com/codelogs/p/16410363.html 原创:扣钉日记(微信公众号ID:codelogs),欢迎分享,转载请保留出处。 简介# 日常分析问题时,会频繁地查看分析日志,但如果蛮力去查看日志,耗时费力还不一定有效果,因此我总结了在Linux常用的

[转帖]linux日志 audit

https://www.jianshu.com/p/3e8a1d5d5cb9 我们知道在Linux系统中有大量的日志文件可以用于查看应用程序的各种信息,但是对于用户的操作行为(如某用户修改删除了某文件)却无法通过这些日志文件来查看,如果我们想实现监管企业员工的操作行为就需要开启审计功能,也就是aud

[转帖]linux--Segfault详解

linux--Segfault详解 1 简介1.1 段错误的定义1.2 痛点 2 知识点2.1 报错内容2.2 error number 3 排除步骤(借助汇编)3.1 日志确定错误类型3.2 计算相对地址3.3 反汇编该库文件3.4 查找地址对应的汇编语句3.5 在中间件中查找信息 3 排除步骤(

[转帖]Linux小技巧:获取前一天日期、前一个月日期

最近脚本需要获取Linux前一天时间格式,用于设置日志文件名,网上查了查资料,这里记录一下。 1.date命令 1.1 date命令使用格式 date [-u] [-d datestr] [-s datestr] [--utc] [--universal] [--date=datestr] [--s

[转帖]Linux中find命令使用示例

https://zhuanlan.zhihu.com/p/99170116 Linux查找命令是类Unix操作系统中最重要且最常用的命令行实用程序之一。 查找命令可以根据你设定的参数匹配的文件指定的条件来搜索和查找文件或目录的列表。 查找可以在多种条件下使用,例如可以按权限,用户,组,文件类型,日期

[转帖]Linux中的Grep命令(在文件中查找文本)

[日期:2020-05-14] 来源:Linux公社 作者:醉落红尘 [字体:大 中 小] grep命令是(global regular expression print,全局正则表达式输出)的缩写,它是Linux中功能最强大且最常用的命令之一。 grep在一个或多个输入文件中搜索与给定模式匹配的行

[转帖]Linux命令拾遗-软件资源观测

原创:打码日记(微信公众号ID:codelogs),欢迎分享,转载请保留出处。 简介# 这是Linux命令拾遗系列的第三篇,本篇主要介绍Linux中观测软件资源的命令,如ps、netstat、lsof,以及查看进程信息的宝库/proc目录。 本系列文章索引Linux命令拾遗-入门篇Linux命令拾遗