正文
一个简单的科普-延迟与RT时间
背景
发现稍微一复杂就没人看.
这次像是写一个简单的科普文章.
主要说一下网络延迟还有网络的响应时间.
这里想通过一个题目进行引申.
如果Skylink全球商用:
中国与美国之间的网络是走海底光纤延迟低,还是走skylink延迟低?
关于时延的理解
我认为: 走skylink的网络延迟低.
原因:
海底光纤的走的是玻璃介质的光信号. 玻璃的反射率一般是1.5
那么光速就是真空光速的三分之二. 也就是20万公里秒.
skylink走的是太空路线. 他的总链路理论上会多一些
上下线的 500km 累计1000公里的链路.
地球半径是 6400公里,中美之间的举例应该是 pi*radius
也就是 20096公里.
其实光纤的举例肯定比20000公里要长,因为没有光纤是走之下的.
但是简单估算按照 最短路径来估算的的话就是
20000公里.
因为走太空理论上半径应该按照 7000公里计算
距离应该是: 21980公里 加上上下行的链路合计
22000公里
所以如果是走光纤, 一次round trip 的时间是 40000公里/200000(公里/秒钟)
也就是 200ms的时间.
如果走skylink的话 就是 44000公里/300000(公里/秒)
不超过 150ms的时间.
所以理论上 skylink的round trip的时延会短一些.
引申
时延就是 距离/速度.
软件系统的时延就是
我开始要数据, 到给我数据的时间.
B/S结构来说. 就是我click一个按钮之后, 到展现给我结果的时间.
所有的操作都有时延.
CPU的寄存器, 各级缓存, 内存, 磁盘, 网络都有时延.
时延是性能的最大的敌人.
降低时延能够提高客户的感受. 加快处理效率.
关于网络的时延和IO的时延的理解主要在是三部分组成
1. 排队. 2.传输 3. 处理.
磁盘IO时延的理解
网络IO和磁盘IO在CPU看来其实都是IO
CPU和内存的改善主要是通过算力和带宽来表示.
网络和磁盘的IO 考虑三方面主要是:
磁盘IO:
1. 排队时间: 昨天提到的有一个 nr_requests 队列越长, 等待时间越长.
2. 处理. queue_depth 队列深度的系统处理能力.
3. 传输. 总线, SATA接口AHCI协议,或者是PCI-E,走NVMe协议的带宽以及速度.
提高IO性能的方法就是 降低三个的时间.
实际上IO的时间还是IOWAIT的时间.
IOWAIT 其实包含 操作系统内核进行线程切换的部分时间, 以及SVCTIME.
SVCTIME主要是硬件性能和压力来决定. 操作系统的上下文切换,线程切换主要是考验系统的压力和CPU的能力.
网络IO时延的理解
网络时延其实也包含协议层处理,网卡处理, 网络传输, 业务处理等等步骤.
本次不考虑 业务处理的步骤, 因为这个很难去评判.
网络实验的IO可以从内核的像是zero copy ; sendfile的地方开始介入考虑.
nginx等可以通过减少内存中的copy来提高响应速度. 当然也可以讲这一步理解为磁盘IO和内存IO.
进入协议层之后, 主要是协议的打包封装的效率,这一块一般要考虑CPU的性能. 能否快速实现打包验证等.
协议层里面也会涉及很多内核参数, 比如TCP/IP的拥塞检查,慢启动,滑动窗口,SACK等等特性影响性能.
进入网卡.要看一下网卡是否支持类似于TSO,GSO,LRO,GRO的一些配置. 对性能的影响等.
追求吞吐量,响应时间可能会降低 因为将小包进行和合并到一个大的包的处理.
追求响应时间可能就会影响吞吐量, 因为网络中可能充斥着很多低负载的包.
网络的性能主要是看包转发率和传输速度的.
不同的交换机性能, 网卡性能, 网线质量, 电磁环境都会影响.具体的网络性能