一次网络请求中的流量分发过程 | 京东云技术团队

一次,网络,请求,流量,分发,过程,京东,技术,团队 · 浏览次数 : 490

小编点评

**摘要** 本文介绍了流量规划中的网络请求过程,包括通用请求过程及请求过程名词解释、前端网络组件搭配方式及后端网络组件搭配方式。 **通用请求过程及请求过程名词解释** * **通用请求过程**:是从客户端发出请求到服务端的过程。 * **请求过程名词解释**:包括请求方法、请求 URL、请求参数、响应状态码等。 **前端网络组件搭配方式** * **方式1:VIP下的负载**:VIP直接挂载服务器,负责处理请求。 * **方式2:容器K8S层面的负载vip提供的LB**:容器K8s层面的负载均衡系统提供LB,VIP提供LB的入口地址。 **后端网络组件搭配方式** * **方式1:默认规则**:面向域名,流量接入到后端集群A。 * **方式2:专用规则**:面向vip的一个端口有且只有1条分流规则。 **VIP映射关系** * **一对一:**一个机房,一个vip 对应一个rip一对多。 * **多对多:**多个机房,每个机房的vip对应 其机房下的多个rip4.1 vip下挂载rip。 **内网域名解析** * **内网域名解析**:vip是根据 机房入口(目前有 廊坊vip 马驹桥vip 印尼vip) 走的。 * **公网域名解析pop入口** :新应用上线时应该申请入网点(pop)处的vip。 **总结** * 使用简单的搭配方式满足流量分发需求。 * 遵循 VIP映射关系可以优化访问性能。 * 遵守 VIP 映射关系可以提高系统的可靠性。

正文

1. 摘要

现代的企业级或互联网系统往往需要进行流量规划,达成透明多级分流。流量从客户端发出到服务端处理这个过程里,流经的与功能无关的技术部件有(达成“透明分流”这个目标所采用的工具与手段):客户端缓存、域名服务器、传输链路、内容分发网络、负载均衡器、服务端缓存。透明分流带来的价值:高可用架构、高并发。

本文主要介绍流量规划中的网络请求过程过程及:

第一部分:对一次网络请求的过程作简要介绍,然后介绍自己目前了解到的前端网络组件搭配方式、后端网络组件搭配方式

第二部分:介绍LB负载系统 、vip与rip 的映射关系

第三部分:介绍内网域名解析及公网域名解析

2. 网络请求过程

通用请求过程及请求过程名词解释来源于: https://cf.jd.com/pages/viewpage.action?pageId=766717554

2.1 通用请求过程

2.2 请求过程名词解释

rip: 真实ip,指虚拟机或容器ip

vip: 虚拟ip,不可跨机房,online申请,负载、自动探活等功能,分公网vip与内网vip

内网: 专指机房内部,严格的防火墙策略,内网之间无防火墙,可申请内网vip 提供负载均衡供应用间互访;内网≠办公网

办公网: 办公区个人电脑网络,通过反向代理访问内网机房应用

公网: 互联网用户网络,通过DNS + 公网vip 访问内网机房应用

备注(自己理解 ,有可能理解不正确):

公网vip 即公网虚拟ip,虚拟不是说公网上找不到这个ip,虚拟是相对于服务器ip(rip)来说的,vip不直接承担业务逻辑

公网VIP在公网真实存在、内网vip在公司内网真实存在

2.3 前端网络组件搭配方式

引用链接: http://jdthelp.jdos.jd.com/help/bestpractice/multi-web-demo.html

外网访问需满足如下图架构:VIP后面挂 jen-nginx 来代理前端的主应用,jen代理后面挂静态应用1~N

测试环境:多个前端项目可能存在下列架构方式: 域名 -> VIP -> JEN代理(根据不同域名访问不同文件夹下的文件)-> 静态应用

2.4 后端网络组件搭配方式

后端应用从调用方式来说分为两种 (http调用 JSF调用)

前端应用 ---(协议http或者https)---后端前置应用 --(协议 jsf私有协议)----JSF微服务应用

后端前置应用 -----jsf微服务应用,之间的负载由消费者来决定,所以一般无须关注这两者之间的负载。

方式1: vip下的负载(LB负载系统) + Nginx

方式1备注:

VIP下可以直接挂载服务器,这里Nginx不是必须的,除非你需要 nginx 提供的功能(除了负载)。

如果你仅仅是用nginx来做负载,那么请去除nginx组件,没有必要加一这个组件,集团的vip的LB已经包含负载功能,不要加重系统的复杂性。

方式2:容器K8S层面的负载

vip提供的LB:

vip提供的LB下是直接挂机器IP,其中多个ip之间没有分组的概念,并且没有探活机制

每次上线需要摘掉负载下的机器,上线完成后,再把机器挂上去

行云部署-高级功能-负载均衡 ( 容器k8s层面的负载 ) 优点:

有机器分组的概念: 按照机房或者 机房+机房集群的维度分组后,每个分组申请自己的负载均衡。

具有探活机制: 设置健康探活路径,针对负载进行探活。每次上线无须摘掉负载下的机器。

3. LB负载系统简介

其实吧,vip本身就是个ip,没有多少真正的价值。vip可以理解为是集团LB负载均衡的入口ip,而LB负载均衡才是真正的分流组件。

vip 是系统自动分配复用的(vip资源珍贵,系统分配的vip有可能复用),LB负载均衡有两种分流规则:

1. 分流规则的实现方式

分流规则两种实现方式,默认规则、专用规则。

默认规则:面向域名,流量接入到后端集群。此为模板,可选择应用范围。

专用规则:面向VIP,可为某VIP独立指定后端集群。 其中专用规则优先级高。

默认规则、专用规则两者关系:

共同点 不同点
默认规则面向域名的一个端口有且只有一条分流规则 专用规则面向VIP的一个端口有且只有一条分流规则 默认规则必须存在; 专用规则优先级高; 专用规则无设置时,继承默认规则指向的后端

3.1 默认规则: 默认分流规则:域名+端口+集群,分流规则唯一性

备注: 系统分配的vip有可能复用

在默认规则中, 假设系统分配的vip都是 111.111.111

域名A (www.a.jdcom)+ 域名的一个端口port(80) 通过配置的 vip (111.111.111) 将请求转发到 后端集群A。

域名B (www.b.jd.com) + 域名的一个端口port(443) 通过配置的 vip (111.111.111) 将请求转发到 后端集群B。

3.2 专用规则: 面向vip的一个端口有且只有1条分流规则

备注:(猜测 不确定):专用规则中的vip可能不是复用的。

备注:一个VIP 也可以用多个端口,比如HTTP 是80和443,TCP是2000-2014

4. vip 和 rip的映射关系 (重要 非常重要)

一对一:一个机房,一个vip 对应一个rip

一对多:一个机房,一个vip 对应多个rip

多对多: 多个机房,每个机房的vip对应 其机房下的多个rip

4.1 vip下挂载rip的约定

  1. vip(机房入口)是机房维度的,当然如果说vip出问题了,一般情况下就是机房出问题了,这个出现的几率会比较小。

  2. vip是机房维度的,但是vip下挂哪些机器 是由研发人员决定的,因此vip下的机器是有可能跨机房的。但是研发人员应该 根据机房视图( 机器的机房所在地 )来对应此所在地的机房入口( vip ),应尽可能遵守 这个规定。

4.2 为什么要遵守这个约定呢?

1. 尽可能缩小问题影响的范围: 如果你VIP下的机器跨机房,如果Vip出问题,导致多个机房的机器都无法接收流量

2. 尽可能匹配断网演练的目标: 机房断网演练,估计VIP 也不会让流量进入到下一层,如果你vip下挂载跨机房的rip,直接让 机房的断网演练,变成了 跨机房演练(因为多个机房的机器不会接收到流量)

5. 内网域名解析(机房视图与机房入口说明)

  1. 内网域名解析时: vip是根据 机房入口(目前有 廊坊vip 马驹桥vip 印尼vip) 走的。

  2. 每个视图必须解析。 廊坊视图—>廊坊VIP,马驹桥视图—>马驹桥VIP,其他的视图—>选择马驹桥或者廊坊VIP(必须指向线上可用VIP)

  3. 为优化机房内访问,优先选择本机房VIP。

  4. 考虑到旧的机房已下架或者正在下架,旧机房优先选择廊坊、马驹桥VIP,国外应用优先选择国外的VIP。

6. 公网域名解析

pop入口 在计算机网络中,pop表示入网点(pop),pop位于网络企业的边缘外侧,是访问企业网络内部的进入点,外界提供的服务通过pop进入,这些服务包括Internet接入,广域连接以及电话服务(PSTN)。

pop入口 :新应用上线时应该申请入网点(pop)处的vip。

域名解析:

不需要VIP: 直接填写自己的公网IP

需要VIP:

  1. 请提前申请POP入口的VIP

  2. 解析前请线下绑定host测试VIP业务可用性

  3. 按照运营商对应的POP入口VIP进行解析

7. 总结

简单的请求过程最实用,实用的请求过程最简单。

用简单实用的搭配方式满足流量分发,不要随意搭配,增加系统的复杂性。

作者:京东保险 张江涛

来源:京东云开发者

与一次网络请求中的流量分发过程 | 京东云技术团队相似的内容:

一次网络请求中的流量分发过程 | 京东云技术团队

简单的请求过程最实用,实用的请求过程最简单。用简单实用的搭配方式满足流量分发,不要随意搭配,增加系统的复杂性。

强烈推荐:18.3k star,推荐一款简单易用的HTTP请求流量录制回放工具:Goreplay

在软件开发和测试过程中,我们经常需要对应用程序的网络请求进行录制和回放,以便进行性能分析、压力测试或者模拟复杂的网络环境。今天,我要向大家推荐一款简单易用的 HTTP 请求流量录制回放工具:Goreplay。 1、简介 Goreplay 是一款用 Go 语言编写的 HTTP 请求流量录制回放工具。它

记一次 CDN 流量被盗刷经历

先说损失,被刷了 70 多RMB,还好止损相对即时了,亏得不算多,PCDN 真可恶啊。 600多G流量,100多万次请求。 怎么发现的 先是看到鱼皮大佬发了一篇推文突发,众多网站流量被盗刷!我特么也中招了。 抱着看热闹的心情点开阅读了。。。心想,看看自己的中招没,结果就真中招了 。 被盗刷资源分

阿里140逆向纯与补

声明 本文章中所有内容仅供学习交流,抓包内容、敏感网址、数据接口均已做脱敏处理,严禁用于商业用途和非法用途,否则由此产生的一切后果均与作者无关,若有侵权,请联系我立即删除! 目标网站 aHR0cHM6Ly93d3cuanVtaW5nLmNvbS8= 分析逆向流程 今天我们看看ali的的n参数为140

恶意爬虫防护

如果您仔细分析过任何一个网站的请求日志,您肯定会发现一些可疑的流量,那可能就是爬虫流量。根据Imperva发布的《2023 Imperva Bad Bot Report》在2022年的所有互联网流量中,47.4%是爬虫流量。与2021年的42.3%相比,增长了5.1%。在这些爬虫流量中,30.2%是恶意爬虫,比2021年的27.7%增长了2.5%。

Swift下Data处理全流程:从网络下载,数模转换,本地缓存到页面使用

Swift下将网络返回json数据转换成struct 假如网络请求返回的数据结构是一个深层嵌套的Json 首先要通过key-value取出这个json中的数据源 // 将返回的json字符串转Dictory let json = """ { "name": "jack", "age": 20, "d

我又学会了使用Range实现网络文件下载的断点续传

目录前言1、Range请求头1.1、概述1.2、使用限制1.3、范围请求1.4、预防资源变更2、断点续传下载实现2.1、流程设计2.2、代码实现2.3、运行结果3、RandomAccessFile4、思维拓展参考资料 前言 在某次摸鱼的过程中,老大突然后面冒出来说要做一个拉取文件到本地的需求(写的时

iperf 工具使用总结

转载请注明出处: iperf是一个用于测量网络带宽的工具,可以通过客户端和服务器之间的数据传输来评估网络性能。下面详细介绍iperf的使用方法、常用命令和参数以及注意事项,并提供一些示例说明。在iperf中,流量测试通常使用TCP或UDP协议。 1. 使用方法 首先,需要在一台计算机上运行iperf

逐句回答,流式返回,ChatGPT采用的Server-sent events后端实时推送协议Python3.10实现,基于Tornado6.1

善于观察的朋友一定会敏锐地发现ChatGPT网页端是逐句给出问题答案的,同样,ChatGPT后台Api接口请求中,如果将Stream参数设置为True后,Api接口也可以实现和ChatGPT网页端一样的流式返回,进而更快地给到前端用户反馈,同时也可以缓解连接超时的问题。 Server-sent ev

Java 中for循环和foreach循环哪个更快?

摘要:本文由葡萄城技术团队于博客园发布。转载请注明出处:葡萄城官网,葡萄城为开发者提供专业的开发工具、解决方案和服务,赋能开发者。 前言 在Java编程中,循环结构是程序员常用的控制流程,而for循环和foreach循环是其中比较常见的两种形式。关于它们哪一个更快的讨论一直存在。本文旨在探究Java