js需要同时发起百条接口请求怎么办?--通过Promise实现分批处理接口请求

js,promise · 浏览次数 : 45

正文

如何通过 Promise 实现百条接口请求?
实际项目中遇到需要发起上百条Promise接口请求怎么办?

前言

  • 不知你项目中有没有遇到过这样的情况,反正我的实际工作项目中真的遇到了这种玩意,一个接口获取一份列表,列表中的每一项都有一个属性需要通过另一个请求来逐一赋值,然后就有了这份封装
  • 真的是很多功能都是被逼出来的
  • 这份功能中要提醒一下:批量请求最关键的除了分批功能之外,适当得取消任务和继续任务也很重要,比如用户到了这个页面后,正在发起百条数据请求,但是这些批量请求还没完全执行完,用户离开了这个页面,此时就需要取消剩下正在发起的请求了,而且如果你像我的遇到的项目一样,页面还会被缓存,那么为了避免用户回到这个页面,所有请求又重新发起一遍的话,就需要实现继续任务的功能,其实这个继续任务比断点续传简单多了,就是过滤到那些已经赋值的数据项就行了
  • 如果看我啰啰嗦嗦一堆烂东西没看明白的话,就直接看下面的源码吧

源码在此!

  • 【注】:这里的 httpRequest 请根据自己项目而定,比如我的项目是uniapp,里面的http请求是 uni.request,若你的项目是 axios 或者 ajax,那就根据它们来对 BatchHttp 中的某些部分进行相应的修改

  • 比如:其中的 cancelAll() 函数,若你的 http 取消请求的方式不同,那么这里取消请求的功能就需要相应的修改,若你使用的是 fetch 请求,那除了修改 cancelAll 功能之外,singleRequest 中收集请求任务的方式也要修改,因为 fetch 是不可取消的,需要借助 AbortController 来实现取消请求的功能,

  • 提示一下,不管你用的是什么请求框架,你都可以自己二次封装一个 request.js,功能就仿照 axios 这种,返回的对象中包含一个 abort() 函数即可,那么这份 BatchHttp 也就能适用啦

  • 简单案例测试 -- batch-promise-test.html

      <!DOCTYPE html>
      <html lang="en">
    
      <head>
        <meta charset="UTF-8">
        <meta name="viewport" content="width=device-width, initial-scale=1.0">
        <title>Document</title>
      </head>
    
      <body>
    
      </body>
      <script>
    
        /**
         * 批量请求封装
         */
        class BatchHttp {
    
      	/** 
      	 * 构造函数 
      	 * */
      	constructor() {
      	}
    
      	/** 
      	 * 单个数据项请求 
      	 * @private
      	 * @param {Object} reqOptions - 请求配置
      	 * @param {Object} item - 数据项 
      	 * @returns {Promise} 请求Promise
      	*/
      	#singleRequest(item) {
      	  return new Promise((resolve, _reject) => {
      		// 模拟异步请求
      		console.log(`发起模拟异步请求 padding...: 【${item}】`)
      		setTimeout(() => {
      		  console.log(`模拟异步请求 success -- 【 ${item}】`)
      		  resolve()
      		}, 200 + Math.random() * 800)
      	  })
      	}
    
      	#chunk(array, size) {
      	  const chunks = []
      	  let index = 0
    
      	  while (index < array.length) {
      		chunks.push(array.slice(index, size + index))
      		index += size
      	  }
    
      	  return chunks
      	}
    
      	/**
      	 * 批量请求控制
      	 * @private
      	 * @async
      	 * @returns {Promise}
      	*/
      	async #batchRequest() {
      	  const promiseArray = []
      	  let data = [1, 2, 3, 4, 5, 6, 7, 8, 9, 10, 11, 12, 13, 14, 15, 16, 17, 18, 19, 20, 21, 22, 23, 24, 25, 26, 27, 28, 29, 30, 31, 32, 33, 34, 35, 36, 37, 38, 39, 40, 41, 42, 43, 44, 45, 46, 47, 48, 49, 50, 51, 52, 53, 54, 55, 56, 57, 58, 59, 60, 61, 62, 63, 64, 65, 66, 67, 68, 69, 70, 71, 72, 73, 74, 75, 76, 77, 78, 79, 80, 81, 82, 83, 84, 85, 86, 87, 88, 89, 90, 91, 92, 93, 94, 95, 96, 97, 98, 99, 100]
    
      	  data.forEach((item, index) => {
      		// 原来的错误逻辑(原来的逻辑,导致所有的 Promise 回调函数都会被直接执行,那么就只有对 response 进行分批的功能了)
      		// const requestPromise = this.#singleRequest(item)
      		// promiseArray.push(requestPromise)
    
      		// -- 修改为:
      		promiseArray.push(index)
      	  })
    
      	  const promiseChunks = this.#chunk(promiseArray, 10) // 切分成 n 个请求为一组
    
      	  let groupIndex = 1
      	  for (let ckg of promiseChunks) {
      		// -- 修改后新增逻辑(在发起一组请求时,收集该组对应的 Promiise 成员)
      		const ck = ckg.map(idx => this.#singleRequest(data[idx]))
      		// 发起一组请求
      		const ckRess = await Promise.all(ck) // 控制并发数
      		console.log(`------ 第${groupIndex}组分批发起完毕 --------`)
      		groupIndex += 1
      	  }
      	}
    
      	/**
      	 * 执行批量请求操作
      	 */
      	exec(options) {
      	  this.#batchRequest(options)
      	}
        }
    
        const batchHttp = new BatchHttp()
        setTimeout(() => {
      	batchHttp.exec()
        }, 2000)
      </script>
    
      </html>
    
  • BatchHttp.js

      // 注:这里的 httpRequest 请根据自己项目而定,比如我的项目是uniapp,里面的http请求是 uni.request,若你的项目是 axios 或者 ajax,那就根据它们来对 BatchHttp 中的某些部分
      import httpRequest from './httpRequest.js'
    
      /**
       * 批量请求封装
       */
      export class BatchHttp {
    
      	/** 
      	 * 构造函数 
      	 * @param {Object} http - http请求对象(该http请求拦截器里切勿带有任何有关ui的功能,比如加载对话框、弹窗提示框之类),用于发起请求,该http请求对象必须满足:返回一个包含取消请求函数的对象,因为在 this.cancelAll() 函数中会使用到
      	 * @param {string} [passFlagProp=null] - 用于识别是否忽略某些数据项的字段名(借此可实现“继续上一次完成的批量请求”);如:passFlagProp='url' 时,在执行 exec 时,会过滤掉 items['url'] 不为空的数据,借此可以实现“继续上一次完成的批量请求”,避免每次都重复所有请求
      	 */ 
      	constructor(http=httpRequest, passFlagProp=null) {
      		/** @private @type {Object[]} 请求任务数组 */
      		this.resTasks = []
      		/** @private @type {Object} uni.request对象 */
      		this.http = http
      		/** @private @type {boolean} 取消请求标志 */
      		this.canceled = false
      		/** @private @type {string|null} 识别跳过数据的属性 */
      		this.passFlagProp = passFlagProp
      	}
    
    
      	/**
      	 * 将数组拆分成多个 size 长度的小数组
      	 * 常用于批量处理控制并发等场景
      	 * @param {Array} array - 需要拆分的数组
      	 * @param {number} size - 每个小数组的长度
      	 * @returns {Array} - 拆分后的小数组组成的二维数组
      	*/
      	#chunk(array, size) {
      		const chunks = []
      		let index = 0
    
      		while(index < array.length) {
      		chunks.push(array.slice(index, size + index))
      		index += size;
      		}
    
      		return chunks
      	}
    
      	/** 
      	 * 单个数据项请求 
      	 * @private
      	 * @param {Object} reqOptions - 请求配置
      	 * @param {Object} item - 数据项 
      	 * @returns {Promise} 请求Promise
      	*/
      	#singleRequest(reqOptions, item) {
      		return new Promise((resolve, _reject) => {
      			const task = this.http({
      				url: reqOptions.url, 
      				method: reqOptions.method || 'GET',
      				data: reqOptions.data,
      				success: res => {
      					resolve({sourceItem:item, res})
      				}
      			})
      			this.resTasks.push(task)
      		})
      	}
    
      	/**
      	 * 批量请求控制
      	 * @private
      	 * @async
      	 * @param {Object} options - 函数参数项
      	 * @param {Array} options.items - 数据项数组
      	 * @param {Object} options.reqOptions - 请求配置  
      	 * @param {number} [options.concurrentNum=10] - 并发数
      	 * @param {Function} [options.chunkCallback] - 分块回调 
      	 * @returns {Promise}
      	*/
      	async #batchRequest({items, reqOptions, concurrentNum = 10, chunkCallback=(ress)=>{}}) {
      		const promiseArray = []
      		let data = []
      		const passFlagProp = this.passFlagProp
      		if(!passFlagProp) {
      			data = items
      		} else {
      			// 若设置独立 passFlagProp 值,则筛选出对应属性值为空的数据(避免每次都重复请求所有数据,实现“继续未完成的批量请求任务”)
      			data = items.filter(d => !Object.hasOwnProperty.call(d, passFlagProp) || !d[passFlagProp])
      		}
      		// --
      		if(data.length === 0) return
    
      		data.forEach((item,index) => {
      			// 原来的错误逻辑(原来的逻辑,导致所有的 Promise 回调函数都会被直接执行,那么就只有对 response 进行分批的功能了)
      			// const requestPromise = this.#singleRequest(reqOptions, item)
      			// promiseArray.push(requestPromise)
      			// -- 修改为:这里暂时只记录下想对应的 data 的数组索引,以便分组用,当然这部分有关分组代码还可以进行精简,比如直接使用 data.map进行收集等方式,但是为了与之前错误逻辑形成对比,这篇文章里还是这样写比较完整
      			promiseArray.push(index)
      		})
    
      		const promiseChunks = this.#chunk(promiseArray, concurrentNum) // 切分成 n 个请求为一组
    
      		for (let ckg of promiseChunks) {
      			// -- 修改后新增逻辑(在发起一组请求时,收集该组对应的 Promiise 成员)
      			const ck = ckg.map(idx => this.#singleRequest(data[idx]))
      			// 若当前处于取消请求状态,则直接跳出
      			if(this.canceled) break
      			// 发起一组请求
      			const ckRess = await Promise.all(ck) // 控制并发数
      			chunkCallback(ckRess) // 每完成组请求,都进行回调
      		}
      	}
    
      	/**
      	 * 设置用于识别忽略数据项的字段名
      	 * (借此参数可实现“继续上一次完成的批量请求”);
      	 * 如:passFlagProp='url' 时,在执行 exec 时,会过滤掉 items['url'] 不为空的数据,借此可以实现“继续上一次完成的批量请求”,避免每次都重复所有请求
      	 * @param {string} val 
      	 */
      	setPassFlagProp(val) {
      		this.passFlagProp = val
      	}
    
      	/**
      	 * 执行批量请求操作
      	 * @param {Object} options - 函数参数项
      	 * @param {Array} options.items - 数据项数组
      	 * @param {Object} options.reqOptions - 请求配置  
      	 * @param {number} [options.concurrentNum=10] - 并发数
      	 * @param {Function} [options.chunkCallback] - 分块回调 
      	 */
      	exec(options) {
      		this.canceled = false
      		this.#batchRequest(options)
      	}
    
      	/**
      	 * 取消所有请求任务
      	 */
      	cancelAll() {
      		this.canceled = true
      		for(const task of this.resTasks) {
      			task.abort()
      		}
      		this.resTasks = []
      	}
      }
    

调用案例在此!

  • 由于我的项目是uni-app这种,方便起见,我就直接贴上在 uni-app 的页面 vue 组件中的使用案例

  • 案例代码仅展示关键部分,所以比较粗糙,看懂参考即可

      <template>
      	<view v-for="item of list" :key="item.key">
      		<image :src="item.url"></image>
      	</view>
      	</template>
      	<script>
      	import { BatchHttp } from '@/utils/BatchHttp.js'
    
      	export default {
      		data() {
      			return {
      				isLoaded: false,
      				batchHttpInstance: null,
      				list:[]
      			}
      		},
      		onLoad(options) {
      			this.queryList()
      		},
      		onShow() {
      			// 第一次进页面时,onLoad 和 onShow 都会执行,onLoad 中 getList 已调用 batchQueryUrl,这里仅对缓存页面后再次进入该页面有效
      			if(this.isLoaded) {
      				// 为了实现继续请求上一次可能未完成的批量请求,再次进入该页面时,会检查是否存在未完成的任务,若存在则继续发起批量请求
      				this.batchQueryUrl(this.dataList)
      			}
      			this.isLoaded = true
      		},
      		onHide() {
      			// 页面隐藏时,会直接取消所有批量请求任务,避免占用���源(下次进入该页面会检查未完成的批量请求任务并执行继续功能)
      			this.cancelBatchQueryUrl()
      		},
      		onUnload() {
      			// 页面销毁时,直接取消批量请求任务
      			this.cancelBatchQueryUrl()
      		},
      		onBackPress() {
      			// 路由返回时,直接取消批量请求任务(虽然路由返回也会执行onHide事件,但是无所胃都写上,会判断当前有没有任务的)
      			this.cancelBatchQueryUrl()
      		},
      		methods: {
      			async queryList() {
      				// 接口不方法直接贴的,这里是模拟的列表接口
      				const res = await mockHttpRequest()
      				this.list = res.data
    
      				// 发起批量请求
      				// 用 nextTick 也行,只要确保批量任务在列表dom已挂载完成之后执行即可
      				setTimeout(()=>{this.batchQueryUrl(resData)},0)
      			},
      			/**
      			 * 批量处理图片url的接口请求
      			 * @param {*} data 
      			 */
      			 batchQueryUrl(items) {
      				let batchHttpInstance = this.batchHttpInstance
      				// 判定当前是否有正在执行的批量请求任务,有则直接全部取消即可
      				if(!!batchHttpInstance) {
      					batchHttpInstance.cancelAll()
      					this.batchHttpInstance = null
      					batchHttpInstance = null
      				}
      				// 实例化对象
      				batchHttpInstance = new BatchHttp()
      				// 设置过滤数据的属性名(用于实现继续任务功能)
      				batchHttpInstance.setPassFlagProp('url') // 实现回到该缓存页面是能够继续批量任务的关键一步 <-----
      				const reqOptions = { url: '/api/product/url' }
      				batchHttpInstance.exec({items, reqOptions, chunkCallback:(ress)=>{
      					let newDataList = this.dataList
      					for(const r of ress) {
      						newDataList = newDataList.map(d => d.feId === r['sourceItem'].feId ? {...d,url:r['res'].msg} : d)
      					}
    
      					this.dataList = newDataList
      				}})
    
      				this.batchHttpInstance = batchHttpInstance
      			},
      			/**
      			 * 取消批量请求
      			 */
      			cancelBatchQueryUrl() {
      				if(!!this.batchHttpInstance) {
      					this.batchHttpInstance.cancelAll()
      					this.batchHttpInstance = null
      				}
      			},
      		}
      	}
      	</script>
    

与js需要同时发起百条接口请求怎么办?--通过Promise实现分批处理接口请求相似的内容:

js需要同时发起百条接口请求怎么办?--通过Promise实现分批处理接口请求

如何通过 Promise 实现百条接口请求? 实际项目中遇到需要发起上百条Promise接口请求怎么办? 前言 不知你项目中有没有遇到过这样的情况,反正我的实际工作项目中真的遇到了这种玩意,一个接口获取一份列表,列表中的每一项都有一个属性需要通过另一个请求来逐一赋值,然后就有了这份封装 真的是很多功

再学Blazor——概述

简介 Blazor 是一种 .NET 前端 Web 框架,同时支持服务器端呈现和客户端交互性。 使用 C# 语言创建丰富的交互式 UI 共享前后端应用逻辑 可以生成混合桌面和移动应用 受益于 .NET 的性能、可靠性和安全性 需要有 HTML、CSS、JS 相关基础(开发 UI 框架的话) 组件化设

Chart.js (v2.9.4)概要介绍

chart.js是一个非常优秀的开源图表插件,扩展非常灵活,同时也提供了大量的钩子函数,给与用户添加自定义插件,实现个性化的需求。 具体的优势特点,这里不详述,网上大把资料,现开始正式深入了解这个插件. Chart布局大概分为如下六个区域,这些是主要的,也有些特殊,比如左右两边都有Y轴,这个用的较少

本地JS文件批量压缩

最近在维护一个小后台项目,有段JS需要压缩上传到CDN存储服务器。由于之前压缩的JS文件都比较少,都是手动压缩的。这次需要压缩的文件比较多,所以用了批量压缩。特此记录一下,方便大家和自己以后再用到的时候备忘。 v准备工作 安装nodejs 首先在本地安装node.js和npm,一般npm集成于nod

缕析条分Scroll属性

最近有项目需要使用js原生开发滑动组件,频繁要用到dom元素的各种属性,其中以各种类型的height和top属性居多,名字相近,含义也很容易搞混。因此特地总结归纳了一下常用的知识点,在文末我们来挑战实现一个简易的移动端Scroll组件。

如何使用 JS 判断用户是否处于活跃状态

有时候,我们需要在网页判断用户是否处与非活跃状态,如果用户长时间没有在页面上进行任何操作,我们则判定该用户是非活跃的。 在 javascript 中我们可以通过监听某些鼠标或键盘相关的事件来判定用户是否在活跃中。

【ASP.NET Core】在node.js上托管Blazor WebAssembly应用

由于 Blazor-WebAssembly 是在浏览器中运行的,通常不需要执行服务器代码,只要有个“窝”能托管并提供相关文件的下载即可。所以,当你有一个现成的 Blazor wasm 项目,没必要用其他语言重写,或者你不想用 ASP.NET Core 来托管(有些大材小用了),就可以试试用 node

解决HtmlUnit执行JS报错提示ScriptException

问题描述 HtmlUnit作为一款比Selenium更轻量的HeadLess的Java版本浏览器模拟器,不需要在服务器上安装部署浏览器及其Driver程序。 但是,众所周知,HtmlUnit对JS脚本的支持并不是很友好,GitHub中大部分的issue都和JS执行错误有关,作者也一直在升级JS En

第129篇:JS模块化开发

好家伙,本篇为《JS高级程序设计》第二十六章“模块”学习笔记 JS开发会遇到代码量大和广泛使用第三方库的问题。 解决这个问题的方案通 常需要把代码拆分成很多部分,然后再通过某种方式将它们连接起来。 若代码量较大,我们使用模块化开发的模式,也能够使代码容易维护 我们需要模块 1.模块模式 把逻辑分块,

Nuxt.js 生成sitemap站点地图文件

Nuxt.js 生成sitemap站点地图文件 背景介绍 ​ 使用nuxt框架生成静态文件支持SEO优化,打包之后需要生成一个 sitemap.xml 文件方便提交搜索引擎进行收录。官网有提供一个插件sitemap 但是如果是动态路由需要手动一个个配置比较麻烦,无法自动检索生成。所以自己编写一个生成