【一天一点.NET小知识】运用向量Vector加速求和计算

net,vector · 浏览次数 : 8

小编点评

随着.NET版本的不断演进,从.NET Standard 2.0版本开始,支持向量类型(Vector)。从.NET 8.0版本开始,大量在Runtime提供的各个组件中运用向量计算,特别是Linq。本文将介绍如何使用向量求和函数和相减函数,并解释向量的优点和使用注意事项。 首先,我们来看向量求和函数的代码: ```csharp internal class Program { static void Main(string[] args) { int[] array = Enumerable.Range(1, 32).ToArray(); int result = Sum(array); Console.WriteLine(result); Console.ReadKey(); } public static int Sum(int[] numbers) { ReadOnlySpan span = new ReadOnlySpan(numbers); ref int ptr = ref MemoryMarshal.GetReference(span); int result = 0; int vectorSize = Vector.Count; int index; int remainder = span.Length % vectorSize; int vectorLength = span.Length - remainder; Vector vector = Vector.Zero; for (index = 0; index< vectorLength; index += vectorSize) { Vector vector2 = new Vector(span.Slice(index, vectorSize)); ref byte address = ref Unsafe.As(ref Unsafe.Add(ref Unsafe.AsRef(in ptr), index)); Vector vector2 = Unsafe.ReadUnaligned>(ref address); vector += vector2; } result += Vector.Dot(vector, Vector.One); for (; index< span.Length; index++) { result += Unsafe.Add(ref ptr, index); } return result; } } ``` 接下来,我们来看相减函数的代码: ```csharp static int Sub(int[] numbers) { ReadOnlySpan span = new ReadOnlySpan(numbers); ref int ptr = ref MemoryMarshal.GetReference(span); int result = 0; int vectorSize = Vector.Count; int index; int remainder = span.Length % vectorSize; int vectorLength = span.Length - remainder; for (index = 0; index< vectorLength; index += vectorSize) { ref byte address = ref Unsafe.As(ref Unsafe.Add(ref Unsafe.AsRef(in ptr), index)); Vector vector = Unsafe.ReadUnaligned>(ref address); result -= Vector.Dot(vector, Vector.One); } for (; index< span.Length; index++) { result -= Unsafe.Add(ref ptr, index); } return result + 2; } ``` 其他运算,例如相减,也是同理。以上代码,均可以在.NET Standard 2.0及以上版本运行。 使用向量的好处在于,它可以带来指数量级的性能提升,特别是在一些频繁调用计算的场景。然而,需要注意的是,向量类型依赖CPU硬件的SIMD指令集支持,在一些相对较旧的古董CPU上,可能不支持。 最后,我们来了解一下向量类型的相关知识: - 向量(Vector):表示指定数值类型(适用于并行算法的低级别优化)的单个向量。 - SIMD:Single Instruction, Multiple Data,单指令多数据流。这是一种并行计算技术,可以在单个指令中同时处理多个数据元素。 更多关于向量的信息,可以参考官方文档:https://learn.microsoft.com/zh-cn/dotnet/api/system.numerics.vector-1。

正文

随着 .NET 版本的演进,从 .NET Standard 2.0 版本开始,支持 Vector<T> 类型。
.NET 8.0 版本开始,大量在 Runtime 提供的各个组件中运用向量计算,​特别是 Linq。
Vector 类型:表示指定数值类型(适用于并行算法的低级别优化)的单个向量。

假如我们有一个求和函数接受一个int数组入参,当它的长度大于等于8及其倍数以上时,那么我们就可以考虑使用向量Vector<T>加速求和计算。

以下是使用了向量的求和函数代码:

internal class Program
{
    static void Main(string[] args)
    {
        int[] array = Enumerable.Range(1, 32).ToArray();
        int result = Sum(array);
        Console.WriteLine(result);
        Console.ReadKey();
    }

    public static int Sum(int[] numbers)
    {
        ReadOnlySpan<int> span = new ReadOnlySpan<int>(numbers);
        ref int ptr = ref MemoryMarshal.GetReference(span);
        int result = 0;
        int vectorSize = Vector<int>.Count;
        int index;
        int remainder = span.Length % vectorSize;
        int vectorLength = span.Length - remainder;
        Vector<int> vector = Vector<int>.Zero;
        for (index = 0; index < vectorLength; index += vectorSize)
        {
            //Vector<int> vector2 = new Vector<int>(span.Slice(index, vectorSize));
            ref byte address = ref Unsafe.As<int, byte>(ref Unsafe.Add(ref Unsafe.AsRef(in ptr), index));
            Vector<int> vector2 = Unsafe.ReadUnaligned<Vector<int>>(ref address);
            vector += vector2;
        }

        result += Vector.Dot<int>(vector, Vector<int>.One);
        for (; index < span.Length; index++)
        {
            result += Unsafe.Add(ref ptr, index);
        }

        return result;
    }
}

以下是相减函数代码:

static int Sub(int[] numbers)
{
	ReadOnlySpan<int> span = new ReadOnlySpan<int>(numbers);
	ref int ptr = ref MemoryMarshal.GetReference(span);
	int result = 0;
	int vectorSize = Vector<int>.Count;
	int index;
	int remainder = span.Length % vectorSize;
	int vectorLength = span.Length - remainder;
	for (index = 0; index < vectorLength; index += vectorSize)
	{
		ref byte address = ref Unsafe.As<int, byte>(ref Unsafe.Add(ref Unsafe.AsRef(in ptr), index));
		Vector<int> vector = Unsafe.ReadUnaligned<Vector<int>>(ref address);
		result -= Vector.Dot<int>(vector, Vector<int>.One);
	}

	for (; index < span.Length; index++)
	{
		result -= Unsafe.Add(ref ptr, index);
	}

	return result + 2;
}

其它运算,例如相减,也是同理。
以上代码,均可以在 .NET Standard 2.0 及以上版本运行。

当我们向量 Vector<T> 之后,特别是在一些频繁调用计算的场景,将获得指数量级的性能提升。
需要注意的是,向量 Vector<T> 依赖 CPU 硬件的 SIMD 指令集支持,在一些相对较旧的 古董CPU,可能不支持。

PS:

与【一天一点.NET小知识】运用向量Vector加速求和计算相似的内容:

【一天一点.NET小知识】运用向量Vector加速求和计算

随着 .NET 版本的演进,从 .NET Standard 2.0 版本开始,支持 Vector 类型。 从 .NET 8.0 版本开始,大量在 Runtime 提供的各个组件中运用向量计算,​特别是 Linq。 Vector 类型:表示指定数值类型(适用于并行算法的低级别优化)的单个向量。

Blazor技术入门

曾写过点儿前后端分离的项目(Vue+.NET Core Web API)、WPF和WinForm。因为Blazor不支持小程序的原因(相对于uniapp),所以只是大概知道Blazor可以写Web、PC和移动端项目,最大的特点就是使用C#代替JS。本文算是通过几个默认例子入门Blazor技术吧。 一

[转帖]一个小操作,SQL 查询速度翻了 1000 倍

https://tidb.net/book/tidb-monthly/2022/2022-04/usercase/sql-1000 背景介绍​ 某一天早上来到公司,接到业务同学反馈,线上某个SQL之前查询速度很快,从某个时间点开始查询速度突然变慢了,希望DBA帮忙查看下。业务同学反馈的原话如下: ​

诞生记(一)——上线一个小程序最低要花多少钱?

我是一个很懒的人,很少写博客。为什么?因为技术发展太快了,刚学习记录下来过段时间来看看,发现全都过时了。太浪费感情了。 曾经我也是一个软粉,一个.Net开发者,同学都入坑Android、Java踩着时代的红利拿高薪的时候。我却始终爱着微软。一直到微软彻底抛弃Windows Phone10的时候我才死

记一次 .NET 某餐饮小程序 内存暴涨分析

一:背景 1. 讲故事 前些天有位朋友找到我,说他的程序内存异常高,用 vs诊断工具 加载时间又太久,让我帮忙看一下到底咋回事,截图如下: 确实,如果dump文件超过 10G 之后,市面上那些可视化工具分析起来会让你崩溃的,除了时间久之外这些工具大多也不是用懒加载的方式,比如 dotmemory 会

一款.NET开源的i茅台自动预约小助手

前言 今天大姚给大家分享一款.NET开源、基于WPF实现的i茅台APP接口自动化每日自动预约(抢茅台)小助手:HyggeImaotai。 项目介绍 该项目通过接口自动化模拟i茅台APP实现每日自动预约茅台酒的功能,软件会在指定时间开始对管理的用户进行批量预约。 项目功能 用户管理 预约项目 店铺管理

记一次 .NET 某安全生产信息系统 CPU爆高分析

一:背景 1.讲故事 今天是🐏的第四天,头终于不巨疼了,写文章已经没什么问题,赶紧爬起来写。 这个月初有位朋友找到我,说他的程序出现了CPU爆高,让我帮忙看下怎么回事,简单分析了下有两点比较有意思。 这是一个安全生产的信息管理平台,第一次听说,我的格局小了。 这是一个经典的 CPU 爆高问题,过往

C#开发的应用升级更新服务器端工具 - 开源研究系列文章 - 个人小作品

笔者开发过一些小应用,然后这些应用就需要有升级更新的功能,但是如果每个都集成进去也行,但是就是得写死更新的代码了。于是就想写一个应用升级更新的管理器,以前看到过Github上有一个AutoUpdate.Net,不过它那个要集成到应用中的,不符合笔者的需求,上次编写的那个没写完,然后这几天翻出来了,想

[转帖]自己常用的一些shell脚本分享

https://www.jb51.net/article/54488.htm 这篇文章主要介绍了自己常用的一些shell脚本分享,包含20多个脚本实例,需要的朋友可以参考下 自己写了一下小的shell实例,虽然很小,但所有的大的程序都是由小的模块堆积起来的,程序员一定要懂得一种脚本的书写,而我,只会

【炫丽】从0开始做一个WPF+Blazor对话小程序

大家好,我是沙漠尽头的狼。 .NET是免费,跨平台,开源,用于构建所有应用的开发人员平台。 本文演示如何在WPF中使用Blazor开发漂亮的UI,为客户端开发注入新活力。 注 要使WPF支持Blazor,.NET版本必须是 6.0 或更高版本,本文所有示例使用的.NET 7.0,版本要求见链接,截图