一：背景 1.讲故事 上个月 .NET调试训练营 里的一位老朋友给我发了一个 8G 的dump文件，说他的程序内存泄露了，一时也没找出来是哪里的问题，让我帮忙看下到底是怎么回事，毕竟有了一些调试功底也没分析出来，说明还是有一点复杂的，现实世界中的dump远比课上说的复杂的多。 还是那句话，找我分析是
摘要：2022年11月18日，来自厦门创新中心的40余位开发者，齐聚华为云鲁班会开发者训练营厦门站，与华为云技术大咖共同探讨技术未来，落地应用交付。 为了抓住新时代IT技术脉搏，一同探讨企业数字化转型中面临的种种问题和困难，2022年11月18日，来自厦门创新中心的40余位开发者，齐聚华为云鲁班会开
https://cloud.tencent.com/developer/inventory/600/article/1698426 背景介绍 近两年BPF技术跃然成为了一项热门技术，在刚刚结束的KubeCon 2020 Europe会议上有7个关于BPF的技术分享， 而在KubeCon 2020 C
## 一：背景 ### 1. 讲故事 训练营中有朋友问在 Linux 上如何抓 crash dump，在我的系列文章中演示的大多是在 Windows 平台上，这也没办法要跟着市场走，谁让 .NET 的主战场在**工控** 和 **医疗** 呢，上一张在 合肥 分享时的一个统计图。  ，用于NPU上执行训练，网络迁移
摘要：在做基于Ascend CL模型推理时，通常使用的有OpenCV、AIPP、DVPP这三种方式，或者是它们的混合方式，本文比较了这三种方式的特点，并以Resnet50的pytorch模型为例，结合训练营提供的sample，说明了分别是如何实现预处理的。 本文分享自华为云社区《【2023 · CA
摘要：编写一个Ascend C的sqrt算子，并通过内核调用方式在cpu和npu模式下进行验证。 本文分享自华为云社区《【2023 · CANN训练营第一季】——Ascend C sqrt算子实战》，作者：dayao。 前言 编写一个Ascend C的sqrt算子，并通过内核调用方式在cpu和npu
一：背景 1. 讲故事 昨天有位朋友找到我，说他的程序内存存在泄露导致系统特别卡，大地址也开了，让我帮忙看一下怎么回事？今天上午看了下dump，感觉挺有意思，在我的分析之旅中此类问题也蛮少见，算是完善一下体系吧。 二：WinDbg 分析 1. 到底是哪里的泄露 在.NET高级调试训练营中，我多次告诉
一：背景 1. 讲故事 上周有位朋友找到我，说他的 API 被多次调用后出现了内存暴涨，让我帮忙看下是怎么回事？看样子是有些担心，但也不是特别担心，那既然找到我，就给他分析一下吧。 二：WinDbg 分析 1. 到底是哪里的泄露 这也是我一直在训练营灌输的理念，一定要知道是哪一边的暴涨，否则很可能就
https://zhuanlan.zhihu.com/p/612752963?utm_id=0 https://github.com/CVI-SZU/Linlygithub.com/CVI-SZU/Linly 最近，FacebookResearch 开源了他们最新的大规模语言模型 LLaMA，包含
并行训练-流水线 简述 并行训练主要有三种策略: 数据并行训练加速比最高，但要求每个设备上都备份一份模型，显存占用比较高，但缺点是通信量大。 张量并行，通信量比较高，适合在机器内做模型并行。 流水线并行，训练设备容易出现空闲状态，加速效率没有DP高；但能减少通信边界支持更多的层数，适合在机器间使用。
主要为了测试模型增加Lora模块后，参数量和训练速度的变化情况。结论：正常情况下，增加Lora模块是会增加参数量的，因此前向传播和反向传播的时间也会增加。但是，在大语言模型训练的情况下，因为基础模型本身参数量非常大，Lora模块增加的参数量相对非常小。并且，基础模型不参与梯度更新，可以做模型量化，实
引言 在算法优化的世界中，理解所面对的任务不仅是起点，也是整个优化过程的核心。在这篇博客中，我将分享我在算法训练和优化中的一些经验，以及一个关于场景流估计的项目中应用的案例。我希望这些经验能帮助你在未来的项目中取得更好的成绩。 1. 深入理解任务和数据 理解算法项目的独特目标和挑战是优化的第一步。明
