sudo 命令 1、sudo 简介 sudo是linux系统管理指令，是允许系统管理员让普通用户执行一些或者全部的root命令的一个工具，如halt，reboot，su等等。这样不仅减少了root用户的登录 和管理时间，同样也提高了安全性。sudo不是对shell的一个代替，它是面向每个命令的。（百
一、前言 大家好！我是sum墨，一个一线的底层码农，平时喜欢研究和思考一些技术相关的问题并整理成文，限于本人水平，如果文章和代码有表述不当之处，还请不吝赐教。 作为一名从业已达六年的老码农，我的工作主要是开发后端Java业务系统，包括各种管理后台和小程序等。在这些项目中，我设计过单/多租户体系系统，
算法优化 并行注意力机制 \[串行版本: y = x + MLP(LayerNorm(x + Attention(LayerNorm(x)))) \]\[并行版本: y = x + MLP(LayerNorm(x)) + Attention(LayerNorm(x)))) \]乍一看确实不是等价的,
前置知识 混合精度训练 在参数存储时采取fp32, 开始进行fp/bp时转成fp16运算, 拿到fp16梯度后再转回fp32更新参数. ZeRO对显存占用的估算: 模型状态: Weights(fp16)、grad(fp16) 和 MasterWeights(fp32 模型参数备份)，momentum
并行训练-流水线 简述 并行训练主要有三种策略: 数据并行训练加速比最高，但要求每个设备上都备份一份模型，显存占用比较高，但缺点是通信量大。 张量并行，通信量比较高，适合在机器内做模型并行。 流水线并行，训练设备容易出现空闲状态，加速效率没有DP高；但能减少通信边界支持更多的层数，适合在机器间使用。
大家好呀，我是summo，这次的文章标题是一个Mysql数据库的SQL错误，遇到的同学自然懂，没遇到的同学希望你永远也不要遇到。 一、错误说明 Cause: java.sql.SQLException: Incorrect string value: '\xF0\x9F\x90\xA6' for c
在CUDA程序中, 访存优化个人认为是最重要的优化项. 往往kernel会卡在数据传输而不是计算上, 为了最大限度利用GPU的计算能力, 我们需要根据GPU硬件架构对kernel访存进行合理的编写.
前言 对于.NET开发人员来讲，一个程序占用内存过高，是极其糟糕，是一款不合格的程序软件，.NET开发人员也不会去使用服务器垃圾收集器(ServerGarbageCollection),而是选用工作站垃圾收集器，而是对于一款低内存的程序更能给开发人员是一款稳定运行的程序，而对于今天写这篇文章的目的，
大家好呀，我是summo，JDK版本升级的非常快，现在已经到JDK20了。JDK版本虽多，但应用最广泛的还得是JDK8，正所谓“他发任他发，我用Java8”。 其实我也不太想升级JDK版本，感觉投入高，收益小，不过有一次我看到了一些使用JDK17新语法写的代码，让我改变了对升级JDK的看法，因为这些
继承,super,重写,多态,抽象,接口 继承 extends 用于表示两个类之间的继承关系,继承是OOP的四大特性之一,他允许一个类(称之为子类或派送类) 继承另一个类(称之为父类或基类)的变量和方法,子类可以复用父类的方法和变量,也可以添加和覆盖父类的方法和变量 extends的基本语法 使用e
一、前言 大家好啊，我是summo，今天给大家分享一下我平时是怎么调试代码的，不是权威也不是教学，就是简单分享一下，如果大家还有更好的调试方式也可以多多交流哦。 前面我介绍了本地调试和远程调试，今天再加一种：利用Arthes进行调试。 二、Arthes是什么？ 以下是Arthes官网原文： 通常，本
一、前言 大家好啊，我是summo，今天给大家分享一下我平时是怎么调试代码的，不是权威也不是教学，就是简单分享一下，如果大家还有更好的调试方式也可以多多交流哦。 当我们的应用发布到线上之后，就不能随意启停了，但如果线上出现了BUG怎么办呢？大多数时候我们会借助线上打印的日志进行排查问题，如果幸运的话
前言 随着直播行业大火，各种直播类产品和产品层出不穷，能够满足各方人员的需求和互动，也使得斗鱼、虎牙、抖音都随着直播业的大火而欣欣向荣， 大家也对直播平台了解不少，也参与使用，但是怎么样才能研发出视频直播平台呢？那么针对于这个问题就是我今天想给大家讲解的一些东西，首先要对直播协议有所了解，然后怎么样
大家好啊，我是summo，今天给大家分享一下我平时是怎么调试代码的，不是权威也不是教学，就是简单分享一下，如果大家还有更好的调试方式也可以多多交流哦。 如果看过我文章的同学应该知道我是一个Java开发，平时都是Spring全家桶。后端和前端虽说都是写代码，但调代码的时候还是有点不同的，前端可以con
前言 熟悉Spring框架的同学一定都知道MVC开发模式吧，控制器（Controller）、业务类（Service）、持久层（Repository）、数据库映射（Mapper）、各种DO类构成了我们服务端的代码。初学的时候，觉得新鲜手写这些东西不觉得有啥，但是写久了就会觉得很烦。好不容易在数据库中写
前言 我们在开发项目的时候，都会连接数据库。有时候遇到问题需要根据我们编写的SQL进行分析，但如果不进行一些开发或者配置的话，这些SQL是不会打印到控制台的，它们默认是隐藏的。下面给大家介绍几种常用的方法。 第一种、代码形式 Mybatis框架是Java程序员最常用的数据库映射框架，MyBatis
东方财富网-数据中心 —— 爬虫项目 0x00 起因 MaMa 看到别人有个软件，可以直接把一个网站上的数据全部爬进一个 Excel 里边，但是那个人不给这个软件，所以她怂恿我写一个。。。 0x01 需求 千股千评 _ 数据中心 _ 东方财富网 (eastmoney.com) 对于里边的00~60开
之前学拉格朗日中值定理的时候做到一道涉及到特定函数中值渐进性的题，感觉似乎有一般的结论，推广了一下就是这样了。 感谢刘导拯救 $n=1$ 都不会证的我，感谢王佬指出这是中科大《数学分析教程》第三版问题 4.3.1。 设函数 $f(x)$ 在区间 $I$ 上有 $n+1$ 阶导数，$x_0 \in I
《数学分析 I》第四次研讨课第三部分讲稿
