sudo 命令 1、sudo 简介 sudo是linux系统管理指令，是允许系统管理员让普通用户执行一些或者全部的root命令的一个工具，如halt，reboot，su等等。这样不仅减少了root用户的登录 和管理时间，同样也提高了安全性。sudo不是对shell的一个代替，它是面向每个命令的。（百
前置知识 Activation 激活指的是一些在fp时计算得到的临时tensor, 会用于bp时的计算. 如果能在fp计算后把临时tensor缓存下来就可以加速bp, 缺点在于激活会占用大量显存. 以一层transformer结构为例分析下各层存在的激活. 简单部分的分析这里忽略. 主要分析下几个不
论文重新审视了深度神经网络中的不确定性估计技术，并整合了一套技术以增强其可靠性。论文的研究表明，多种技术（包括模型正则化、分类器改造和优化策略）的综合应用显着提高了图像分类任务中不确定性预测的准确性 来源：晓飞的算法工程笔记 公众号 论文: SURE: SUrvey REcipes for buil
一、前言 大家好呀，我是summo，之前有自学过Shrio框架，网上一搜就有SpringBoot整合Shrio+ JWT的文章，我是在学习Shrio框架的时候顺带学的JWT。后来我还看见有很多博主专门写文章介绍JWT，说这个东西的优点很多，安全性好、去中心化、方便啥的，我就把JWT也应用在我们自己的
Docker部署springboot项目 环境准备 要在windows上使用docker需要确认系统的需求 需要启用虚拟化支持的CPU 启用适用于windows的Linux子系统功能 保证足够的内存 下载dockerdesktop 下载后会提示安装对应的环境 坑点 安装过程中需要安装wsl环境，会遇
一、前言 大家好！我是sum墨，一个一线的底层码农，平时喜欢研究和思考一些技术相关的问题并整理成文，限于本人水平，如果文章和代码有表述不当之处，还请不吝赐教。 作为一名从业已达六年的老码农，我的工作主要是开发后端Java业务系统，包括各种管理后台和小程序等。在这些项目中，我设计过单/多租户体系系统，
算法优化 并行注意力机制 \[串行版本: y = x + MLP(LayerNorm(x + Attention(LayerNorm(x)))) \]\[并行版本: y = x + MLP(LayerNorm(x)) + Attention(LayerNorm(x)))) \]乍一看确实不是等价的,
前置知识 混合精度训练 在参数存储时采取fp32, 开始进行fp/bp时转成fp16运算, 拿到fp16梯度后再转回fp32更新参数. ZeRO对显存占用的估算: 模型状态: Weights(fp16)、grad(fp16) 和 MasterWeights(fp32 模型参数备份)，momentum
并行训练-流水线 简述 并行训练主要有三种策略: 数据并行训练加速比最高，但要求每个设备上都备份一份模型，显存占用比较高，但缺点是通信量大。 张量并行，通信量比较高，适合在机器内做模型并行。 流水线并行，训练设备容易出现空闲状态，加速效率没有DP高；但能减少通信边界支持更多的层数，适合在机器间使用。
大家好呀，我是summo，这次的文章标题是一个Mysql数据库的SQL错误，遇到的同学自然懂，没遇到的同学希望你永远也不要遇到。 一、错误说明 Cause: java.sql.SQLException: Incorrect string value: '\xF0\x9F\x90\xA6' for c
在CUDA程序中, 访存优化个人认为是最重要的优化项. 往往kernel会卡在数据传输而不是计算上, 为了最大限度利用GPU的计算能力, 我们需要根据GPU硬件架构对kernel访存进行合理的编写.
前言 对于.NET开发人员来讲，一个程序占用内存过高，是极其糟糕，是一款不合格的程序软件，.NET开发人员也不会去使用服务器垃圾收集器(ServerGarbageCollection),而是选用工作站垃圾收集器，而是对于一款低内存的程序更能给开发人员是一款稳定运行的程序，而对于今天写这篇文章的目的，
大家好呀，我是summo，JDK版本升级的非常快，现在已经到JDK20了。JDK版本虽多，但应用最广泛的还得是JDK8，正所谓“他发任他发，我用Java8”。 其实我也不太想升级JDK版本，感觉投入高，收益小，不过有一次我看到了一些使用JDK17新语法写的代码，让我改变了对升级JDK的看法，因为这些
继承,super,重写,多态,抽象,接口 继承 extends 用于表示两个类之间的继承关系,继承是OOP的四大特性之一,他允许一个类(称之为子类或派送类) 继承另一个类(称之为父类或基类)的变量和方法,子类可以复用父类的方法和变量,也可以添加和覆盖父类的方法和变量 extends的基本语法 使用e
一、前言 大家好啊，我是summo，今天给大家分享一下我平时是怎么调试代码的，不是权威也不是教学，就是简单分享一下，如果大家还有更好的调试方式也可以多多交流哦。 前面我介绍了本地调试和远程调试，今天再加一种：利用Arthes进行调试。 二、Arthes是什么？ 以下是Arthes官网原文： 通常，本
一、前言 大家好啊，我是summo，今天给大家分享一下我平时是怎么调试代码的，不是权威也不是教学，就是简单分享一下，如果大家还有更好的调试方式也可以多多交流哦。 当我们的应用发布到线上之后，就不能随意启停了，但如果线上出现了BUG怎么办呢？大多数时候我们会借助线上打印的日志进行排查问题，如果幸运的话
前言 随着直播行业大火，各种直播类产品和产品层出不穷，能够满足各方人员的需求和互动，也使得斗鱼、虎牙、抖音都随着直播业的大火而欣欣向荣， 大家也对直播平台了解不少，也参与使用，但是怎么样才能研发出视频直播平台呢？那么针对于这个问题就是我今天想给大家讲解的一些东西，首先要对直播协议有所了解，然后怎么样
大家好啊，我是summo，今天给大家分享一下我平时是怎么调试代码的，不是权威也不是教学，就是简单分享一下，如果大家还有更好的调试方式也可以多多交流哦。 如果看过我文章的同学应该知道我是一个Java开发，平时都是Spring全家桶。后端和前端虽说都是写代码，但调代码的时候还是有点不同的，前端可以con
前言 熟悉Spring框架的同学一定都知道MVC开发模式吧，控制器（Controller）、业务类（Service）、持久层（Repository）、数据库映射（Mapper）、各种DO类构成了我们服务端的代码。初学的时候，觉得新鲜手写这些东西不觉得有啥，但是写久了就会觉得很烦。好不容易在数据库中写
前言 我们在开发项目的时候，都会连接数据库。有时候遇到问题需要根据我们编写的SQL进行分析，但如果不进行一些开发或者配置的话，这些SQL是不会打印到控制台的，它们默认是隐藏的。下面给大家介绍几种常用的方法。 第一种、代码形式 Mybatis框架是Java程序员最常用的数据库映射框架，MyBatis
