在使用Openssh > 7.8版本生成私钥时，默认的私钥格式是OPENSSH格式，而低版本是RSA格式，这导致部分旧版的ssh应用无法识别新的私钥。 OPENSSH格式开头： -----BEGIN OPENSSH PRIVATE KEY----- 旧版的RSA格式开头： -----BEGIN RSA PRIVATE KEY----- 我遇到这个问题是因为，在maven中使用wa

1. SGD 随机梯度下降（stochastic gradient descent，SGD） 输入数据为(x, y)组成的pair，模型参数是\(W\)，随机选择一批样本组成一个batch，输入模型计算loss：\(L=f(X, Y;W)\)，并求出梯度，更新参数时： \(W=W-lr*\frac{\partial L}{\partial W}\) 这就是随机梯度下降。 2. Adam

某司的专用虚拟网络是用的思科公司的anyconnect，我在docker中安装他，以免干扰我的环境。 步骤： 拉取docker镜像 1docker pull ubuntu 运行docker容器 1docker exec -itd --cap-add NET_ADMIN --privileged --name vpn ubuntu bash 进入docker容器，安装必要的依赖包 123

博主在学习的过程中，一直看到负对数似然函数(NLLLoss，negative log likelihood loss)，虽然知道怎么计算，但是一直不清楚为什么叫似然。今天通过学习对似然和机器学习模型训练有了全新的理解，故记录在此。 本文主要参考：似然（likelihood）和概率（probability）的区别与联系 1. 交叉熵(CrossEntropyLoss)和NLLLoss的联系

本文并不讲解deepspeed的原理以及用法，只是澄清几个deepspeed中的技术细节。 启动deepspeed训练可以通过运行deepspeed --nproc-per-node 4 xxx.py ...，这样就会启动4个进程来运行xxx.py deepspeed启动进程后如何知道是几号进程？ 答：deepspeed启动进程会自动传入一个参数--local_rank=<ra

本人使用的系统是Ubuntu 20.04，如果是22.04会更加丝滑 1. 终端复制粘贴 Ubuntu默认的复制粘贴是Ctrl+Shift+C，而我习惯了Ctrl+C，同时windows的终端是支持鼠标右键复制粘贴的，非常方便。 对于后者，鼠标右键单击复制/粘贴，在Ubuntu 更新版本的终端中已经内置了，但是20.04还没有这个功能，想用只能自己修改并编译代码，因此放弃。 对于前者，在

秋招在即，在此记录本人的刷题记录，记录一下基本解题思路，希望评论区的各位仅聚焦题目内容本身讨论 不要讨论其他问题，尤其是某些人不要透漏我的个人信息。 剑指offer problem set在leetcode cn版已经下架，因此题目列表参考已经被GitCode1开源社区收录的力扣【剑指offer】题目汇总与总结 数组 2024/8/3 （1）剑指offer03.数组中重复的数字

在vscode中，标题栏显示当前打开的文件名，但是对我来说，我不关心文件名，更关心是打开了哪个workspace/host，因此，意图修改。 在vscode中配置window.title这一项 首先默认的配置如下： 1${dirty}${activeEditorShort}${separator}${rootName

背景 #本人在安装deepspeed后遇到了这个报错，明眼人一看就是缺库，但是搜索到的解决方案(凌漪_, 2023)说是设置一个环境变量，实在是治标不治本，而且对本人来说连标都治不了。其他的博客尚未看到解决此问题的。 分析 这个so文件理论上应该在安装deepspeed的过程中就自动编译好了，但是现在没有，我们肯定需要找到编译这个so文件的地方。 解决过程 通过

1. 查看环境变量 根据进程pid看，以121927号进程为例： 1cat /proc/121927/environ | tr '\0' '\n' 每个环境变量都以'\0'结束，直接cat会不方便查看，将'\0'替换为''可以方便查看。注意，tr后必须加单引号，不然参数会被shell转义为0和n。或者可以： 1cat /proc/121927/envi