浅谈位置编码（RoPE）
当前版本为本文的尝鲜版，稳定版尚未发布：
稳定版已发布
位置编码：
https://zhuanlan.zhihu.com/p/454482273
transformer的sin位置编码本身已经包含了相对位置信息，本身就是一种包含相对信息的绝对位置编码。因为它符合一种形式：
\[PE_{t+k}=f(k)\cdot PE(t)\]
而这种编码一种比较尴尬的地方就在于，这仍然是一种绝对位置
git回退版本
当我们commit了之后想回退，共有两个命令，四种组合。
包括git reset和git revert。其中git reset有三种模式：--mixed, --soft,
--hard
假设你提交了一次，这次提交修改了changed.sh文件，你想回退这次修改。
HEAD指的当前位置，HEAD^1就是HEAD的上一次commit，HEAD^2就是上上次commit
soft
Linux vscode右上角布局按钮显示 & 顶部不显示搜索栏
以下设置均在ubuntu上测试，windows可能类似。
开启或关闭右上角布局按钮：
image
勾选layout control
image
同时注意，window.titleBarStyle需要设置为custom才会生效。
关闭顶部中间的搜索框
中间有个很占地方的搜索框
image
设置里搜索command
center，取消勾选即可。（
wget递归下载
摘抄自https://zhuanlan.zhihu.com/p/380793959
wget -r -np -nH -R index.html http://url/including/files/you
各个参数的含义：
-r : 遍历所有子目录
-np : 不到上一层子目录去
-nH : 不要将文件保存到主机名文件夹
-R index.html : 不下载 inde
tar压缩时排除文件
如下，压缩output文件夹，但是忽略output/folder1 output/folder2 output/folder3/file1这几个文件/文件夹。
1tar -cvf output.tar.gz --exclude output/folder1 output/folder2 output/folder3/file1 output
注意：压缩的文件夹和忽略的文件夹都不要加/，并且最好
git ssh配置
一个人自己用
在GitHub/GitLab添加ssh公钥
将私钥放在本地~/.ssh下面，名字无所谓。
push你的仓库，git push xxxx
如果正好一切都很巧合的话，就能push成功。
，他就会自动找一个私钥使用。
这适用于只有一个github用户，自己对付用一下的情况。github依靠不同的私钥来区分登录的用户，所有的用户用的都是同一个网址。
如果你想知道默认会使
windows映射网络驱动器，如何更换用户名？
由于我的两台电脑用户名一样，所以直接不用做任何修改，用自己这台电脑的默认用户名就行。但是我为了安全，我想新建一个专门用来远程访问的普通用户，可是我发现无论如何都连不上，今天终于解决了，记录一下。
首先，本地电脑在windows凭据管理器中删除windows凭据，然后在注册表中搜索远程IP，把所有项目删除。
在远程电脑上把新建的普通用户remote_*用户添加到共享权限组中
i
vscode错误：Unable to connect to VS Code server: Error in request.
这种错误常见于vscode自动连上了之前失效的socket，解决方案就是，关闭vscode，然后用ssh进入服务器，kill掉所有的vscode进程
1ps -fu $USER | grep vscode | grep -v grep | awk '{print $2}' | xargs kill
然后重启vscode即可。