本文将系统性介绍GPTQ以及他爹，他爷爷，他太爷爷系列论文。GPTQ是目前极端流行的一个后训练量化算法。本文从他太爷爷开始讲起。 GPTQ使用的方法改进自OBC(Frantar, 2022)，OBC来源于OBS(Hassibi, 1992)，OBS来源于OBD(Lecun, 1990) 这是一种量化、剪枝用的算法 首先OBD是LeCun的论文提出的(1990)： https://pr

敬请参考： https://zhuanlan.zhihu.com/p/585280693 设置左键单击按钮功能 1gsettings set org.gnome.shell.extensions.dash-to-dock click-action minimize-or-previews minimize-or-previews是： 多窗口：显示预览 单窗口：最小化 还有其他选项，查

对于正定对称矩阵\(\mathbf{H}\)，可以分解为\(\mathbf{H}=\mathbf{XX}^T\)，其中\(\mathbf{X}\)是下三角矩阵。这个分解方法就是cholesky分解，pytorch对应的函数是torch.linalg.cholesky 使用\(\mathbf{X}\)可以求出\(\mathbf{H}^{-1}\)，pytorch对应的函数是torch.choles

矩阵乘法求导 pyotrch中只能是标量对矩阵求导，所以矩阵乘法结束后加个sum \[ L = sum(\bm{WX}) \] 其中，\(\bm{W}\)和\(\bm{X}\)都是矩阵，那么 \[ \frac{\partial L}{\partial\bm{W}}_{\cdot i}=\sum\bm{X}_{i\cdot} \] 梯度和W的形状相同，梯度中每列都是相同的，只要是第i列

解决办法： /etc/modprobe.d/alsa-base.conf文件加一行： 1options snd-hda-intel model=dell-headset-multi 然后设置里就可以选内置音频了，之前没有。 参考资料：https://askubuntu.com/questions/1258583/install-realtek-audio-drivers-in-ubuntu

本合集力求精简，那些很多博客所谓常用但是几乎没有用武之地，简直就是脱裤子放屁的快捷键本文不会涉及 清屏：Ctrl+L 光标移动到行首：Ctrl+A 光标移动到行尾：Ctrl+E 删除光标前的字符串：Ctrl+U 删除光标后的字符串：Ctrl+K 还有功能等同于backspace和delete的快捷键，真是毫无用处。

nvidia不同架构的显卡有不同的Compute Capability，不同版本的cuda支持的Compute Capability不同，所以安装cuda要支持该显卡对应的Compute Capability。 显卡的Compute Capability查看： https://developer.nvidia.com/cuda-gpus#compute 中文版： https://dev

tunnel 死循环 1while true;do ssh -NL 3049:localhost:2049 231;done

根据个人理解，pytorch显存分3个概念：reserved memory、allocated memory、context memory。参考：https://discuss.pytorch.org/t/difference-between-allocated-and-reserved-memory/87278/4 reserved memory是pytorch向GPU申请的，用来给pyt

这篇代码段帮了大忙： https://gist.github.com/proudlygeek/5721498 下面给出我的设置： 我要在机器97上访问机器231上的硬盘，需要把231上的/data1/ubuntu挂载到97上 1. 共享nfs文件夹 在231上编辑：/etc/exports（需要root） 123ubuntu@lthpc:~$ cat /etc/exports/data1