没啥标题

百篇paper计划(7/100)，很短，才2页，重点在code和其project，理解transformer。论文是没啥创新点了，写得也比较拉，看看项目吧。

这一篇写完啦！^^

Transformer是一个利用注意力机制来提高模型训练速度的神经网络架构。

#文本生成的架构 这一部分确定完成了，其它部分未完全完成，以后有空再补

安装、配置、更新nodejs的流程

但是我现在更新不了……重新配置一遍算了

推理llm里面搞卸载的。百篇阅读计划(5/100)。看到和以前有点相关联的地方了，卸载和内存优化都是偏系统的。

因为大的背景过于重复了，以后论文注解只记录小的背景了。

关于在家里做饭的备忘录

小样本llm论文阅读，百篇paper计划(3/100)

思维链针对的是大模型搞推理问题，让它直接从直接输出一个结果变成写推理过程+结果的形式。

串相关的算法题整理

Welcome to Hexo! This is your very first post. Check documentation for more info. If you get any problems when using Hexo, you can find the answer in troubleshooting or you can ask me on GitHub.

局部最优和鞍点都是处在grandient为0的位置，首先是找到这个位置，然后判断它是局部最优还是鞍点，利用海森矩阵从数学公式上就能判定。最后为了让损失函数更新能逃离鞍点，可以用海森矩阵或者动量两种方法。