没啥标题

编码器和解码器

发表于 2024-03-04 更新于 2024-09-20 分类于 ai

写完之后发现编码器和解码器这个框架不是很麻烦，就是一种思想，但是要扯上transformer就很麻烦orz。

一句话总结一下：编码器是可变->固定，解码器是固定->可变

发表于 2024-04-09 更新于 2024-09-20 分类于 math

在映射过程中，描述不同函数变量间变化速度的导数非常重要，Jacobian矩阵提供了一种表达局部输出对于输入的敏感度的方法。

发表于 2024-07-09 更新于 2024-09-20 分类于 it

写英文论文还是用latex比较好

发表于 2024-07-01 更新于 2024-09-19 分类于 paper

百篇paper计划(6/100)，好像是LoRA的改进，随便找的，而且这篇还没投会议呢。

这一篇也是微调，改lora

发表于 2024-04-09 更新于 2024-09-13 分类于 it

leetcode刷题日志，哪天有空哪天刷

发表于 2024-09-13 分类于 paper

百篇paper计划(7/100)，很短，才2页，重点在code和其project，理解transformer。论文是没啥创新点了，写得也比较拉，看看项目吧。

这一篇写完啦！^^

发表于 2024-03-05 更新于 2024-09-12 分类于 ai

Transformer是一个利用注意力机制来提高模型训练速度的神经网络架构。

#文本生成的架构这一部分确定完成了，其它部分未完全完成，以后有空再补

发表于 2024-09-12 分类于 it

安装、配置、更新nodejs的流程

但是我现在更新不了……重新配置一遍算了

发表于 2024-05-21 更新于 2024-09-04 分类于 paper

推理llm里面搞卸载的。百篇阅读计划(5/100)。看到和以前有点相关联的地方了，卸载和内存优化都是偏系统的。

因为大的背景过于重复了，以后论文注解只记录小的背景了。

发表于 2024-07-01 更新于 2024-08-31 分类于 life

关于在家里做饭的备忘录