2025 年寒假总结 ¶

也许是应该写个总结，毕竟 2 个月的寒假不是年年有的（不过 1 个月的暑假应该也不是年年有的）

我想大一下应该会跟寒假的基调比较相似：

• 探索兴趣
• 科研推进

首先来点俗套的干了什么的环节

What Has Been Done¶

LLM¶

• 由于上个学期很摆烂，所以在寒假开头想要好好利用寒假的时间入门一下科研。于是火急火燎地刷了 CS 231n。
• 然后把李沐读论文的系列看了看，部分讲得还不错（串讲那几个）。
• 做完了学长的小任务（写个 dataloader，搭个 pipeline，测几个指标），就开始科研了。

科研 ¶

这部分实际上就全是 dirty work 了。

• 把 Gaussian Splatting 的工作基本复现了一遍，搞了几个能用的搭了个 pipeline 造点云。
• 写了个标注工具，重构重构，顺便写了点 test。
• 跑实验，顺便写了个自动挂脚本的脚本。
  • 包括但不限于一些多模态的 benchmark。

自己玩玩 ¶

• 看了 Andrej Karpathy 的 micrograd、GPT2 和一些其他的视频。感觉是 AI 方面的 3B1B。讲得极好。
• 学了点 RL, 主要是看了看交大的《动手学强化学习》。
  • 复现了一个 alpha zero。
  • 了解一下 DPO。
• 去看了看面经，了解了 LLM 的全过程，想要之后去搞个实习，能多用点卡。😢

系统 ¶

• 想着做点系统方面的东西，其实寒假刚开始是想去做 6.s081 的。
• 于是，把暑假没学完的 CS61C 做完了 CPU project，造了个 2 级流水线，然后写了写 cache 的 lab 就去看 OS 了。
• 结果一整个寒假效率低下，081 只做了 2 个 lab。

jyy OS¶

• 讲得极好
• 反复强调了一些基本思想：
  • shell 的基本思想：把小工具做精然后组合使用
  • 使用 GPT 学习
  • 做一个最小的 **
  • 计算机是执行指令的机器 / 没有魔法
  • 如果你想要一个功能，别人很可能已经实现好了。
  • 迭代工具来长期节约时间。
  • 一些理想，勇气和创新。
• 剩下虚拟化没看完，估计做 lab 的时候会二周目。
• 然后下学期应该也会把 PA 做了，也很好的实验，做了 PA 1。NJU 太先进了😢
• 其他就是看看 OSTEP 和 xv6 book，没什么好说的。

折腾 ¶

• 给 mkdocs 写了个插件，用于处理 wiki link
  • 最近顺便看了点 markdown parser 的代码，想要更彻底地完善一些功能，顺便了解了解设计模式和一般的开发流程。
• 装了 arch，全面切换到 linux 环境，玩了各种小工具，美化。
• 学习了小鹤双拼
• 继续优化了笔记系统，尝试了很多其他的笔记软件，发了篇笔记相关的文章。
• 学了学 6.102（软件工程）中感兴趣的地方，感觉还是挺有意思的。

不满意的地方 ¶

• 美赛
  • 不喜欢。
  • 不过最近越来越感觉 科研只不过是更大的美赛
• 效率
  • 感觉每天效率有点低下，作息问题也有，不想学习也有，缺乏交流也有。
  • 自己确实没什么 plan，想学什么就学什么，导致进度一言难尽。同龄朋友 OS，计网都学完了属实给我不小的 peer pressure。
  • 不过大一用来东看看西看看应该不会最后找不到工作吧（于是便又开始摆烂了。
• 来回徘徊
  • 一直纠结要不要出国，要不要读博，要不要转专业等问题。诶，大环境确实日新月异，不能保证读研出来 LLM 还是如日中天。更不能保证等我申请北美直博的时候，还能卷到一两个 offer, 目前看来感觉 AI 方向是要被卷死节奏。
  • 诶，反正卷不过别人，还不如干点自己觉得有意思的事情。
  • 也不是所有人都能遇到很好的学长手把手教你入门的，直接带你发论文的，弯路是不得不走的。

下个学期的计划 ¶

• 先把 6.s081 写完，看完 jyy OS
  • 然后可能去学学 CS 168
  • 之后可能去学学 6.824
• 交叉的可能会写点 PA / jyy OS
• 继续完善完善 LLM 的知识，还有很多没学的，同时学一些 Mlsys 的东西，暂时没想好怎么入门，很可能是先去看点知乎，然后做几个 toy project。
• 科研就是把实验室的活干了，先干完手上这篇文章吧。
• 提升提升效率吧，寒假可太摆烂了。

最后引用一段话吧