Ideas 2025

Creation Time: 2025-04-21 00:27


ideas

A Collection of Various Thoughts on 2025

10/May/2025

  • 多模态作为我的研究方向和入职后的主要算法工作,是我必须紧跟前沿甚至创造前沿的重要阵地
  • 所以打算在博客中增加相关工作的占比,包括论文、项目收集和阅读笔记

09/May/2025

  • 最近的毕业季给我造成了不小的创伤,因为实际的结果和我的预期差别实在太大
  • 我以为有多篇论文加顶会在审,有专利,有若干谷歌学术cite,三个创新点都是SOTA的情况下,一定比只有软著专利的同学们强吧,以及应该能拿到类似内审高度评价般的外审结果吧
  • 但事实并非如此,思来想去很多次,一度怀疑自己命中和科研无缘。但究其原因,还是自己看得多但写得少;想的多但做的少;宽容他人但忽略了别人不会宽容自己的问题
  • 这些事情让我彻底认清自己的缺陷,希望引以为戒

17/Apr/2025

  • 尽管我读了不少关于大模型的论文,也曾在23年初参与了大模型的训练工作,但这个领域发展的太快,导致我对最新的,甚至可以说标准化的大模型模块很生疏
  • 因此,我决定从大模型的架构代码入手,了解各模块被采用的深层次原因,并以此发散来回顾和学习近两年大模型的大致情况
  • 我将基于开源的项目MiniMind来实现上述想法