文章目录
如何理解科研？
好的科研工作应该具有哪些特点？
好的科研工作® = 一个有价值的问题(Q) + 一个好的idea(I) + 严谨周全的实验(E) + 清晰达意的写作(W)
研究一定要有用吗？
研究的目的是发现新知识，解决新问题，在做研究的时候并不一定是实用导向的。
但是真正好的研究最终是有用的，在未来对于社会和人类具有深远影响的。
思想和创新是论文的核心，在开始做研究的时候，不一定要追求有很大的实际用途
会议和期刊有哪些区别？
会议周期短，3-4个月出结果，期刊周期长，从初审 (直接退稿，修改)到最终录用6-18个月不等。
会议篇幅短，4-8页，期刊篇幅长，10+ (也有4页的 很少)
会议创新性强，紧跟前沿，期刊学术性强，论证严谨充分企业很看重会议，高校很看重期刊(尤其是非计算机专业)
会议具有社交属性，直接和工业界链接(offer expo)，期刊没有这类功能
很多会议文章会在增加一半的工作量后转成期刊
好的科研习惯
维护论文阅读列表笔记。
深入理解任务，写博客、笔记。
详细的数据统计分析，每个实验知道自己为什么做。
及时和导师讨论，和其他研究者交流。
做好研究反思，诊断阶段性问题。
Think before you do, write before you do
常见错误
问三不知，不知道哪里好，哪里不好，为什么好，为什么不好。
文献调研不充分，idea和别人重复，投稿的时候才发现。
选择的领域过于陈旧，don’t beat a dead horse。
单打独斗，缺乏交流，后期才发现方向很水，没什么意义，或者idea根本就不对。
对科研过于理想化，项目/科研/系统。
不爱动手做实验，缺乏分析实验结果，寻找insight的过程。
如何选择有价值的方向？
选择研究方向的重要性
对于科研来说，确定方向和问题往往是最困难的。
能问出正确的问题，研究已经成功了一大半了。
好方向的标准是什么？
前沿性
重要性
复杂性。例如：在技术上有一定难度。
传承性。可以一直做下去。
可行性。方案可行。
对于选择研究方向有哪些技巧？
在选方向的时候问自己三个问题
这件事情重要吗？
这件事情我做有什么优势？
这件事情为什么以前做不了？
确定具体研究问题时问自己三个问题
方向的终极目标是什么？(解译出所有视觉符号，通用语言理解)。
是什么阻碍了这个目标的实现？(时空信息挖掘不充分，网络做不深，过平滑)。
这个问题我目前有条件做吗？(数学功底，算法能力，算力，工程人数)。
创新的层次
开拓新的领域，提出新的问题
LLM+Agent, Visual grounding,ImageNet，adversarial robustness
理论层面进行基础性地创新
Score-Based Generative Modeling through SDE
对基础模块，通用架构进行改进
ResNet, Transformer, LSTM，RWKV
针对特定的问题，提出新方法
See papers with code, task …
结合以前的方法，做新系统
…system.
给人看待问题的新角度
What does bert with vision look like? Rethinking … Understanding
如何发现好的创新点？
从阅读论文中发觉
从实验室中获得insight
从和别人的交流中
创新点的模式总结
A到B，一个在A领域有用的Idea，方法，把A进行修改，用到B领域
例：Deformable对CNN有用，验证Deformable对Transformer也有用。
A+B，A和B在某个问题上都work，组合起来效果会更好
例：DETR
A-B，某一个问题的解法A，一定需要B作为它的组件吗？
例：Not All Images are Worth 16x16 Words: Dynamic Vision Transformers with Adaptive Sequence Length
解释一个问题为什么会存在，从而针对这个点提方法
例：Why normalizing flow fail to detect oOD
对前人做实验的方法进行分析总结
例：Diffusion beats GAN
对模型进行基础性的改进
例：ResNet
借助成熟的方法体系
例：Self-supervised point cloud
定义一个新问题
例：Generate spatial audio
对某一问题进行系统性分析
例： Understand deformable attention
统一benchmark，从实验中发现一些insight
例：A closer look at local aggregation
从老的领域挖掘出新的东西
例：RWVK
如何阅读文献？
解决什么问题？
创新点和方法是什么？
结果和结论是什么？
注1：这个方法（思路）的每一步具体怎么操作，每一步都有什么目的，为了解决一个什么样的小问题
在做的过程中，有哪些难点，作者是如何解决的。
注2：作者得到的每一张图、每一张表、每一个结果，都说明了什么问题
如何设计实验并迭代研究方案？
为什么要做实验？
做实验的目的是为了验证论文核心论文，假设是成立的
模型是否涨点？
可视化结果是否和intuition相符？
到底哪些类别解决了，哪些没有解决？
如果把模型拆解，哪一部分是最薄弱的点？
提出的观点，是不是和实验相符？
一定要带着问题和目的去做实验，做好记录
如何设计好实验？
选择好的baseline，熟悉相关的环境，评测指标。
根据你想要验证的假设，对baseline进行增减。
每次只改一个东西(模块、超参、训练方式)。
先验证主要结论，再验证次要的。
从多种角度印证文章核心的点，增加说服力。
Ablation study。
多种手段，量化指标，可视化，降维图，系统展示
优秀论文实验案例：ConvNext
如何迭代研究方案？
设计方案
做实验
分析结果
修改方案