0%

【科研思维】高效的机器学习研究者

△ 高效的机器学习研究者 | 彻底的自我管理能力 + 坚持到底的决心
☆ John Schulman & 吴恩达  


笔记

1. 挑选研究问题

(1)提升研究品位

  • 阅读论文 - 认真评论与探讨
  • 研究小组 - 吸收他人研究经验
  • 同行建议 - 吸收他人的看法
  • 成果产出 - 思考最有可能产出成果的研究方向/问题

(2)研究的原动力

  • 想法驱动 - 测试某些想法

深刻理解研究主题以获得更多突破,避免与其他研究者想法相似

  • 目标驱动 - 实现某些功能

注重通用性,将自己定义在通用解决方案中
△ 任何领域的机器学习的新想法都与某些目标有关

(3)研究目标高远

10% 的改善 OR  10 倍的提升?

  • 较大的目标下:增量研究(10% 的提升)是最有效的
  • 增加的复杂性:取决于增量研究的性能提升

2. 研究是条旅途

在不清楚终点的旅途中,不断朝着更好地结果前进:

(1)记录笔记

每日总结 & 每周总结 = 事情 + 想法 + 成果

  • 记录想法
  • 整理收获
  • 时间管理

(2)是否换坑?

过于频繁地切换想法比呆在原地不动的故障概率更高
可以设置固定的时间去尝试那些新想法以拓宽知识面

3. 发展目光长远

走出舒适区,充实机器学习领域知识

  • 教材书: 集中的方式来吸取知识,巩固基础
  • 学位论文:了解研究方向的背景、现状和展望
  • 前沿论文:关注领域前沿,并自己复现对比

4. 读论文的建议

(1)阅读进度法

  每一篇列一行,表示从 0 到 100 的阅读进度

  • 很重要:仔细读到进度100%
  • 不想要:10%确定是否放弃阅读

(2)多次浏览法

  • 第一遍 标题、摘要和图表  - 论文讲什么
  • 第二遍 前言、结语和图表  - 论文主要思想
  • 第三遍 纵览论文主体      - 把握整体脉络(数学推导可跳过)
  • 第四遍 阅读所有内容      - 遇难可跳过以后攻坚

5. 团队合作

多与同学/同事交流

途径:向他们解释不理解的观点或算法,并说明自己尝试做的东西
目的:更容易地发现错误和潜在问题,吸收其他人提出的想法


我的收获

  1. 研究方向和问题的确定是研究的第一步,选择合适且“有品位”的问题
  2. 确定了研究目标就要坚持不懈地阅读和实验,且实验的想法和目标很重要
  3. 要培养有效的研究习惯,如记好笔记、坚持不懈等
  4. 目标长远,走出舒适区,丰富领域各方面知识
  5. 论文阅读要讲求阅读方法以提高研究效率
  6. 研究不是单打独斗,要注重团队合作,从团队交流中收获新的想法

来源: 机器之心公众号