△ 高效的机器学习研究者 | 彻底的自我管理能力 + 坚持到底的决心
☆ John Schulman & 吴恩达
笔记
1. 挑选研究问题
(1)提升研究品位
- 阅读论文 - 认真评论与探讨
- 研究小组 - 吸收他人研究经验
- 同行建议 - 吸收他人的看法
- 成果产出 - 思考最有可能产出成果的研究方向/问题
(2)研究的原动力
- 想法驱动 - 测试某些想法
深刻理解研究主题以获得更多突破,避免与其他研究者想法相似
- 目标驱动 - 实现某些功能
注重通用性,将自己定义在通用解决方案中
△ 任何领域的机器学习的新想法都与某些目标有关
(3)研究目标高远
10% 的改善 OR 10 倍的提升?
- 较大的目标下:增量研究(10% 的提升)是最有效的
- 增加的复杂性:取决于增量研究的性能提升
2. 研究是条旅途
在不清楚终点的旅途中,不断朝着更好地结果前进:
(1)记录笔记
每日总结 & 每周总结 = 事情 + 想法 + 成果
- 记录想法
- 整理收获
- 时间管理
(2)是否换坑?
过于频繁地切换想法比呆在原地不动的故障概率更高
可以设置固定的时间去尝试那些新想法以拓宽知识面
3. 发展目光长远
走出舒适区,充实机器学习领域知识
- 教材书: 集中的方式来吸取知识,巩固基础
- 学位论文:了解研究方向的背景、现状和展望
- 前沿论文:关注领域前沿,并自己复现对比
4. 读论文的建议
(1)阅读进度法
每一篇列一行,表示从 0 到 100 的阅读进度
- 很重要:仔细读到进度100%
- 不想要:10%确定是否放弃阅读
(2)多次浏览法
- 第一遍 标题、摘要和图表 - 论文讲什么
- 第二遍 前言、结语和图表 - 论文主要思想
- 第三遍 纵览论文主体 - 把握整体脉络(数学推导可跳过)
- 第四遍 阅读所有内容 - 遇难可跳过以后攻坚
5. 团队合作
多与同学/同事交流
途径:向他们解释不理解的观点或算法,并说明自己尝试做的东西
目的:更容易地发现错误和潜在问题,吸收其他人提出的想法
我的收获
- 研究方向和问题的确定是研究的第一步,选择合适且“有品位”的问题
- 确定了研究目标就要坚持不懈地阅读和实验,且实验的想法和目标很重要
- 要培养有效的研究习惯,如记好笔记、坚持不懈等
- 目标长远,走出舒适区,丰富领域各方面知识
- 论文阅读要讲求阅读方法以提高研究效率
- 研究不是单打独斗,要注重团队合作,从团队交流中收获新的想法
来源: 机器之心公众号