万字长文:哥大CV博士总结五年读博生涯,即将入职新加坡国立大学任助理教授

在这篇文章中,哥伦比亚大学博士Mike Shou讲述了自己的五年读博经历,包括如何确定研究方向、如何确定单篇论文的选题、如何做报告、如何做出职业选择等,希望可以给正在读博或准备读博的你提供一些启发。作者 Mike 是 Facebook AI 研究科学家,他将加入新加坡国立大学 NUS,任助理教授、独立博导。他于哥伦比亚大学取得博士学位,方向为视频理解和生成。 他实验室正招收 2021 Fall PhD、访问博士生等。实验室网站:https://sites.google.com/view/showthemlab0.

在这篇文章中,哥伦比亚大学博士Mike Shou讲述了自己的五年读博经历,包括如何确定研究方向、如何确定单篇论文的选题、如何做报告、如何做出职业选择等,希望可以给正在读博或准备读博的你提供一些启发。

作者 Mike 是 Facebook AI 研究科学家,他将加入新加坡国立大学 NUS,任助理教授、独立博导。他于哥伦比亚大学取得博士学位,方向为视频理解和生成。 他实验室正招收 2021 Fall PhD、访问博士生等。

万字长文:哥大CV博士总结五年读博生涯,即将入职新加坡国立大学任助理教授

实验室网站:https://sites.google.com/view/showthemlab0. 写在前面刚上大学时,听过不少学长学姐分享会;申请博士时,读了不少留学申请总结。都收获很大,让当时啥也不懂的我,了解了每场游戏(如何度过一个充实的本科;如何拿到心仪的 PhD offer)的 principles:有啥规则,有啥技巧,等等。开始读博时候,我也去找类似的读博经历分享,令我收益良多的,如熊辉老师、@田渊栋大牛和@李沐大牛的总结,@林达华老师的 blog;但可惜只有这寥寥几篇,读博又是一个复杂的事儿,当时的我并不能清晰地看见前面的路,遇到一些事亦因缺乏经验借鉴,走了弯路。于是当时便想着,等我结业了,也得记下我学到的经历,希望能帮助到刚开始读博,像我当年一样迷茫的科研新人。也借此记录和感恩一路走来,所有帮助过我的人,best of luck。因为空儿有限,文章写的粗糙,还请多多担待;因为篇幅限制,有的课题难以讲得完善全面,还请结合自身情况,辩证地借鉴相关经验;或跟您意见不合,全当看小说,寻个乐子罢了。1. 万事开头难 (第一学期)1.1 初到纽约2014 年夏天,在北京国际机场,我安慰我妈说,“没事,明年暑假我就回来啦”,万万没想到,一直忙忙碌碌,一去就是 5 年…… 大概是初次留学的兴奋,十几个小时的飞行,感觉很快就过了,到了 JFK 机场,坐上纽约特色的黄色的士。去学校路上,先是皇后区的平房,后来到了曼哈顿,深砖红色的高楼,跟想象中的国际大都市并不大一样,倒很有历史厚重感,日后想想也是,纽约也不能到处都如时代广场那般呀。接着,办入住,搞卫生,小憩了一会儿,傍晚出去门口的超市买点吃的;第一次从 112 街,走到 Broadway 上,看着熙熙攘攘的外国人面孔,很傻的竟然笑了出来… 那会儿自然是极得意的,就是一个毛头小子,充满了对未来生活期待的样子(哎,回不去的青春啊);当然了,怎么也没想到,接下来的一年,会如此艰难……

万字长文:哥大CV博士总结五年读博生涯,即将入职新加坡国立大学任助理教授

1.2 差距开学后一系列事情,一下子让我清清楚楚地,看到自己跟师兄们比,各个方面有着很大的差距。且不说核心业务能力了,首当其冲自然是语言环境的变化。一天路上,一小哥对着我说:How are you?我想,这不是新概念英语上的经典对话吗,难道我真要回传说中的 I’m fine, thank you, and you?从那儿之后,我知道了,how are you 就相当于,吃了么您呐,并不是真的问什么,而是打招呼,跟 say hi 差不多,一般回 good good 就可以了,甚至不回,直接也回对方 how are you 都行。然后到了第一天来 lab,正好 Y 来面博后,老板让他给个 talk,Y 希腊口音的英语,再加上讲的内容涉及一些专业术语,几十分钟我几乎完全没听懂他说什么;会后跟他一对一 meet,更是尴尬的很… 后来 18 年来 FB 实习,巧了 Y 是我 mentor 之一,第一天带我吃的午饭,我们交流完全无障碍了,他也不记得当年还见过我…… 我有个朋友总结,刚来时候,跟外国人的交流,是三分靠听,七分靠猜…… 现如今,即使是印度口音,只要不是说的特别差的,或者我特别不熟悉的东西,都能通畅交流了。感觉这没啥技巧,首先要敢说,然后多跟不同的人聊天练习,慢慢就好了,倒不必太过担心,徒增压力。但是如果英语不好的话,难以跟外国专家合作,融入核心科研圈子,对长远的发展耽误很大,尽量在 1-2 年内做好这个提升。1.3 让老板知道你在干活因为我是本科结业直博,刚读博那会儿,思维里还是默认,导师是教育培养学生的角色,指导学生做出成绩;明白但不深刻认识到,博士生与导师还有雇佣关系。第一个学期,我主要是跟着师兄们做,跟导师大概一个月 meet 一次,每周有 weekly report。开学时,老板把我分给一个师兄带,参与他的项目 A,是个很好的学习机会,但是发不了 paper。11 月,CVPR 投稿的季节,另一个师兄找到我帮忙做项目 B,这个项目准备投 CVPR,做出来的话可以 co-author。于是我那段空儿都扑在做 B 上,终于实现了其中一个核心的模块。CVPR 投稿完的那周,正好导师约 meet,我想 B 的事情做完了,下面精力就都是做原本的 A 了,meet 对我来说,主要目的是确定下接下来的 plan 呗。正好搞 CVPR 之前,项目 A 的师兄让我 reproduce 一篇 nips 文章的方法,用到项目 A 的 data 上,于是,我准备的 slides 主要介绍那篇 nips 和怎么用到项目 A 上。结果 meeting 结束,导师很不高兴,以为我这几周不 progress。记得那天导师办公室没开灯,冬天下午五点的纽约,天已经黑了,周围一片黑压压的,更显压抑。我当时挺惊讶的,因为原还以为在导师印象中,是我参与了 B 的 CVPR 投稿,很 impress 呢。我后来仔细反思了下,虽然这几周我对 B 也算是呕心沥血,weekly report 里也有提,但是,一来我只是 coauthor,对于 B 事情整体而言算不上 main contributor;二来导师很忙,不能 assume 对方完全了解并且记得你做过的一点一滴。同时,我也明白了这个 meeting 的目的既是讨论 research ideas,但也是 review progress,我首先得让导师明白,我这段空儿有在好好干活。现在的我,不会只提项目 A 之后我想怎么做,会同时准备一页 slide 总结下我对 B 的贡献1.4 自己的感受没那么重要我们系第一个学期末就要博士资格考试。这个考试,各个学校称呼不同,大概就是博士生通过这个考试,才证明有能力,qualify 继续读博士。我们系给大伙儿两次机会,第一学期末第一次考,没通过的第三学期末再考一次,要是还没考过,就只能卷铺盖走人了。而且这考试还真不是走过场,每次大概挂三分之一的人,所以真真切切见到周围有人因为 qualify 没过走人的。我本科学的 CS,博士因为 fellowship 是 EE 发的,所以在 EE 系。这可愁坏我了,因为考的是 EE 的基础 topics,电路,DSP,网络啥的我大都一窍不通。于是第一个学期的课,我选了门 DSP,准备好好从头学。这是硬课,再加上平常主要精力还得放在 lab 的项目上,第一学期压力巨大。记得有一天,晚上睡觉做了噩梦,梦到不知什么怪物,惊醒,醒来想到各种 tasks 各种 due,顿时只想继续回到梦中,相比而言,还是怪物比较可爱…… 这时候,只好把自己的感受搁置一边,累、苦,想这些又有什么用呢,只能更加平添烦恼。该做什么就去做,告诉自己干就完了,结束后反而发现,过程本来也就那样,有时候我们只是过度看重了自己的感受,夸大了困难的程度,本来自己的感受没那么重要,只要身体本身还撑得住。qualify 考试在 1 月初。12 中旬,忙完了期末考试,去 Chinatown 吃了顿好的,回家看了部电影,然后跟导师请好假,专心复习 qualify。大概有三周的复习空儿,除了 DSP,其他的 topics 完全从零开始学。后来以为,这考试的目的,不是考的知识本身,而考的是学习能力。复习的过程是很惨了,时值圣诞节假期,朋友圈各式各样在佛罗里达坐游轮的,迪士尼看烟花的,回国火锅小烧烤的;而那年的纽约还尤其的冷,家里的暖气开到最大,还是冷的不行,我只能早出晚归的去图书馆;路面冻得白花花的,公车开过扬起白沙,从家里 112 街到图书馆 114 街只有 5 分钟,但却那么漫长;每天几条裤子叠着穿,有天开始一度冷到零下负十几度,我刚出门一会儿就赶紧回来,在牛仔裤外面又套了件运动裤…… 所幸最后考试通过了,小秘告诉我竟然考了第三,震惊,真是功夫不负有心人讷……

万字长文:哥大CV博士总结五年读博生涯,即将入职新加坡国立大学任助理教授

1.5 上课没那么重要第一学期,选 DSP,纯为了考 qualify exam 修的,跟我日后的研究,基本不搭噶。我第一学期还修了机器学习,机器学习我之前不系统学过,学完还是受益良多。但为了达到学分要求,我博士期间,被迫修了 14 门课,第四年还在上课…… 我的感觉是,CV 是实践科学,上课没那么重要,无数时候甚至是浪费空儿。我以为值得选课去学的,大概就是机器学习,算法,就够了。搞 CV 方向的,与其上门 CV,还不如自学网上教程,亲身参与几个项目,学的更快,对书上的知识有更深刻的理解。我以为上课最大的作用,就是去了解这门学科,有哪些基本的概念和算法(所谓把 unknown unknown 变成 known unknown),哪天你要用到他们了,需要把 known unknown 变成 known known 的时候,知道在 Google 里输入啥关键词去搜。当然如果有空儿,上些基础型的硬课,自然没啥;但对于博士生,空儿本就紧张,就得做做平衡了,选些 seminar 的课比较好,一般主要就是读论文,做 project。我后面陆陆续续带了无数低年级的学生,无数人学期伊始,以为要多学些知识,选的都是硬课,学期过半,发现作业做不完,科研没空儿,两头耽误,都是后悔不已…2. 方向比努力重要2.1 PhD 选题第一学期在课业,科研,qualify 考试,适应国外环境,种种碾压之下,总算过去了…… 虽然痛苦,但只是事情量大,努力使劲就好了…… 第二个学期开始,2015 年于我,关键词是迷茫,努力努力但怎么也使不上劲的那种……第二学期开始,重心主要集中在 research 上了,跟导师的 meeting 也从一月一次变成了每周一次,有幸得导师亲自调教各种真正做科研的能力了。导师给我定了个新的项目,深度学习下的 incremental learning。这本来是个很难的课题,现在 5 年后来看,都不被很好的解决;亦不一个标准的 benchmark,也就是说,本来大伙儿还不定义好这个课题;记得导师那会儿说,if you can formulate this problem,这个课题就已经解决 70% 了。结果忙忙碌碌几个月,研究了无数文献,做了无数实验,还是不太大的进展,就是感觉很迷茫了,不知道下一步该干嘛。幸运的是,到 5 月份,导师让我跟师兄一起参加一个叫 THUMOS 的比赛,这本来又是个新的项目了;开始我还以为,已经忙不过来了,哪有空儿再多一个项目,后来庆幸参与了这次比赛,开始了我做 video 这个方向的科研生涯。那会儿 video 领域,大伙儿主要做 classification,而且是几秒的短视频;THUMOS 是长视频,而且不光有 action classification task,还要一个 task 是 action detection,检测你所感兴趣片段的开始 / 结束空儿。参加比赛时,我跟着师兄主要搞 classification,边做边学,上手了处理视频的模型和框架,收获很大。比赛完后,我发现 classification 大伙儿搞的火热,而 detection,同样很重要的一个课题,却不人研究过基于深度学习的方法,于是就有了我的第一篇 CVPR 文章,收到了无数 follow-up。我自己也算是找到了自己的研究方向,不再迷茫。我以为这段经历,对新手很有参考价值,无数时候光努力不够,方向更重要。新手如何选博士几年的 topic,有两个课题值得思考能不能快速上手?有几个简单的评判标准:

state-of-the-art 的 paper 有不开源的代码?目的是你能迅速复现 baseline,熟悉整体 pipeline(如怎样预处理,后处理),加深对实现和细节的理解

有不对这个 topic 有 hands-on 经验的师兄,或者 community 里面 approachable 的前辈?目的是,当你遇到实现上的细节课题,可以及时咨询和得到反馈

这个 topic 有不比赛,或者标准的 benchmark?目的是,有大伙儿已经定义好的数据,实验 setup,评价标准;这样,你有可以直接比较的 baseline,outperform baseline 的时候也容易被人认可

能不能有大的 impact?这里我指的是博士期间的大方向,由一系列单项的事情或者 paper 构成。单篇 paper 通常有三种类型:(1)First work:开创了一个 topic,比如 RCNN 于 object detection(2)Last work:基本解决了一个 topic,比如 Faster-RCNN,YoLo 于 object detection(3)Improve 类型,介于 First 和 Last 之间的。

Last 很难,Improve 常见但影响力不够深远,对于新手而言,博士的早期事情,在有能力做出来和有 impact 之间的 trade-off 比较好的,估计是 First 了,不一定非要是第一篇,只要是某个 topic 里面开创性事情的那一批之一,都是不错的。这个早期事情之后,你会对这个课题哪里要改进,有很清楚的认识,因为 improvement room 大,也会有无数 ideas。同样,早期的时候怎么选这样一个 topic 呢:相关的比赛是这一两年新开的吗,相关的 benchmark 是这一两年出来的吗,上面的结果提升空间大吗(现在是 20% 还是已经 80% 了)?2.2 单篇 Paper 选题

万字长文:哥大CV博士总结五年读博生涯,即将入职新加坡国立大学任助理教授

前面说的 PhD 选题是大方向上的,具体到每一篇 paper,选择的 principle 和重点则不太一样。来 Facebook 后从马爷爷那知道了一个著名的 Heilmeier 课题系列,是指导老师们申项目的,我以为稍微改改,便很适用于我们考虑,某一篇 paper 的选题,合不合适:

What are you trying to do? Articulate your objectives using absolutely no jargon.

How is it done today, and what are the limits of current practice?

Who cares? [Support other’s research? Shape research landscape? Power applications in industry?]

What's new in your approach and why do you think it will be successful?

If you're successful, what difference will it make? [e.g. Contributions in theory/modeling? Improve accuracy by 5% on dataset A, B, C…?]

What are the risks and the payoffs? [Further, how would you mitigate the risks? If your proposed method does not work, what could be alternative design? These can end up as discussions such as ablation studies in your paper.]

How much will it cost? [e.g. How many GPUs do your experiments require? How long is each training process? How about data storage?]

How long will it take? [How many hours are you going to work on this per week? When is the submission DDL? Can you make it?]

What are the midterm and final "exams" to check for success?

3. 谈谈 PresentationPresentation 分为做报告,还有就是写 paper3.1 谈谈做报告14 年,刚来哥大那会儿,每周五是我们组会,导师让我在组会上 present RCNN,这是我第一次给导师作报告,而且是在全组面前报告,自然想要好好表现。我对 object detection 之前完全没了解过,于是 paper 读了一遍又一遍,文中用到的前人技术不懂,便找到前人的文章去学怎么回事。感觉自己学到好多,自我感动,以为花了这么大工夫,一定到时候会让导师刮目相看。结果就是啪啪打脸:导师极其严谨,当我解释了 A,解释了 B,问我已经有 A 了为啥还要 B;我大脑一片空白,尝试着解释了半天,导师表示听不懂,这是可想而知的,因为本来我自己也并不搞清楚为啥;当时自己读 paper 的思维模式本来只是,memorize 怎么做怎么做,但不去搞清楚要这么做背后的原理;另外当时 slides 准备的也不够好。总之结果是,这次报告搞砸了。还好事后,师兄们继续跟我讨论,让我对技术原理有了更深刻的认识;有的师兄更用亲身经历安慰我,说当年他刚来的时候,第一次汇报事情连 slides 都没做,干讲,导师自然也是没能听懂。之后几年,从导师身上学到了无数 presentation 的技巧:

如果大概的话,事先了解你的听众背景,是跟你做同一个 topic 的,还是同一个大领域但不同 topic 的,还是完全其他专业背景的。需要根据听众背景,定制和调整:比如,需不需要多介绍些背景?需不需要更深入技术细节?等等

一页 slide 尽大概 focus 在一个点上,不要信息量过大,否则听众很容易 lost

尽大概多用图片表达,不要大段大段的列文字,A picture is worth a thousand words

上面这两点,本来 principle 都是尽量让要讲的内容简单明了,因为无数时候我们在听 talk,这样被动接受的时候,接受新知识的能力是比主动接受时候(比如看 paper)低的。

当听众问课题的时候,If you don’t know the answer, just say don’t know.

如果是跟 mentor 日常讨论的 slides,因为会讨论到很细节的东西,有些图 PPT 画起来,很花空儿,而且通常这样细节的图还挺多,所以可以就 ipad 上面手画一画,截个图放到 PPT 里就好了;如果是正式一点的 presentation,写 slides 跟写 paper 的 principle 有点像,不要太 focus 在细节上,更重要的是讲清楚 motivation,为什么这样设计,细枝末节的不关键的内容,放在 backup slides 里面。

19 年 CVPR,Doctoral Consortium 有幸 mentor 是斯坦福的一位大牛教授,她也提到了 presentation 的重要性,说她们 lab 有个开玩笑的说法,一份 slides 交给她去改,no pixel left…… 为了分享如何能让报告听起来有兴趣,她画了下面这张图,让听众情感(亦是兴趣高低,注意力程度)随着空儿的变化,有三个高潮:首先,介绍你的课题,通常这时候大伙儿都会引发兴趣;但听着听着大伙儿注意力就不集中了,这时候就到了图中第一个低谷,这时候需要指出来这个课题有哪些 challenge,大伙儿的兴趣就又被激发了;等大伙儿兴趣来了,精力集中的时候,介绍你的一部分事情 work 1;等介绍完第一个事情,大伙儿又疲劳了,这时候指出来,即使有这个 work 1,课题还不能被解决,因为有 remaining challenge;接着大伙儿又被调动了兴致,可以开始介绍 work 2。

万字长文:哥大CV博士总结五年读博生涯,即将入职新加坡国立大学任助理教授

3.2 谈谈写 paper在 2.2 里面讲了对某一篇 paper,如何选题和做规划。那真的到了写 paper 的时候,我自己有几点如何让文章写的更好的体会:

先给一个 Talk。写 paper 最难的是构思 storyline,而最好的完成这一步的方法就是先对你的事情做一个 slides,给周围的人 present 一遍。这个过程中,你会梳理好自己的思路,画好文中的 figure,准备好实验结果的 table,周围的人还可以给你提意见,帮助你完善,等这个 talk 给完了,后面写 paper 就会顺畅自然了。本来我现在,如果准备投一个 paper,当做了一段空儿后,就会按照最终 presentation 的思路,准备 slides,用在每周给老板们 report 时。开头先快速 review 一下做的 task 和提出的方法,remind 一下 context,然后重点 focus 在那周做的新东西上,所以每周汇报的 slides 大概 80% 都是跟上一周一样的,然后新的方法和实验结果的那几页 slides 是新的,有比较多的细节。

用 Google doc 做语法检查。刚写好的 paper 有 typo 和语法错误是很难避免的,但常常会被 reviewer 揪着不放。大伙儿写 paper 如今大都在 overleaf 上,但 overleaf 的查错还是不够好,建议可以写完 paper 后,贴到 Google doc 里面。几年前开始,估计是由于 deep learning 对 Google NLP 的改进很大,感觉 Google 自动改的质量已经非常高了。

Rationale 很重要。不光是要讲清楚你怎么做的,更要 justify 你问什么这么做;不光要讲你的结果比 baseline 好,更要解释为什么好;读者看到的不应是一个 “使用手册”。有时候我们写 paper,花了无数篇幅写了无数实现细节,但是更重要的是,解释 “为什么”,这个背后的逻辑和 insights。

大部分 paper 都是提出一个新的方法,这类方法型 paper 似乎都可以套下面这个框架:

Introduction:可以分为以下几个部分:

Problem definition

Previous methods and their limits

简单描述你是提出了什么技术来 overcome 上面的 limits

一个图,非常 high-level 的解释前人事情的 limits 和你的事情怎么解决了这些 limits,最好让人 30 秒内完全看懂

最后一段如今大都是,In summary, this paper makes three contributions: First work to 解决什么 limits;提出了什么 novel 的技术;outperform 了 state-of-the-art 多少

Related Work:一般三五个 subsection,分别 review 下相关的 topics,同样不光讲 previous work 做了啥,更要讲自己的方法跟前人事情有啥不同

Method

这是文章的主体,按照你以为最容易让别人看懂的方式来讲

可以第一个 subsection 是 overview,formulate 一下你的 problem 给出 notation,配一个整体 framework 的图,图里面的字体不能太大或者太小看不清,要有些细节,让人光看图就能明白你的方法是怎么回事,但不要过于复杂,让人在不超过 2 分钟的空儿看完这张图

然后几个 subsection 具体介绍你的方法或者模型;如果 testing 跟 training 不太一样,最后一个 subsection 介绍 inference 时候的不同,通常是一些 post-processing 操作

Experiment

Datasets

Implementation details such as pre-processing process, training recipe

Evaluation metrics

Comparisons with state-of-the-art

Detailed analysis

Alternative design choice exploration

Ablation studies

Visualization examples

Conclusion (and Future Work)

Abstract:是全文的精简版,建议在 paper 写完第一稿差不多成型了,有定下来的成熟的 storyline 了,再去写 abstract;大概就是用一两句话分别概括 paper 里面每个 section,然后串起来

另外 paper 提交时候,可以交 supplementary materials,虽然 reviewer 并不被要求强制看这个,但本来给我们机会,去 include 更多文章技术细节、实验结果的好地方;在后面 rebuttal 阶段,通常篇幅有限制,但如果你已经在 supp 里面未雨绸缪,可以省无数空间,refer reviewer 去看你 supp 里面的内容就好了。说到 rebuttal,我还是比较幸运的,从导师那学到无数。导师已经是功成名就,业界泰斗那种,起初我以为他这个级别会对我们是放养;但我在哥大投自己第一篇一作 paper 的时候,导师可以说是手把手带我入门了。还记得 16 年 CVPR review 出来后,导师找我讨论 rebuttal,我那会儿对写 rebuttal 并不什么经验,也不知道可以用 R1 代表 review 1 等等。那天 meeting 开始已经晚上 7 点了,估计导师还没吃饭,我两就挨着坐在他办公室里,对着他的电脑,讨论 reviewer 提的一个一个课题。因为无数时候本来 reviewer 表达课题并不准确,他教我分析每个课题背后 reviewer 真正关注的点是什么。边讨论,导师边直接敲下我们讨论的 notes,meeting 完后,我看这 notes 基本上就可以算是个 rebuttal 的初稿了,比我 meet 前准备的 draft 强多了……4. 记四次休会2016 年,拉斯维加斯。博士期间我参加了四年的 CVPR,这是我们行业的盛事了。学术会议通常,主会 3-4 天,有 oral 环节,大伙儿可以听台上人轮流做报告,有 poster 环节,一个大场馆列满一排排的 poster stand,每篇 poster 有作者在旁边讲解和答疑,oral 和 poster 环节交替进行。大场馆在 poster 周围有各个公司的展台,一方面展示技术,一方面更多是在招人。主会前后一两天,有 tutorial 和 workshop,通常会有大佬来介绍最新的事情,因为现在 paper 大伙儿无数早就挂在 Arxiv 上看过了,无数人以为 workshop 比主会更有听的价值。若用一个词形容 16 年参加 CVPR 的体验,那就是兴奋了。首先 Vegas 就足够让人兴奋了,一座沙漠中建起来的梦幻城市,各式各样的酒店,威尼斯人,凯撒皇宫,艾弗尔铁塔,每换一个酒店就像到了一个新的国家。三年后结业旅行,我带爸妈来,故地重游依旧是很惊艳。

万字长文:哥大CV博士总结五年读博生涯,即将入职新加坡国立大学任助理教授

然后这也是第一次见到许多业界大佬们的真身。当时在湾区实习,候机的时候就发现周围都是同行。第一天晚上跟着师兄逛赌城大道,一个很高的老外来跟我们打招呼握手,我后来才意识到是现在在 Tesla 的 Andrej,之前本科的时候还邮件问过他 DBN 的课题,没想到竟然是他… 后面陆陆续续看到各种在 Paper 上面名字很熟悉的真人,很兴奋了…这次休会,我才知道了,休会的目的不光是听报告学知识,也是 social 认识人的机会,我们需要融入到这个 community 里去。从优秀的人身上我们可以学到无数;每人各有所长,有机会合作的话,可以双赢;每个人都有盲区,需以他人为镜。而这些的前提就是,你要成为这个优秀圈子的一员,跟他们有交流。当时杜老板刚结业加入 Facebook,因为我的事情基于他的之前的 C3D,在路上看到他,鼓起勇气跟他打了个招呼,杜老板很 nice 的跟我聊了一会儿,也是从那之后跟他们组有了些合作,我去年结业后也加入了这个组。不过那年,我对 social 的认识也就仅限于此了,我甚至不知道公司还有 party。不过好处是认识的人不多,不太多的招呼要打,可以集中精力休会学习,这一年算是我休会最认真的一年了,基本上把所有 poster 都过了一遍。另外,我也是第一次讲 poster,这个环节一般两小时,站着不停说话本来蛮累的,建议可以备点零食,水在旁边。2017 年,夏威夷。感谢组织,第二年又免费去了个度假胜地…… 不过这一年,因为已经入行了,休会过程很忙碌。这年有幸中了篇 oral,导师很重视,前后 slides 改了无数遍,rehearsal 了好几回。为了听众体验比较好,可以看着听众有眼神交流,同时看起来 professional,导师要我脱稿。从西雅图飞夏威夷的飞机上,就一直在背稿子,然后一直反复 rehearsal…… 报告前还是很紧张忐忑的,台下坐着得有一千人,讲 12 分钟,3 分钟 QA,不过上台后似乎因为集中精力在报告本身,反而淡定了…… 话说这种事情,感觉都是第一次很紧张,经历过了,以后就好了;记得第一年只是做 poster 展示,我事前也很紧张,但经历过后,这第二年做 poster 展示时就非常淡定了。报告给完后,因为最后一天有个 workshop 要给个 talk,slides 还没做,只能继续宅在酒店准备…… 悲催的整个休会期间,无数空儿都呆在酒店,都没啥空儿出去转转,只能默默给大伙儿朋友圈点赞,也不机会向第一年一样认认真真看 poster 了…… 所以很佩服大佬们,他们又要到处给 talk,要跟各种人 meet,是怎么安排休会空儿的……前面说到公司 party,在会议期间晚上,一般大公司都会组织自家的 party 供大伙儿 social。虽然无数时候是大型尬聊现场,但公司无数员工会来,为来年招 intern 或者正式员工做宣传;无数学生会来,可以了解不同的组做些什么,有不 headcount,intern 有不 returning full-time offer;当然,还有就是有 free food 包晚饭,而且 Party 的场地无数时候是有特色的景点,印象中去年,微软是在一艘大轮船上(感谢张老师 carry),Facebook 是在水族馆。无数时候这些 party 为了控制人流量,会要求 invitation。会议前公司们会给你发邮件 invite,大概是 HR 看到你要来 present paper,大概是某个公司 researcher 想要跟你面对面聊聊,也可以你直接联系公司的朋友,提前把你加到 list 上。有时候不 invite,有认识的公司朋友,也大概直接带进去,或者人不多了,就直接不限制了。另外,第一年休会的新人,大概看到别人去 Party 自己不 invite 会失落,但本来 duck 不必哈,找上落单的小伙伴,去周围景点好好玩玩,这大概是今后所有开的会里,可以自由支配晚上的空儿,想去玩啥就玩啥,不用去尬聊的唯一一次了,好好珍惜!2018 年,盐湖城。这一年我博士第四年结束,休会的主要任务就是找事情了。前面说到,poster 场馆有无数公司的展台,前两年我也就去拿拿文化衫就走了,这一年则不然,因为展台有 HR 给你介绍公司的招聘流程,当场收简历,也有站台的员工,可以直接了解他们组的情况。当然,这样大概还是比较 general 的招聘,即使有员工,很大概跟你也不是做同一个小方向的,一般来说大公司里面偏 production 的组在这里认识的机会比较多;如果想找偏 research 的组,还是通过你 paper 认识你的同行,师兄弟朋友们的介绍,效率相对高些,可以约他们在展台或者 Party 上见面聊。对于找 postdoc 的同学,无数老师会约在休会期间见面,甚至面试,所以可以提前 reach out 约好。2019 年,洛杉矶长滩。洛杉矶也是我很喜好的一个城市,因为我一直有个影视梦,所以很喜好好莱坞,这大概就是我为什么坚定做 video 方向的初衷了。长滩本来离 LA 市区挺远的,算是一个度假小城市了,甚至有自己的机场。长滩市最著名的景点就是 literally 的长滩了,有无数游艇一列一列地停着,蛮壮观的。

万字长文:哥大CV博士总结五年读博生涯,即将入职新加坡国立大学任助理教授

19 年这会儿我已经结业了,刚加入 Facebook,不用逛公司了解找事情的情况,倒是又可以认认真真休会了。另外,对于结业生,会有个 Doctoral Consortium,强烈建议申请,他们会组织结业生和业界大佬一对一吃饭,是个很难得的学习机会,毕竟除了自己导师,很少有其他老师能花一个小时跟你单独聊各种 research 和 career 上的课题了吧。5. 记三次实习2016 年,博二暑假,湾区,Santa Clara。来纽约连轴干了两年,暑假要去师兄在加州的 start-up 帮忙,总算要换一种生活方式了,得意!那会儿对传说中的硅谷还不概念,还不知道 San Jose(圣何塞)J 发 H 的音。因为纽约就是跟所有国际大都市一样,高楼大厦生活便利,本来不体验过典型的,所谓美帝乡村生活;湾区则是,住宅区里一栋栋的自家 house 挨着,四层就算是高楼了,每一片儿有个 plaza,聚集各种饭店超市;到湾区第一天,被感叹说像是第一天来美国的……这次实习很短,两个月,因为是 start-up,工资不高;租的地方不床,睡了两个月地铺,住家附近有条小河,蚊虫无数,对虫子极度反感的我在地铺上整了个蚊帐;天天上班打车是打不起的,只好买了辆自行车骑车上班,单程半小时还好,天气炎热也还好,最恐怖的是在一个上高速分叉口,得过个马路,不红绿灯,只能招手示意,过来的车常有大货车,而且车流量大,经常得拦下一列车,每次都胆战心惊……不过整体事情生活还是充满新鲜感的。事情上是纯 production,了解了无数 prod 的 system design;虽然早九晚七,但不用像在学校搞 research 晚上和周末还要加班,所以以为很轻松;师兄们人也很好,带着我们去过了优胜美地,三番市区玩。总体感觉就是让我紧绷的科研神经放松了一段空儿,也了解了另一种很不一样的美帝生活,习惯了吃早茶,印度菜,越南粉。2017 年,博三暑假,西雅图,Redmond。这个暑假是过去几年里,过的最得意也收获很大、非常充实的一个暑假了。这一年在微软,是 research intern;大公司确实流程比较正规,开始的时候有 orientation 带你入门,公司各种 facility 也是不错。我的 mentor 已经是很 senior 了,是组里的 manager,但还是非常 hands-on,自己还写 code 做实验,所以对技术的见解非常深入;人也很 nice,甚至还有时帮我一起 debug 算法,学习到无数。当时我在一个华人比较多的组,其他的 full-time 也很 nice,我们事情上有课题都耐心跟我们讨论,生活上带我们尝试各个楼不同的午餐。我们在的是 99 号楼,都说 99 很难吃,导致我至今还没尝过 99 的午餐…… 组里每周会有 intern 轮着做 presentation,介绍自己的进展,大伙儿都很自觉,所以,虽然说大伙儿都很 nice,但因为想要在这三个月里做出东西来,自己给自己的压力还是比较大的。这种压力我以为是好的,积极的压力。这次实习后,我就习惯了用 Windows 系统,VS 编程,onedrive,自己 macbook 上装着 Windows(这个习惯来 FB 后被打破了,现在又换回来苹果原生系统)…… 微软没发笔记本,而是台式机,所以周末来公司的 intern 还不少,再加上西雅图公交系统发达,去公司很方便,我晚上和周末基本都会在公司;也因此认识了一群小伙伴,因为微软晚上餐厅不开,所以常常坐小伙伴的车,去外面一起吃晚饭,然后再回来干活。夏天的西雅图天气很好很舒服,二十来度吧,晚上九点多天还是亮的,是全年最好的季节,其他时候则都是雨季了。2018 年,博四暑假,湾区,Menlo Park。这一年回到湾区,在 Facebook,体验是最 fancy,最累的一个暑假了。原以为之前我已经了解湾区了,但 16 年本来是在 Sunnyvale,Santa Clara 这块,靠东边,偏热;18 年 FB 在 Menlo Park,公司公寓在红木城,这块靠西边,温度跟西雅图夏天差不多,很舒服,跟 16 年常活动的区域还是有点远的。说 fancy 是因为,17 年在微软,我以为有免费的咖啡和椰子汁就很不错了;来了 FB,好么,喝的吃的种样繁多,微软就显得小巫见大巫了;FB 楼里各种有个性标识的墙,intern program 组织的活动也多,认识了无数玩得来的小伙伴。在这也学了无数 “黑话”,什么 movefast 啦,什么 what does success look like 啦……

万字长文:哥大CV博士总结五年读博生涯,即将入职新加坡国立大学任助理教授

但同时也是最累的一个暑假了,一来因为 open space 办公室,大伙儿都坐在一块儿,业界大佬就在身边,自然也会想向他们学习,做的优秀;二来 FB 有 mid-term 和 final review,一般你的 mentor 们会给你写 feedback,打分,然后有个叫 calibration 的环节,上面的老板们会把所有 intern 放在一起比较,调整分数,要看你跟你的 peers 比怎么样。所以好几次,忙到晚上 3-4 点,早上 8 点就得起来赶班车……6. 没那么简单的事6.1 Project vs. Paper刚入学时,我单纯的以为,好好做 research 就好了;但事实上,能够专心做 research 的空儿本来是不想象的那么多的,是要挤出来的,甚至去休会回来,报销填表准备材料这种杂事,小事,都得折腾掉好几个小时……但更 tricky 的是平衡 project 和 paper 之间的关系。如果你比较幸运,有国家的 Fellowship/Scholarship,或者系里的 Fellowship/Scholarship(有的是以 TA 的形式),不用做所谓的 RA,再或者 sponsor 你的 project 是纯以发 paper 为 KPI 的,而且并不 care 你做的是什么 topic,那你大概不这方面的苦恼。但是,通常老师们申请 grant,无数 grant,尤其是金额大的 project,通常甲方心里都有一个确定的想解决的课题,向老师征求 proposal,即课题的解决方案,proposal 里面会规划好每个半年甚至每个季度做什么 task。当然,这里说的 project 不包括那种纯粹是给外面公司做工程的 project,倒还都是 research project。经常项目开始的时候,因为 proposal 是以前定好的,如今环境、state-of-the-art 都不一样了,跟当下情况不符;或者甲方想解决的课题比较 practical,是个不 formulate 好的 research problem,或者不是 community 关心的偏基础的 research task。举个例子,你想做的 topic 是 object detection,community 关心的 dataset 是 VOC,COCO,但你的甲方关心的大概是某个领域的 object detection,比如 detect 某种野生动物,比如 detect 不同微生物。经常遇到的是,你提出的方法在 VOC,COCO 上面很 work,但在微生物的 dataset 上面效果不佳,这样虽然可以发 paper,但是 project 却不进展。有些项目,在开始的时候会 fund 好几个 team,然后让大伙儿比赛,比如在项目内部有个 detect 微生物的 benchmark,让你们 PK,第一年结束,淘汰掉最差的那个 team,第二年继续 PK,再末端淘汰。你要是 project 不进展,导致你导师的项目被砍了,就问你怕不怕…… 因此,无数同学就走了另一个极端,花无数精力做项目,hack 这些 project 的上的 number,无数时候涨点最快的方法是,collect 更好的 training data,用更复杂的网络,渐渐变成了解决工程课题,开发了个很牛的系统,但是不 novelty 发 paper。这种情况下,人的本性,会以为麻烦,就偏颇一方。但这本来是偷懒,千万不可。要 align 双方的兴趣,要注意平衡,trade-off,一方面要 project 有进展,对 sponsor 负责,另一方面更要对自己负责,发 paper 做有 impact 的事情。比如,尽量 focus 在模型本身,找到有 novelty,在 project benchmark 和学术界 standard benchmark 上效果都好的方法。以及,通常一个 project 开始的时候有无数 engineering 的活儿,可以暂时放一放纯 paper research,等 system 搭起来了,后面就是不断 improve 核心算法,这个时候精力更多放在 paper 这边。拿我自己举例子,15 年底,我开始 take charge of 一个新的项目,于是 16 年上半年,基本都在为这个项目搭初步的 system,从前端网站到后台数据库,从设备采购到 system infra,从 object detection 到 multi-modal;等系统差不多搭起来了,我在项目工程上就可以花很少的空儿,也有 progress 去每月 report,于是 16 年下半年,基本在做 paper,当然 topic 做的技术是将来能 improve 项目 system 一个核心模块的;到了 17 年上半年,系统要开发新的模块,又是花了三个月在项目工程上;再之后直到博士结业,都是尽量找到 common interest,一个新的模型,对 project 的 system 效果有帮助,亦有大的 paper research 价值。6.2 new dataset 和 new task 不是 low-hanging fruit刚读博时候,受周围人影响,无数人都说 release 一个新的 dataset 不什么技术含量,轻轻松松发 paper 还能赚一票引用,是个 low-hanging fruit。但当我参与到一个新的 dataset 的创建过程后,才发现这是一个非常 tedious 的事情,有无数的脏活累活,无数细节的地方需要考虑。之前 v1 版本 data,大概因为一个细节没考虑好,需要重新 collect 或者 annotate,费时又费钱,经常要迭代好几个版本。所以 create new dataset 一点也不简单,大概比提出一种新方法的 paper,花的空儿还要长。同样,以前以为提出一个新的 task(所谓挖坑)是个 low-hanging fruit,但真正做过之后才知道,也没那么容易的。17 年底,导师让我做 live detection,也就是,只根据过去和当下,监测当下发生了什么事件。我发现之前的事情都不很好地 evaluate 这个课题,formulation 上有课题,实际做的是 per-frame labeling 或者 early classification,于是决定提出一个新的 task,专门 evaluate detection 本身。投完 paper 信誓满满,结果被 CVPR 拒了。reviewer 们一方面指出了一个我之前忽略的点,另一方面指出对于有的 application,per-frame 就可以够用,不能直接说 per-frame 用来 detection 有课题,而仅仅是对于有的应用场景,per-frame 用来 detection 有课题。为此,要大改 paper 的定位。过程是痛苦的,但正因这个痛苦让事情更加完善,我们才能成长升华,最后这个事情重投 ECCV 被大伙儿认可了。对于 new dataset 或者 new task 的事情,怎么样才能做的尽量完善,减少迭代次数呢?我的一个经验是,这种项目,尽大概 involve 多的 experienced experts 参与讨论,及时跟大伙儿沟通,collect 不同人的想法。每个人看课题角度不同,放在一起就会比较完善,群众的智慧是大智慧。6.3 没那么难说了没那么简单的事,再说说没那么难的事。万事开头难,难在迈出第一步。当开始做 survey 入门时,发现这么多文献要看,会以为难;当想好 idea 准备去实现,发现要准备 data,要实现的东西一步又一步,会以为难;当开始写 paper,构思完每个 section,发现这么多内容要写,会以为难……但实际上,当我们一点一点去完成的时候,会发现完成的速度远比我们想象的快,文献一个星期可以看完经典从而入门,paper 一个星期可以有个初稿,idea 实现起来一个星期可以 coding 完,甚至跑出实验结果…… 本来没那么难,就是耐下性子,脚踏实地,干就完了。7. 结业后何去何从7.1 想清楚一般大伙儿就是三种选择吧:去公司,去创业,去学校。这个课题经常会被归为,想去学术界还是工业界,但我以为职业本身的区别,大概不那么重要,重要的是想清楚最想要什么?最喜好做什么?最擅长什么?未来几年,哪个选择能最大地支持自己的需求?7.1.1. 最想要什么?面对不同的选择,第一步要做的,就是想清楚,未来几年在这个新的岗位上,你的最大的需求是什么?比如说(1)急着用钱,要钱多稳定的事情;(2)家庭压力大,未来几年需要个人空儿多的事情;(3)做自己喜好做的事情,并在自己喜好的事业上有进展。显然(1)的话是去大公司写码;(2)和(3)的话公司和学校都可以,(2)的话去一些老牌的养老型的大公司,或者压力小一些的学校,(3)的话去发展快速 ing 的公司,或者 top 的学校;但如果是(1)和(2),恐怕都不能选创业(特别牛的大佬除外)。7.1.2. 最喜好做什么?人生奋斗一辈子,最重要的还是要得意,只有做自己喜好的事情才会得意;也只有如此,才能一直一直做下去,做出有影响力的事情。让自己得意的事情因人而异:有的人喜好编程,写一辈子代码是最得意的,在大公司经常看到年纪很大,还在写代码做 individual contributor 的,人家就喜好这个;有的人喜好开车,去自动驾驶行业最为得意;像我的话,喜好看视频,拍视频,剪辑视频,所以做和视频理解与生成有关的事情最让我得意。通常一份事情,都是由各种各样的 component 组成的,并不只是非黑即白的。比如说自动驾驶公司,跟编程有关,跟车有关,跟视频有关,跟上面三种人都关,只要有 common interest,能最大地满足你的需求就行;试想,对于第一种人(最喜好的事情是编程)来说,让他在自动驾驶公司写代码可以,但是当 VP 做管理或者搞商业啥的,他大概并不得意。而我的话,一路走来,从哥大读博研究视频算法,到 Facebook 搭建视频工业平台,再到业余生活中,拍片子制作视频… 在视频生态链的每个环节,我都很得意。总之,不同的人,看重的东西不一样,擅长的东西不一样,选择本身并无好坏之分。所有的选择,总有好的一面,也有坏的一面;只要适合自己,都是最好的选择,得意就好。大概唯一要注意的就是,不同空儿段,各种影响你做决定的因素的权重是在变化的,年纪大了我们大概会更看重家庭和稳定;有的事情年轻的时候不做,以后大概就不机会去尝试了;鱼和熊掌不可兼得,需要取舍。7.1.3. Long-term vs. Short-term考虑结业后这几年选什么样的事情时候,一方面想远一点,你的 long-term 事业,或者说可以一直做一直快乐的事情是什么?另一方面,结业后这几年 short-term 来说,是不是曲线救国,短期做的不一定是你喜好的事情,但是长远来说对你 long-term 目标是不是帮助更大?7.2 如何找教职?目前来说,结业直接找到教职的难度还是比较大的,无数人会先做个 PostDoc,可以一方面积累新的 paper,一方面积累新的 connection。同时博后期间,可以有更多空儿,准备更充分地找教职。找教职的话,qu qing 学长写了个总结,非常全面,强推,最近在 update,估计要过一段空儿放出来,大伙儿 stay tuned 哈:https://qingqu06.github.io/pdf/Job_Search.pdf7.3 如何赚大钱?最快赚大钱的方式就是创业了,当然 new grad 选择这个的比较少,要考虑你有不空儿,精力,资金上的压力和限制?有不一个好的 business model?作为技术出身的我们,有不好的商业合伙人,mentor?另外一条路,最多人选的,就是在公司做 production,升职加薪,最终财富自由的。经常有人问要不要读博?我以为,如果是想走公司这条路的,本来读两年的 master 大概就够了,save 下来的三年,在公司里面选个发展前景好的组(整个 org growth 快,从而 headcount 多的组),大概升职加薪的速度更快。当然读了博士,手握几篇 paper,是事情能力的证明,找事情更容易,是个敲门砖,否则简历关大概就被刷了;博士大伙儿庭的师兄师姐,做相同 topic 的 peers,都是将来有用的资源;这个课题也很复杂,我这里就不展开聊了。但是,想走公司一路快速升职这条路的,尽量不要抱着又搞想 research,又想做出大的 product impact,早期公司里都不用 deep learning 的时候是可以大展手脚的,但公司已经解决了 deep learning 从 0 到 1 的局面后,再抱着这种思路,可行,但大概升职速度不是最快的,尤其在是未来这十年。大佬们总结这是 “拿着锤子找钉子”,更应从 product 的痛点出发,找到最有价值的钉子,而不是最适合你锤子的钉子。当然 research 对于大公司,一直也是不可或缺的一部分,不光是 branding,吸引人才储备人才;更有一些 long-term, high impact 的难点技术攻关,大概需要 3-5 年长度的持续研发投入,毕竟 product 关注的是短期半年内的效益,无数 high impact 的东西,在半年内看不到价值,但 3-5 年后则有巨大的商业价值;另一种普遍的模式,就是 research scientist 自己,因为喜好,有搞研究的热情,通常会选择跟学校合作,带 intern 做纯 paper 的事情,然后自己负责将 paper 转化落地到产品里;亦或,公司出数据和算力,学校出人才,合作双赢。说到升职,再给大伙儿科普一下,比如在 Facebook,硕士结业是 3,博士结业是 4,往上升 5,6,到 6 后可以转 manager。朋友打趣说,工业界升职路线就是,技术(engineer)——产品(manager)——销售(business)-——投资(chao gu,划掉,capital)。这个路线将来也是要做选择的,某一天大概你以为赚的已经够了,没兴趣再赚了,就提前退休养老了。在湾区 plaza,你看着一个中年人,穿着简朴,平平凡凡,但经常大概就是超级富翁……但如果不退休的话,不管是在学校还是公司,四五十岁估计都是比较 senior 了,需要负责的事儿多,压力大,经常晚上周末要加班;像我导师这种功成名就的,还是时常收到他晚上 1 点,或者早上 7 点发的邮件。当然,有的人退休了又以为无聊,这就回到开头说的,想清楚,想要什么,喜好什么,擅长什么了。8. 杂七杂八Change topic every 5 years结业那会儿,导师说他刚结业来哥大时,师爷跟他说,you need to change topic every 5 years。感觉很有道理。如果在博士开始那会儿,开始做一个 topic,做了 5 年,基本这个 topic 就会饱和了,很难再有大的 impact。这个空儿点,差不多刚结业参加事情:如果还是 research 岗,我们就需要像刚开始读博士一样,重新选一个新的有 impact 的 topic 开始做;如果是转 production,转 business,那本身就是很不一样的 topic 了。树挪死,人挪活,大概就是这个道理。Work vs. Life这也是个复杂,需要具体课题具体分析的议题,就不展开聊了。我就简单分享一下,我所得到的一些 advise 和一些自己的浅薄体会。(1)三选二:还记得博士入学典礼上,院长跟我们分享说:未来几年的生活将由三件事组成,事情 / 学习,睡觉,social / 玩;但是,在某个具体的空儿,通常只能三选二,因为空儿和精力是有限的。像我自己的话,博士第一学期,以及每段实习期间,选择的是事情和玩,放弃睡觉空儿;博士第二学期开始,则是事情和睡觉为主,常常宅家不怎出去。就是按照自己的需求,在每个特定的空儿段,在这三者中做出你的选择,对你自己负责,不会后悔的选择,然后该学学,该睡睡,该玩玩。(2)身体会变的:最近前浪后浪的话题很火,本来很有道理,真的无数有影响力的事情,就是人在年轻时候,精力充沛,琐事不多情况下,才能做出来的。刚来哥大的时候,课业负担和科研任务都很重,还要参加些 social 活动,好几次晚上参加完活动,回到家通宵写代码,7 点半天亮了睡两小时,然后 9 点半啥事不地去上课。。现在想想那会真的是年轻,现在让我通个宵,第二天事情效率绝对超低。。(3)做你喜好做的事情:公司里面经常提到所谓 work life balance,以前我以为这就是对应事情与娱乐,但现在意识到,本来 work 也分 work input 和 work fun,life 也分 life input 和 life fun,本来 input 才是事情,fun 才是娱乐。input 需要我们付出精力,疫情期间注意消毒洗手,这就是 life 里多出来的 input;fun 就是带给我们的快乐和得意,事情中做成一件事,带来的成就感也是 fun。如果要让自己过的更快乐,也就回到上一章说的,尽量做自己喜好做的事情,增加 work fun 吧。谈谈灌水有的时候,经常听到有人评价一个事情,太水了。诚然,有些事情是水,但如果被顶会接收了,我相信它还是有它的价值。有的时候,减一减戾气,多看到事物好的一面,这样我们看这篇 paper 的空儿,才不浪费,而是学到了东西,不是吗?然后,有的新手刚入门的时候,发的第一篇文章虽是顶会,但大概比较 naive,不过只要这篇文章,能给读者带来一些 insights,让人学到东西,我还是支持这样的新手之作的,因为确实积累是需要空儿和过程的,中间这样被顶会认可,本来能很好地激励新手去 continue 科研之路。常怀感激之心一路上得到无数前辈帮助,非常感激。在来到 Facebook 后,学会心怀感激,感觉是个很明显的公司文化:每个月组里的 all hands 有 shoutout session,让大伙儿在全组面前,表达对事情中帮助了自己的人的感谢;公司有 #thanks hub, 可以给帮你的人写感谢 note,而且这个 note,对方的 manager 会看到;而且,无数时候,感觉是很小的事情,大伙儿也会互相道谢;每次开完会,大伙儿也会互相道谢。简单的一句 thank you 真的可以让人幸福感增加不少,毕竟无数时候别人并不义务非要帮助我们,这让大伙儿更愿意互帮互助,感觉是个特别好的文化。Principles For Success by Ray Dalio疫情期间,看到美联储降息,我想去了解这背后的原理,看了些经济学的文章,知道了 Ray,然后看到了他这个成功方法论。给大伙儿强烈安利,非常有价值,也适用于各种人,网上有个半小时精简版,看这个就足够了 https://www.youtube.com/watch?v=B9XGUpQZY38庚子年 · 岁末Mike 于 旧金山[ 后记: 惭愧在各位老师、大佬面前班门弄斧了;若是对于有的同学有点帮助,我就很高兴了;但不可避免的,因为空儿有限,文章写的粗糙,还请多多担待;因为篇幅限制,有的课题难以讲得完善全面,还请结合自身情况,辩证地借鉴相关经验;或跟您意见不合,全当看小说,寻个乐子罢了;顺祝大伙儿新春愉快,平安喜乐,万事胜意;希望疫情早日过去,世界和平… ]原文链接:https://zhuanlan.zhihu.com/p/338193330

原创文章,作者:机器之心,如若转载,请注明出处:https://www.iaiol.com/news/wan-zi-chang-wen-ge-da-cv-bo-shi-zong-jie-wu-nian-du-bo/

(0)
上一篇 2021年 2月 9日 下午3:53
下一篇 2021年 2月 10日 下午2:51

相关推荐

  • 腾讯朱雀实验室推出代码防护技巧Deep Puzzling,让代码更难被猜透

    随着AI技巧与网络安全结合得越来越紧密,鉴于AI技巧的网络攻防手段也在日益更替。11月26日,全球顶级的信息安全峰会HITB+Cyberweek 2021于近日举办,腾讯朱雀实验室专家钻研员Jifeng Zhu和钻研员Keyun Luo受邀参加,并进行了题为《Deep Puzzling: Binary Code Intention Hiding based on AI Uninterpretability》(《鉴于AI不可解释性的二进制代码用意躲藏》)的议题分享。会上,腾讯朱雀实验室展示了如何行使AI模型的特性,实

    2021年 11月 27日
  • 打造智能化交流及合营平台 长城汽车智能化技巧论坛成功举办

          7月1日,在长城汽车第8届科技节期间,以“合聚变 智领行”为主题的智能化技巧论坛在长城汽车哈弗技巧中心圆满落幕。本次智能化技巧论坛,邀请国表里行业大师、投资界大咖、科技届代表,以及汽车家当表里生态合营同伴等众多精英嘉宾与会,共同探讨智能汽车将来成长趋势及核心技巧立异突破等相关话题。长城汽车智能化技巧论坛现场      智能化技巧论坛从6月30日开始,至7月1日结束,为期2天。本次论坛聚焦软件定义汽车、

    2021年 7月 1日
  • 华为云位居中国DevOps市场领导者,份额、战略双第一!

    9月21日 ,国际权威阐明师机构IDC发布《IDC MarketScape: 中国 DevOps 平台市场厂商评价,2022》报告。本次报告, IDC从公司规模、产品技术、市场份额以及未来发展战略等维度对众多云厂商进行评价,华为云软件开发生产线DevCloud在市场份额和发展战略两大维度均排名第一,再次位居领导者位置。华为云DevCloud作为一站式、平安可托、全流程矫捷的DevOps云平台,已上线13项端到端子办事,办事于220万开发者,应用于10多个行业,覆盖开发全场景,全面领跑DevOps云办事市场。报告指出

    2022年 9月 22日
  • 深度剖析|可托AI 征途中的技能实践与运用机遇

    「机器之心2021-2022年度AI趋势大咖说」聚焦「驱动现在的AI技能」与「重塑产业的AI科技」,推出线上分享,共邀请近40位AI范围知名学者、产业专家及企业高管通过主题分享及多人圆桌等形式,与行业精英、读者、观众共同回顾 2021年中的重要技能和学术热点,盘点AI产业的年度研究方向以及重大科技突破,展望2022年度AI技能落后方向、AI技能与产业科技融合趋势。

    2022年 7月 20日
  • 提升编码水平,这本Python软件工程开源册本为研讨职员量身打造

    在科研领域,计算机软件的应用无处不在。但是,一些研讨者因为自身并非毕业于计算机相关学科,所以有时不得不将大量的时间花费在自学软件工程上。对于有些想要提升自身编码与软件开发水平的研讨者来说,合适的学习资料至关重要。本文介绍的这本开源册本就是为这类研讨者「量身打造」的。

    2021年 2月 5日
  • Triton推理效劳器在阿里云机器进修PAI-EAS公测啦!!!

    引言近些年来,随着GPU等计算设备算力的飞速提升,对算力要求较高的深度进修模型逐步开始在网购、医疗、音视频领域有了越来越广泛的应用。如何结合深度进修框架,用好高算力的GPU设备,是我们在AI基础建设中遇到的一个至关重要的问题。英伟达公司从硬件厂商的角度出发推出了Trition推理效劳器,阿里云PAI平台从云原生效劳角度出发,推出了PAI-EAS云原生弹性推理效劳平台,目的都是为了更好地帮助用户更好更方便地布署深度进修,供给优质的在线预测效劳。首先我们来了解一下Triton和EAS具体是什么,以及我们为什么要将两者进

    2021年 7月 20日
  • 华盛顿大学《天生模型》2020秋季课程完结,课件、讲义全部放出

    这门课聚焦天生建模技术的理论和数学基础,探讨多种天生模型技术。

    2021年 1月 29日
  • 算法“视”界杯强势来袭,2021腾讯告白算法大赛正式开启!

    技无止竞!算法巅峰对决再起,技术大咖速来报名!

    2021年 3月 11日
  • 9亿训练集、通用CV任意,微软打造Florence模型打破分类、检索等多项SOTA

    来自微软的研讨者另辟蹊径,提出了一种新的计算机视觉基础模型 Florence。在广泛的视觉和视觉 – 语言基准测试中,Florence 显著优于之前的大规模预训练方法,实现了新的 SOTA 结果。

    2021年 11月 24日
  • 安谋华夏首款ISP处置惩罚器“小巧”面世,IP产物线逐渐完善

    12月3日,安谋华夏发布了全新“小巧”多媒体产物线,其中首款产物“小巧”i3/i5 ISP处置惩罚器由安谋华夏本土团队自主研发,在降噪、清晰度和宽动静等指标上达到业界领先水平,具有高画质、低延时、可配置能力强、扩展兼容性高等特点。该款ISP处置惩罚器可广泛适用于安防监控、AIoT及智能汽车等领域的视频、图象处置惩罚工作,满足分歧场景的数据处置惩罚需要。安谋华夏产物研发常务副总裁刘澍表示:“近年来,伴随着智能化、网络化的发展,视频图象处置惩罚被广泛应用于智能安防、AIoT、智能汽车等诸多领域。受益于这些应用在华夏的蓬勃发展,华夏ISP市

    2020年 12月 7日

发表回复

您的电子邮箱地址不会被公开。 必填项已用 * 标注