吴恩达:无监督学习很重要!

# 吴恩达:无监督学习很重要!# 



Peter是我的我第一个博士生,他有着评判性思维,当时他的博士学位研究主题是用强化学习控制无人直升机,直到现在你都可以在斯坦福网站上看到这些视频。这项研究非常难,有一些事情无法克服,例如当直升机倒飞时,你如何找出位置?如何定位直升机?我们尝试了很多方法,但显然问题出在GPS硬件上,当时想过用两个GPS定位,但没有成功。为了解读GPS信号,我们疯狂索复杂的专门硬件配置,经历了很多失败,最后解决方法采用在地面上安装摄像头解决定位问题。斯坦福那时候有很多强化学习的理论文章,但是实际应用并不多,所以我们的研究在当时非常有名。

我们今天可能又回到了原点,强化学习的进展目前如此令人兴奋,但我们仍然在寻找更多的应用场景。我非常喜欢研究理论,我希望我所做的工作会对人们产生积极的影响。我还记得,多年之前,我们和一位数学教授讨论的时候,当他说道他想做的事情的时候,他的眼里充满了小星星,他说我之所以研究数学,是因为它帮助人们发现真相以及宇宙的美丽。所以,全力支持以及带着尊重看别人的观点非常棒,当我看到我的团队正在帮助人们的时候,也会非常有动力。

这个世界上需要各种各样的人,我只是其中一个,并不是每个人都像我一样做事情,但是当我钻研理论或者实践的时候,如果我坚信这是一条帮助别人的道路,满足感就会非常强烈。我们也有忽略的东西,那就是早期无监督学习的重要性,在谷歌大脑的早期,我们在无监督学习上投入的精力远超有监督学习。当前我们所知道的大部分都是通过有监督的学习来实现,从绝对有问题的论点来看,人类获取信息的方式是通过查看图像、收听音频和感悟他在这个世界上的经历。

所以无监督的学习非常重要,当然,这不是说有监督学习不重要,毕竟早在几年前,很多人认为这才是进步的方向。但是我们对“规模”的探索可能是正确的,毕竟规模能够为系统带来性能。我在斯坦福小组的名为Adam成员经过实验发现,我们训练的学习算法规模越大,效果越好。

为此他还画了一个图,并说服了我:当模型的规模比在GPU上所做的大的多的时候,便能够得到一个非常好的结果。或许这是一种有争议的文化,当时有很多朋友都说我追求规模的举动非常糟糕。但是我发现,如果你想取得突破,你必须对你所做的事情有信心,在事情流行之前做一些事情,会让你更有影响力。

2020-03-11 11:42:53

发布了471 篇原创文章 · 获赞 740 · 访问量 157万+

猜你喜欢

转载自blog.csdn.net/weixin_42137700/article/details/104794621