NeurIPS 2019现场直播:9场Tutorial吸引大批观众!

"会议之眼"前方直播:

9场tutorial让你一饱眼福!NeurIPS的tutorial一向以内容系统、结构严谨著称。参与tutorial的现场观众也是多不胜数。
在这里插入图片描述

此次大会的tutorial部分从加拿大时间早上8:30开始,至下午5:00结束,为期一整天,主题分别是:模仿学习在自然语言生成中的应用、人类行为建模、贝叶斯与深度学习、高效处理深度神经网络、用于计算生物学和大健康的机器学习、分布和模型的可解释比较、强化学习、综合控制、表征学习与公平。(ppt后续会以资料形式发送给大家,记得持续关注呀!)

模仿学习与自然语言生成

模仿学习是介于强化学习与监督学习之间的一种学习范式。当我们在进行自然语言生成任务时,模仿学习可以使得我们既不依赖监督学习,也不依赖于稀疏的强化学习,而是通过探索系统中潜在次优“专家”的可用性来实现,而这些次优“专家”则会沿着策略的执行轨迹进行监督。

教程的第一部分展示了模仿学习的概念和适用范围,以及实际使用的模仿学习算法;随后针对自然语言生成实例,讲解如何通过模仿学习解决其问题,以及提供对应的学习策略。

人类行为建模

人类的行为受到多种复杂因素的影响。随着研究的深入,针对人类行为的计算机科学领域也涌现出了许多方向,包括人机交互、情感计算、社会信号处理、计算社会科学、自洽系统、智能医疗、客户行为分析、城市计算等。这一教程从多个不同的角度介绍了这一迅速发展的领域,并介绍了用于自动解读复杂行为数据的各类工具。其次,演讲者通过对现有案例的分析和解读,期待更多的研究人员意识到这一领域的研究价值,以构建出真正理解人类的智能交互系统,加深对于人类个体及整体行为的理解。

贝叶斯与深度学习

深度学习与贝叶斯方法是两个完全不同又相互补充的领域。虽然将两个领域进行结合可以得到更好的结果,但该如何结合、从哪些方面去结合是一个值得深入思考的问题。

这一教程详细介绍了贝叶斯的理论和方法,以期弥合两者间的鸿沟。基于这些原理可以推导出一系列针对特定问题的方法,从类似线性回归和前向传播一类的分类算法,到现代深度学习中重要的优化方法如SGD、RMSprop和Adam等。这些观点也能促进深度学习从新的角度进行改进,包括不确定性、鲁棒性和可解释性等。此外还将为一些复杂的困难问题给出解决方法,包括交互学习、连续学习和强化学习等等。该教程为贝叶斯和深度学习的研究人员们搭建起沟通的桥梁,未来研究人员们将一同携手解决充满挑战的实际问题。

高效处理深度神经网络:从算法到硬件架构

如何尽可能地提高深度学习的效率,无论是对于训练还是推理过程、数据中心还是边缘设备等领域,都是一直以来的重要议题。本教程从软件算法和硬件架构的角度为参与者呈现了高效深度学习的实现方法体系,充分考虑了不同平台、算法和场景中性能与功耗的平衡。

教程中介绍了CPU、GPU、FPGA和ASIC等多种硬件,并重点介绍基准测试/比对指标和评估DNN效率的设计方法。随后从硬件体系结构和网络算法方面描述了降低DNN计算成本的最新技术。最后还讨论了如何将高效技术应用于处理和计算机视觉任务上。

用于计算生物学和大健康的机器学习

AI医疗永远处于投资和科研的风口地段。现如今的我们无论是作为病人、科学家还是人类,都将受益于机器学习与生物学的协同发展。演讲者在这一教程中为参与者讲解了目前生物学的主要研究领域,包括遗传学、微生物组、临床数据、影像学和药物设计,并将重点放在了生物学、医学与机器学习交叉领域的最新进展,同时还讨论了一系列开放性的问题和所面临的挑战,为机器学习和生物信息领域的研究人员搭建起了沟通和交流的桥梁。

分布和模型的可解释比较

现在机器学习的研究人员已经为高维的真实数据开发出了越来越复杂的模型,包括图像和文本数据都得到了有效地处理。但这些复杂的模型有一部分是隐式模型,在生成样本时没有特定的概率分布函数;另一部分显性的模型通过指定分布函数构建十分复杂的结构,但却难以高效的进行采样和归一化。

这一教程为研究人员提供了最新的非参数工具来评估显式和隐式的模型。针对隐式模型,将模型中的采样数据与真实数据进行比较;针对显式模型,定义了Stein算子在无需归一化概率分布的情况下使用模型与数据进行比较。针对两种情况,通过相对测试来选取最佳模型,并强调可解释的测试,将模型与数据以不同的方式传递给用户。

在这里插入图片描述

强化学习:过去,现在和未来

强化学习是一种关于学习和决策的系统性方法。多年来的发展以及与深度学习的结合,使得现代强化学习系统展现出了举世瞩目的成就,也使得各个领域对于强化学习的研究空前高涨。这一教程讲解了强化学习的理论基础,涉及内容从目前针对强化学习的基本观点到复杂的行为建模,同时也分享了对于强化学习现状的看法,未来所面临的机遇与挑战。

在这里插入图片描述

综合控制

当随机对照试验的“金标准”不可行时,在Abadie和Gardeazabal(2003)中引入的综合控制方法已成为一种流行的经验方法,用于通过观察数据估算因果效应。Atheyand Imbens(2015)在经济学领域的因果推论和程序评估方法的最新调查中,将综合控制方法描述为“可以说是过去十五年来评估文献中最重要的创新”。尽管该方法最初仅仅被用在评估文献中,但最近综合控制已在社会科学,生物科学,工程学乃至体育领域得到了更广泛的应用。

本教程讨论了有关综合控制的方法论方面,数学基础和经典的案例研究。演讲者描述了综合控制可能有效和可能失效的实际环境;综合控制在政策评估,零售和体育活动中应用的案例;讨论了合成控件与矩阵和张量估计,高维回归和时间序列分析的数学联系;最后讨论了在强化学习的下一轮发展中,综合控制可能发挥的作用。

表征学习与公平

目前广泛采用的机器学习模型可能会导致歧视性的结果,并加剧训练数据之间的差异。随着越来越多的机器学习被应用于现实世界中的决策任务,我们必须解决机器学习中存在的偏见和公平问题。

本教程介绍了现有的研究,并提出了在表征学习和公平性的交集中存在的开放性问题。探讨了研究学习公平的,与任务无关的表征形式的可能性;公平性与泛化性能之间的联系;以及如何利用表征学习工具来实现算法中的个体和群体公平性。

发布了42 篇原创文章 · 获赞 2 · 访问量 5575

猜你喜欢

转载自blog.csdn.net/ConferenceEye/article/details/103475896