本篇文章是博主在人工智能等领域学习时，用于个人学习、研究或者欣赏使用，并基于博主对人工智能等领域的一些理解而记录的学习摘录和笔记，若有不当和侵权之处，指出后将会立即改正，还望谅解。文章分类在学习摘录和笔记专栏：
学习摘录和笔记（20）---《人工智能的认识问题》
人工智能的认识问题
原文/论文出处：
- 题目：《有关人工智能的若干认识问题破口》
- 作者：李国杰
- 时间：2021-07-15
- 来源：中国计算机学会
1 人工智能会不会再次进入严冬？
对正确性和安全性要求很高、环境复杂的行业，人工智能应用还有很长的路要走。比如医疗行业、军事领域。
第三波人工智能的兴起不是来自学术界，而是来自企业界的驱动。本质上不是人工智能界发明了以前不知道的新技术，而是数字化的普及产生了智能化的需求。
如果我们能去掉人工智能头上神圣的光环，放下人工智能高贵的身段，在工业制造、生物学、医学、社会科学等诸多领域甘当配角，新一代人工智能不但不会进入严冬，必将走出小舞台，奔向科学研究和数字经济的大舞台，进入飞速发展的康庄大道。
2 深度学习是否遇到了发展的天花板？
减少深度学习对数据的依赖性，已经成为人工智能研究重要的探索方向之一。目前人工智能算法的主要特点是实现“大数据、小任务”。
目前的机器学习是针对特定的、预先编程好的某个目的，基本上是算法、模型的优化。如何实现人造智能体的自动“进化”是体现智能的关键。
人工智能的目标主要是两个：
一是计算机的智能化，
二是人造物理世界（主要是工业世界）的智能化。
机器不一定有意识，但可以有目的。机器学习的真正难点在于保证机器的目的与人的价值观一致。人工智能面临的重要挑战不是机器能做多少事，而是知道机器做的对不对。
加州大学伯克利分校马毅教授最近发文，从数据压缩（和“群不变性”）的角度提供了对深度（卷积）网络的完全“白盒”解释，展示了深层架构、线性算子等所有参数都可以从最大化速率缩减（具有“群不变性”）的原则推导出来。这可能是深度学习理论的重大进展，值得高度关注。
深度学习只是人工智能长河中的一朵浪花，人工智能学科的未知领域十分巨大。
3 可解释性和通用性是不是当前最重要的研究方向？
可解释性和预测精度是相互矛盾的两个维度，如同高性能和低功耗、通用性和高效率一样，难以得兼。
对于人工智能，人们最担心的可能不是对“输出结果是如何产生的”解释不清楚，而是不知道它什么时候会出现错误，比可解释性更重要的是人工智能的防错技术，要有科学依据地将出错率降低到可接受的范围，特别是解决攻击性环境下出错的问题。
提高可解释性不一定是防止出错的唯一途径，防错研究应该成为人工智能的重要研究方向。
-------当人工智能的研究完全进入了不可解释的误区，或许研究防错技术会是一个对于人工智能进入对正确性和安全性要求很高、环境复杂的行业的办法。但是可解性的研究是不可中断的，人工智能想要有更大的突破，怎能放弃对于可解释性的研究。我们需要抓住本质，不可顾此失彼，要解决最本质的问题，才是进步的源泉。
对于人工智能研究，比最大程度的通用性更紧迫的研究目标包括：应对具体应用复杂环境的鲁棒性和自适应性，智能系统的安全性等。
历史已证明，只靠基于人类知识和特定规则创建人工智能，往往会失败。要真正实现基于知识的推理，需要万亿级的常识知识库支持，现在可以实现更大规模的常识知识图谱，用大规模的常识知识图谱来支撑深度学习，有可能实现更通用的人工智能。
目前基于数据驱动的机器学习不能举一反三，鲁棒性差（易受噪声的影响），不能在使用过程中自动进行学习。
为了提高机器学习的水平，需要与心理学、认知科学和神经科学结合，借鉴人类的学习机制，在学习中融入常识和推理，改变目前机器学习的方法与机制。
4 符号主义与联结主义融合的前景如何？
联结主义和符号主义结合的困难在于，深度神经网络中隐结点上发生的事情是不可言传的，因为隐结点可能并不表达我们使用的任何概念或概念组合，可能只有把认知过程分解成远比我们的概念体系细得多的碎片，再按另一种方式重新组合才能得到一点语义的蛛丝马迹。
人工智能的下一步发展要更加解放思想，跳出现有的符号主义和联结主义的框框，从神经科学、生物科学、人文科学等更广泛的领域获取灵感。
文章若有不当和不正确之处，还望理解与指出。由于部分文字、图片等来源于互联网，无法核实真实出处，如涉及相关争议，请联系博主删除。如有错误、疑问和侵权，欢迎评论留言联系作者，或者关注VX公众号：Rain21321，联系作者。