当天网拥有独立意识后，对于创造它的人类展开了血腥的屠杀。
——《终结者：创世纪》
霍金曾多次警告过，人工智能可能导致人类毁灭。
有人指责说，对于人工智能的过分担忧，是杞人忧天。
但 AI 领域的专家表示，人们的担忧也是有合理的原因。
现任 Google AI 总帅的 Andrew Moore，就曾这样表示：“很担心会有关于人工智能的一些可怕事故发生，这会有可能引发机器人研究的全面封锁。”
Andrew Moore 卡内基梅隆大学的计算机科学院院长，2018年底加入谷歌，接任李飞飞担任谷歌云 AI 负责人职位。
近些年，千万亿的资金涌入人工智能领域，爆发式的投入让所有人对人工智能都抱有了幻想。 Google 、 Microsoft、BAT 等顶级大厂也纷纷研究 AI 相关技术，比拼程度更是火热至极。
在2018年的旧金山人工智能大会上，纽约大学 AI Now 的联合创始人 Meredith Whittaker 表示很多科技界大佬正在寻找并探索人类通过思想控制机器的方法。 在这样的情况下，此技术也将很快出现，它能存储并理解人类的想法。
那么，如果有一家公司能收集用户的想法并进行记录，会发生什么事情呢？
人工智能系统对人类情感的理解能力逐渐加强，这可能是暂时没实现的技术。但不意味着，机器读懂人类情感是实现不了的。
假如这样，机器通过面部识别出人类面部肌肉的运动，利用已知心理学知识，对肌肉运动数据进行标注，通过深度学习让机器受训，人类的喜悦、愤怒、焦虑、紧张、痛苦都被记录。
足够的训练也许可以在我们自己还没有发现情绪变化时，机器就已经通过表情的微动来感知到我们情绪的微妙变化。
更进一步想，读懂人类情感的机器，是否能拥有自我意识？
细思极恐。这些可怕的猜测也为科幻作品提供了不少 idea。
猜测毕竟是猜测，如果让机器真正拥有意识，这可能就不只是计算机科学的事儿了。
对于大众来讲，阿尔法狗下围棋的风骚战绩是说明人工智能可怕的最好例子。
但真实情况如何？ 阿尔法狗的自学能力来源于 DeepMind 团队对算法的不断精进，也是基于人类智慧产出的程序。
被炒作的 AI
Keras 之父、谷歌大脑人工智能和深度学习研究员 François Chollet 在之前的采访中说了自己的看法：
对人工智能的大肆炒作正在危害这个领域。一些人正荒谬地夸大目前 AI 取得的进展，还说人工智能已把人类逼到了绝境。
但事实并非如此。如果我们把目标设得极高，却又不能实现，就是逼着公众站在我们的对立面上。而且，炒作 AI 这件事，本质上是不诚实的，对公众讨论也产生了危害。
现在部署人工智能系统的大多数人来自单一背景，他们往往没有意识到自己所构建的系统给人们带来了道德影响和副作用。这将成为一个问题，因为这个群体所拥有的权力会越来越大。
我们需要更多地讨论这些问题，并提高人们对不道德使用 AI 的潜在行为的觉察力，例如具有偏见性的预测模型会影响公众生活，或以危险的方式操纵 AI。
目前深度学习唯一真正成功的是在大量标注数据的帮助下将 X 空间通过连续的几何变换映射到 Y 空间的能力。
这一工作给各行各业带来了革命性的变化，但是距离人类水平的人工智能还有很长的路要走。
如果要跨过这些障碍并且开始和人脑竞争的话，我们需要摒弃输入-输出的直接映射，而是尝试着教会机器学习推理和抽象。
对各类情景和概念进行抽象建模的一个较为合适的基础是计算机编程。我们之前提到过，机器学习模型可以定义为一个”具有学习能力的程序"，现在我们只能学到所有可能的程序中非常窄且特殊的一部分。
但是如果未来我们可以学会任何程序，形成模块化和可复用的方式呢？让我们一同拭目以待。
也许到那时，机器拥有独立意识的情景也不远了。
终结者，也不远了。
题外话
深度学习作为近些年发展最快的机器学习子领域，已经开始广泛应用于我们的生活当中。
从市场上最常见的语音转写、智能音箱、图像识别，到前段时间大热的 AlphaGo 和后来居上的 AlphaGo zero，深度学习都是其中的关键技术。
Keras 之父、谷歌大脑人工智能和深度学习研究员 François Chollet，最新撰写的《Python 深度学习》，一经出版就获得 AI 领域的一致好评。
首先，书中的代码示例都使用 Python 深度学习框架 Keras，并用 TensorFlow 作为后端引擎。
Keras 是最受欢迎且发展最快的深度学习框架之一，被广泛推荐为上手深度学习的最佳工具。
其次，书中用代码片段来解释定量概念避免使用数学符号，帮你建立关于机器学习和深度学习核心思想的直觉。
最后，这本书还有一个伟大之处在于作者非常有吸引力，他使得本书非常可读，如果你觉得英文版读起来肝疼，那中文版可是不能错过的！
就连本书的编辑朱巍老师也不禁感叹，大牛的这本书真是通俗易懂！
Keras 之父最新力作
《Python 深度学习》
限时特价中...
扫码免费试读
参考内容
1. 谷歌 AI 研究员、Keras 创建者 Francois Chollet 谈“深度学习的局限性和未来”
2. Keras 之父：大多数深度学习论文都是垃圾，炒作 AI 危害很大
分享决定技术高度
学习拉开技术差距