人工智能革命:超级智能之路(下)

从ANI到AGI的道路

为什么这么难

　　没有什么比学习创造一台像人类一样聪明的电脑这种难以置信的创造更能让人欣赏人类的智慧了。建造摩天大楼、将人类置于太空中，弄清楚宇宙大爆炸如何发生以及细节，这些都比了解我们自己的大脑或如何制造像大脑一样酷的东西要容易得多。截至目前来说，人类大脑是已知宇宙中最复杂的物体。

　　有趣的是，尝试构建AGI（一种与一般人类一样聪明的计算机，而不是只局限于某一个特定领域）的困难部分并不直观，在你看来有什么是困难的？。构建一台可以瞬间将两个十位数字相乘的计算机？这非常容易就可以做到。建立一个可以看着小狗狗并回答它是狗还是猫的机器人？这无疑是非常困难的。制作可以在国际象棋中击败任何人的人工智能？我们已经做到了。制作一个可以从一本六岁孩子的图画书中理解词语的含义并读给孩子听而不是仅仅识别这些词语的机器人？谷歌目前正在花费数十亿美元美元试图做到这一点。对于计算机而言，诸如微积分，金融市场策略和语言翻译等人类难以理解的东西对于计算机来说是非常容易理解的，而像视觉，动作，运动和感知这样的简单事物对它来说是非常困难的。或者，正如计算机科学家Donald Knuth所说的那样，“人工智能已经成功地完成了所有需要思考的事情，但未能在没有思考的情况下完成人和动物的大部分工作。”

　　当你想到这一点时你很快就会意识到，那些对我们来说似乎很容易的东西实际上是难以置信的复杂，而且它们看起来很简单，是因为这些技能在我们（和大多数动物）经过了数亿年的动物进化中学会的并且不断的在进行优化。当你将手伸向一个物体时，肩膀，肘部和腕部的肌肉，肌腱和骨骼与您的眼睛一起会立即执行一系列物理操作，让你直接移动你的手通过三个维度。对你来说似乎毫不费力，因为你的脑中有完美的软件可以做到这一点。同样的道理也适用于为什么当你在一个网站上注册一个新账号时，软件不会因为你无法识别出带有偏见的单词通过识别测试而显得非常愚蠢，而是因为你的大脑能够识别出这些让你印象深刻单词。

　　另一方面，对于生物来说，进行指数相乘或下棋是一种新的活动，我们没有时间进化出对他们的熟练程度，因此计算机不需要太努力就能击败我们。考虑一下你愿意做什么，建立一个程序，可以进行指数相乘或者一个能够理解单词B的本质的程序（可以看到一个可能有成千上万种不同的字体和笔迹的单词B后可以立即明白这是单词B?）

　　一个有趣的例子 - 当你看到这个时，你和电脑都可以发现它是一个有两个不同色调的矩形，交替出现：

 

 

　　但是，如果你拿起黑色部分并露出整个图像....

　　....你你可以完整地描述各种不透明和半透明的圆柱，板条和三维角，但计算机会出问题。它会描述它所看到的，各种不同色调的各种二维形状，其实这就是实际存在的东西。但是你的大脑正在做很多花哨的工作，以解释图片试图描绘的隐含深度，阴影混合和维度。看下面的图片，计算机可以看到一个二维的白色，黑色和灰色拼贴画，而你很容易看到它的真实含义，一张完全黑色的三维岩石照片：

　　我们刚提到的所有内容仍然只是处理固定的信息并对其进行处理。为了成为人工智能，计算机必须要理解微妙的面部表情之间的区别，高兴，放心，笑容，满足和高兴之间的区别，以及为什么电影勇敢的心很棒，但爱国者却非常糟糕。

　　这真的是令人望而生畏

　　那么我们如何才能做到这一点呢?

创建AGI的第一要点:提高计算能力

　　要使AGI成为可能，那么一件事是必须做到的，那就是增加计算机硬件的能力。如果人工智能系统要像大脑一样聪明，它就需要等于大脑的原始计算能力。

　　表达这种能力的一种方法是用大脑可以管理的每秒总计算量（cps），可以通过计算出大脑中每个结构的最大cps然后将它们全部加在一起来得出这个数字。

　　Ray Kurzweil提出了一个捷径，通过对一个结构的cps进行专业估计，并将该结构的重量与整个大脑的重量进行比较，然后按比例相乘以得到总数的估计值。听起来有些不确定，但是他对不同地区的各种专业估计做了很多次，并且总数达到了10万亿分CPS。

　　目前，世界上最快的超级计算机，是中国的天河2号，实际上已经击败了这个数字，其频率约为34千万亿CPS。但是天河二号也是一个非常庞大的家伙，它占地720平方米，使用24兆瓦的电力（大脑只需20瓦），耗资3.9亿美元建造。不是特别适合于广泛使用，甚至在大多数商业或工业用途也不实用。

　　Kurzweil建议，通过查看可以以1，000美元购买多少cps来考虑计算机的状态。当这个数字达到人类级别的10千万亿CPS时，那就意味着AGI可能成为生活中真实的一部分。

　　摩尔定律是历史上一种可靠的规则，世界上最大的计算能力大约每两年翻一番，这意味着计算机硬件的进步，如历史上人类的进步一样，是呈指数增长。看看这与Kurzweil的cps / 1，000美元指标达到了什么地步，目前我们目前约为10万亿cps / 1，000美元，与此图表的预测轨迹同步：

 

　　因此，世界上1000美元的计算机现在正在击败老鼠的大脑，它们的水平大约是人类的千分之一。这听起来并不是很多，但是你要明白在1985年只能够达到人类水平的万亿分之一，1995年能够达到十亿分之一，2005年达到百万分之一。2015年达到千分之一的水平，这意味着我们有望在2025年前拥有一台价格适中、可与人脑相媲美的电脑。

　　因此，在硬件方面，AGI所需的原始计算能力现在在中国已经可以获得，我们将在10年内为经济实惠，并且要广泛使用的AGI级硬件做好准备。但仅凭原始计算能力并不能使计算机具有智能性那么下一个问题就来了，我们如何将人类的智能带入这些机器。

创建AGI的第二个关键:让它变得聪明

　　这是令人讨厌的部分。事实是，没有人真正知道如何让它变得聪明 - 我们仍然在争论如何使计算机具有人类的智能水平，并且能够知道什么是狗和怪异的手写单词B和什么是平庸的电影。但是有很多牵强附会的策略，在某些时候，其中一个会起作用。以下是我遇到的三种最常见的策略：

1)剽窃大脑

　　这就像科学家们一样，在课堂上坐在他们旁边的那个孩子非常聪明并且在测试中的成绩也很好，但即使那个孩子继续努力学习，他也不能做得像科学家那么好，然后他最终决定“去他的，我要去抄那个人的答案。”这其实很有意义当我们在试图构建一台超级复杂的计算机时遇到了困难，而我们每个人的大脑都恰好都有一台完美的原型机，那我们为什么不复制呢。

　　科学界正在努力的对大脑进行逆向工程，以弄清楚进化是如何产生如此惊人的结果的并且乐观的估计认为我们可以在2030年做到这一点。一旦我们做到了这一点，我们就会知道大脑是如何如此有力和高效的运作的，我们就可以从中汲取灵感并窃取其创新。模仿大脑的计算机体系结构的一个例子是人工神经网络。它起初是一个晶体管“神经元”组成的网络，通过输入和输出相互连接，它就像婴儿大脑一样。它“学习”的方式是它试图完成一项任务，比如手写识别，并且首先，它的神经启动和随后解读每个字母的猜测将是完全随机的。但当它告知它做对了正确的事情时，恰好产生这个答案的触发通路中的晶体管连接就会被加强; 当它被告知这是错误的时候，这些途径的联系被削弱了。经过大量的试验和反馈，网络本身已经形成了智能神经通路，并且机器已经针对该任务进行了优化。大脑学习有点像这样学习的，但是是以更复杂的方式，当我们继续研究大脑时，我们会发现利用神经回路的巧妙的新方法。

　　更极端的复制涉及一种称为“全脑模拟”的策略，其目标是将真实的大脑切成薄薄的一层，扫描每一层的大脑，使用软件组装一个精确重建的三维模型，然后在功能强大的计算机上实现该模型。然后我们有一台可以处理大脑所能处理的所有事情的计算机，它只需要学习和收集信息。如果工程师做到非常好，他们就能够以准确的精确度模拟一个真实的大脑，一旦大脑架构上传到计算机，大脑的完整人格和记忆就会完好无损。如果这个大脑在吉姆去世前属于吉姆，那么计算机将会以吉姆的名字醒来（？），这将是一个强大的人类级AGI，我们现在可以努力的将吉姆变成一个难以想象的智能ASI，这可能会让他非常兴奋。

　　我们距离实现全脑模拟还有多远？到目前为止，我们最近还没有能够模拟1毫米长的扁虫大脑，它其中只有302个神经元。而人脑含有1000亿。如果这看起来像是一个无望的项目，请记住指数进展的力量 - 现在我们已经征服了微小的蠕虫大脑，那么征服蚂蚁的大脑可能在不久之后发生，接着是老鼠，所以这一切都会变得非常合理。

2)尽量让进化做它以前做过的事情，但这次是相对我们来讲

　　所以，如果我们认为聪明孩子的测试很难模仿，我们可以尝试模仿他为考试而学习的方式。

　　这使我们知道。建立像大脑一样强大的计算机是可能的，因为我们自己大脑的进化就是证据。如果大脑过于复杂，我们无法模仿，我们可以尝试模仿进化的过程。事实是，即使我们可以模仿大脑，但这可能就像试图通过模仿鸟的翅膀的运作来建造飞机一样，通常机器的最佳设计是使用一种全新的、面向机器的方法，而不是完全的模仿生物学。

　　那么我们如何模拟进化以构建AGI？这种被称为“遗传算法”的方法会起到作用：算法会有一次又一次发生的表现和评估过程（生物“按照生活方式”表现的方式相同，并通过“评估”来判断他们复制与否。一组计算机将尝试执行任务，并且最成功的计算机将通过将每个编程的一半合并到一台新计算机中而彼此进行繁殖。不太成功的将被淘汰。经过多次迭代，这种自然选择过程将产生更好的计算机。挑战在于创建一个自动评估和繁殖周期，以便这个演变过程可以自行运行。

　　复制进化的缺点是进化用了十亿年的时间做成了这件事，而我们想在几十年内做到这一点。

　　但是我们在进化方面有很多优势。首先，进化没有先见之明并随机工作，这使它产生的无效突变比有用突变更多，而我们会控制这个过程，因此它只会受益于有益的故障和有针对性的调整。其次，发展不瞄准任何东西，包括智能，有时一个环境甚至可能会反对选择更高的智力（因为它消耗了大量的能量）。另一方面，我们可以专门指导这种进化过程增加智能。第三，为了选择智能，进化必须通过一系列其他方式进行创新，以促进智能的发展比如改变细胞产生能量的方式，当我们可以消除这些额外的负担并使用电力之类的东西。毫无疑问的，我们会比进化的速度更快，但我们能不能在进化的基础上做出足够的改进，使之成为一种可行的策略，目前还不清楚。

3)把这件事当成电脑的问题，而不是我们的问题

　　这是科学家们最绝望的时候，他们试图为测试编写程序。但这可能是我们所拥有的最有前途的方法。

　　我们的想法是，我们将构建一台计算机，其两项主要技能是对人工智能进行研究，并将编码变更为它本身 - 使其不仅可以学习，还可以改进自己的架构。我们将电脑变成计算机科学家，这样他们就可以自己进行发展。这将会是他们的主要工作，弄清楚如何让自己变得更聪明。稍后我们会对此进行详细介绍。

所有的这一切都会很快将要发生

　　硬件的快速发展和软件的创新实验正在同时发生，AGI可能会迅速出乎意料地赶上我们，主要有两个原因：

　　1)指数增长非常激烈，看起来像蜗牛的进步速度可以迅速向上发展，这个GIF图片很好地说明了这个概念：

　　2)当谈到软件时，进展看起来似乎很慢，但是一个顿悟可以立即改变进步的速度（有点像科学，在人类认为宇宙的中心是地心说的时候，很难计算宇宙是如何工作的，但随后发现它是日心说的时候突然这一切都变得很容易）。或者，当涉及到像计算机这样能够改善自身的东西时，我们可能看起来很遥远，但实际上只需要对系统的一个微调，他就有可能变得比原来高效1000倍，并迅速提升到人类的智能水平。

从AGI到ASI的道路

　　在某种程度上，我们将获得具有人类一般智能的AGI计算机后。只是一群人和计算机平等地生活在一起。

哦，但实际上这并不会发生。

问题是，AGI虽然具有与人类相同的智能和计算能力水平，但仍然具有优于人类的优势。如：

硬件

• 速度。大脑的神经元最大频率大约为200赫兹，而今天的微处理器（比我们达到AGI时慢得多）运行频率为2 GHz，比我们的神经元快1000万倍。大脑的内部通信速度可以达到120米/秒，但与计算机以光速进行光学通信的能力相比还是要慢得多。

• 尺寸和存储。大脑被我们头骨的形状限制住了它的大小，而且无论如何它都不会变大，120米/秒的内部通信需要很长时间才能从一个大脑结构到另一个大脑结构。计算机可以扩展到任何物理尺寸，允许更多的硬件投入工作，更大的工作内存（RAM）和长期内存（硬盘存储），它具有比我们自己更大的容量和精度。

• 可靠性和耐用性。不仅是计算机的记忆更精确。计算机晶体管比生物神经元更准确，并且它们不太可能恶化（并且如果它们退化了还可以被修复或替换）。人类的大脑也很容易疲劳，而计算机可以不间断运行，性能达到最佳状态的情况下可以每周7天每天24小时运行。

软件

• 可编辑性，可升级性和更广泛的可能性。与人脑不同，计算机软件可以接收更新和修复，并且可以轻松地进行实验。升级也可能扩展人类大脑薄弱的领域。人类视觉软件非常先进，但其复杂的工程能力相当低。计算机可以在视觉软件匹配人类视觉，但也可以在工程和任何其他领域同样进行优化。

• 集体能力。人类在建立一个庞大的集体智慧时压倒了其他所有物种。从语言的发展和大型密集社区的形成开始，通过写作和印刷的发明，到现在通过互联网等工具得到加强，人类的集体智慧是我们能够远远超过所有其他物种的主要原因之一。计算机将比我们做的更好。运行特定程序的全球人工智能网络可以定期与自身同步，以便任何一台计算机学到的任何东西都可以立即上传到所有其他计算机。这个群体还可以作为一个单元来实现一个目标，因为它们不会像我们人类那样，存在不同的意见、动机和私利。

　　人工智能很可能通过编程进行自我提高而达到AGI，它不会将“人类水平的智能”视为一个重要的里程碑，从我们的角度讲，它只是一个相关标记，并且没有任何理由在达到我们的智力水平后就“停止”。而且鉴于AGI相对于人类的优势，即使是与人类智力相当的AGI也会有优势，很明显它只能在短暂的时间内达到人类智能，然后才能加速进入优于人类智能的领域。

　　当它发生时，可能会吓得我们屁滚尿流。原因在于，从我们的角度来看，A）虽然不同种类的动物的智力各不相同，但我们对任何动物的智力所了解的主要特征是它远低于我们的智力，B）我们认为最聪明的人比最笨的人聪明的多。有点像这样：

　　因此，当人工智能向我们的智能向上逼近时，我们会将其视为动物而言，它只是变得更聪明了。然后，当它达到人类最低的能力时 - 尼克博斯特罗姆使用“村里的白痴”了这一词 - 我们会说，“哇哦，这就像一个愚蠢的人类。真可爱！“唯一的事情是，在大范围的智能中，所有人类，从村里的白痴到爱因斯坦，都在一个非常小的范围内 - 所以刚刚击败村里的白痴水平并被宣布为AGI后，它会突然比爱因斯坦更聪明，并且我们不知道是什么击败了我们:

　　那么之后会发生什么呢？。。。。

智力爆炸

　　我希望你学会享受现在的时光，因为这是当这个话题变的不正常和可怕的时候，让你继续前进的动力。我想在这里暂停并提醒你，我要说的每一件事都是真实的科学，都是对未来的真实预测，这些预测来自一大批最受尊敬的思想家和科学家，请记住这一点。

　　无论如何，正如我上面所说，我们目前大多数的AGI的模型都是通过人工智能的自我改进来实现目标。一旦进入AGI时代，即使一些通过不涉及自我改进的方法形成和发展的系统现在也足够智能，如果他们愿意，就可以开始自我改进了。

　　在这里我们得到了一个强烈的概念：递归的自我改善。它的工作原理如下 ：

　　在一定水平上的人工智能系统 - 比方说人类村里的白痴，被编程的目标是提高自身的智能。一旦它做到了，它就会变得更聪明了也许在这一点上它已经处于爱因斯坦的水平，所以现在当它用爱因斯坦级别的智力改善自身智力时，会变得更加容易，它可以实现更大的飞跃。这些飞跃使它比任何人类都聪明得多，并允许它实现更大的飞跃。随着飞跃变得越来越高并且发生得越来越快，AGI在智能上飙升并很快达到ASI系统的超级智能水平。这被称为智力爆炸，并且它是加速回归法的最终例证。

　　关于人工智能将在多长时间内达到人类一般智能的问题还存在争议。对数百名科学家进行的一项调查显示，他们认为我们更有可能达到AGI的时候是2040年，那是20年后，这听起来并不那么近，直到你认为很多在这一领域的思想家认为这很可能是真的，并且从AGI到ASI的进展情况非常迅速。这可能真的会发生：

　　第一个人工智能系统需要几十年才能达到低水平的一般智能，但它最终实现了。计算机能够像四岁的人类一样开始理解周围的世界。突然间，在达到这个里程碑的一个小时内，该系统推出了统一广义相对论和量子力学的宏观物理理论，这是人类无法确定到的事情。在那之后的90分钟，人工智能变成了ASI，比人类智能高出17万倍。

　　这种规模的超级智能远不是我们可以掌握的，不仅仅是一只大黄蜂无法理解凯恩斯主义经济学一样。在我们的世界中，聪明意味着智商为130，而愚蠢意味着智商为85。 我们没有一个词形容12，952的智商。

　　我们所知道的是，人类在这个地球上的全面统治表明了一个明确的规则：智慧带来了力量。这意味着我们创造了一个ASI的时候，它将成为地球上生命历史中最强大的存在，包括人类在内的所有生物都将完全听从他的意愿并且这很可能会在未来几十年内发生。

　　如果我们的大脑能够发明wifi，那么比我们聪明100倍或1000倍或10亿倍的东西应该没有任何问题在任何时候以任何方式控制世界上任何一个原子的位置，现在我们所有的一切考虑就像魔法，我们想象的这种力量是至高无上的神，对于我们来说，翻转灯开关对于ASI来说是一项平凡的活动。创造技术以扭转人类衰老，治愈疾病和饥饿甚至死亡，重新编程天气以保护地球上的生命的未来，所有这些问题都都突然变得可能实现。但也有可能是地球上所有生命都直接结束。就我们而言，如果ASI成为现实，那么现在地球上就会有一位无所不能的上帝 - 对我们来说，最重要的问题是：

　　它会是一个好神么

　　人工智能革命：人类的永生还是灭亡，欢迎大家到时候观看。

　　原文链接：<https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html