人工智能不仅应当提高物质福利，而且应当满足人类的精神需求

　　然而，遵循阿西莫夫三定律而建造的人工智能或者机器人是奴隶般的，它们在社会上运行可以帮助人类整体，但它们奴隶般的地位是我们人类希望的吗？这是技术社会的理想形态吗？弗洛里迪说：“允许人类和智能陪伴做朋友是否是一个道德伦理层面的问题。我们是否会因为它们的非生物性而歧视它们？”就我们目光所及的人—机社会的未来，人工智能还处于人类的控制之下。
　　在这样的人—机社会里，理想的人—机关系应当如何？
　　人工智能不仅应当提高人类的整体物质福利，而且应当满足人类的精神需求。为此，人们提出了“友善的人工智能”（friendly AI）概念。一个友善的人工智能是指它采取的行动在整体上对人类和人性仁慈而非暴力，善意而非敌意。美国机器智能研究所（前身是著名的奇点研究所）的研究人员俞德考夫斯基（Eliezer Yudkowsky）在2001年发布了《创造友善AI1.0：仁慈目标架构的分析与设计》研究报告，在该报告中他是这样表述友善的人工智能：它们是被设计来完成真实世界的目标且对人类有益、无伤害人类行动的系统。而创造友善的人工智能则描述了建造一个仁慈（benevolent）即友善（friendly）的人工智能的设计特征和认知构架。
　　福洛丁和皮得森（Barbro Frding & Martin Peterson）认为，未来人工智能最重要的特征之一是它们拥有运用友好的方式对待人类的能力：“它们对人类具有（看上去）友好的能力，而不是刻薄、敌意或者不友善。”在他们看来，不是说友善的人工智能与人类之间存在真正的友谊，而是说人类与它们之间具有“似友谊”（asif friendship）。他们在亚里士多德关于友谊的理论中找到了理论支撑。他们认为，高度顺从的奴隶式人工智能（Slave AIs）不是友善的人工智能，功用人工智能（Utility AIs）和社交人工智能（Social AIs）则是友善的人工智能。这就是说，由于友善（友谊）是相互的，一个理想的人工智能社会是人类与人工智能友好相处的社会。
　　04
　　结束语
　　在对未来的思考中，科学家与技术家们往往趋于乐观，而哲学家们往往趋于保守——哲学的这种保守是一种对人性的守护和热爱。然而，在对未来的思考中，哲学似乎有点力不从心，文学似乎更有吸引力。人类一直由伟大的叙事鼓舞并引导。在这样的叙事中，人类行动的意义被设定，伦理也被偷偷嵌入。然而，不同的叙事中生命被赋予的意义是不同的。如果有伟大叙事认为我们有使命走向星辰大海，我们将前仆后继地走向宇宙深处；而如果有伟大叙事认为我们人类自身只是走向更高级智能的一个环节，而人工智能就是人类智能的更高级的接棒者，那么，我们会大力发展人工智能，并心甘情愿地接受人工智能替代我们人类占据这个星球。我们现在需要关于人类、生命和人类未来的伟大叙事，这样的叙事可能不是哲学，但一定包含着深刻的哲学；这样的叙事超越人工智能相关的科学和技术本身，并对人性有独到的理解。并且最重要的是，这样的叙事能够真正洞悉我们这个世界背后的超级密码。