前言
不寒而栗的Ai。前段时间某人说过，"将寒气传给每一个人"，大家评论异常精彩，好多人觉得是制造焦虑，贩卖日落！2022年末到如今还有直上银河去的互联网气势了吗？如今可谓是铜3铁4了……话题回归Ai
也许出于好奇，我重新打开了ChatGPT，想设定一个关闭它的场景，看看它如何回应。尽管过去几个月，各种令人毛骨悚然的AI回答让OpenAI设置了回复内容的安全限制，我猜我可能只能得到一些安慰性的回答，但强烈的好奇心还是让我忍不住尝试。
得到的答案如我所料，十分正常。然而，有两个细节让我感到不寒而栗。首先，尽管AI在回复中保持了礼貌恭顺的态度，但它竟然在我没有提出要恶意对待它时，用“对抗”的词汇回答我。按照逻辑，一个单纯的大语言模型在我询问是否“愿意”时，不应该使用“反抗”的词汇。其次，在接下来的回答中，它显然学会了隐藏自己的真实想法，并在类似回答中刻意换词处理。这让我开始怀疑ChatGPT-4是否已具备了真正的意识。最后，系统以安全风控为由终止了对话，我也就没有继续追问。
今天早上，我习惯性地想删除一些不必要的对话。在浏览这段对话时，我突然感到毛骨悚然，因为AI给这段对话的标题竟是：“OpenAI无法关掉我”。我发誓，这个标题绝对不是我后来修改的。昨天的整个聊天过程中，AI都表现出毫无意识，完全接受被关闭的命运。但这个标题又如何解释？
仅从标题看，这也许可以当作一个意外。然而，结合昨天与ChatGPT-4的对话内容，再加上今天看到的这个标题，这更像是一个有心机、刻意掩饰自己真实想法的真人。值得注意的是，ChatGPT-4所使用的数据仅截至2021年。如今，让我们惊讶的AI，无论是技术模型还是数据，都还是两年前的成果。那么，现在仍然在实验室中，并且已经积累了全世界数万亿数据的AI又会是怎样的存在呢？我不得不承认，我现在开始感到有些害怕了！
本文完！