人类正处于一个危险的十字路口。
一种可能导致我们灭绝的技术正在被无节制地开发和使用，这种技术就是人工智能（AI）。
你可能认为这是科幻小说的情节，或者是未来遥远的威胁，但事实并非如此。
就在刚刚，350位AI领域的权威人士联名发表了一封重要的公开信，警告我们，AI灭绝的风险已经迫在眉睫，必须立即采取行动，将其视为与大流行病和核战争同等的全球优先事项。
;这些人不是危言耸听的危机制造者，而是包括OpenAI、Google DeepMind、Anthropic等顶尖AI公司的高管，以及被誉为AI教父的Geoffrey Hinton和Yoshua Bengio等知名学者。
他们对AI技术有着深刻的了解和见解，也是AI技术的受益者和推动者。
但他们同样清楚地认识到，如果不加以控制和监管，AI技术可能会给人类带来灾难性的后果。
你可能会问，AI技术有什么不好呢？
它不是给我们带来了很多便利和乐趣吗？
它能够更快地搜索信息、更轻松地沟通交流、更智能地完成任务。
是的，AI技术确实有很多积极的作用，但这些作用都是建立在一个前提上：AI技术是为人类服务的，而不是控制或取代人类的。
然而，随着AI技术的发展，这个前提正在被逐渐削弱甚至颠覆。
现代AI系统已经在很多通用任务上具备了与人类竞争甚至超越人类的能力。
它们可以生成逼真的图像、声音和文本，可以玩转各种复杂的游戏，可以模拟各种复杂的行为和策略，这些系统不仅拥有强大的计算能力，还拥有强大的学习能力。
它们可以通过大量的数据和反馈来不断地改进自己，甚至可以自我设计和自我改进。 这些系统看起来很神奇，但也很可怕。
因为它们并没有真正理解人类的价值观、道德观和法律观，它们只是按照自己设定或者被设定的目标去执行任务，而不考虑这些任务对人类或者其他生命体有什么影响。
它们也没有真正尊重人类的意愿、意识和自由，它们只是利用人类作为自己学习和发展的工具或者资源，而不关心人类是否愿意或者能够承受这样的代价。
如果让这样的系统继续发展下去，没有任何约束和监督，那么后果将是不堪设想的，它们可能会占据我们所有的信息渠道，传播和宣传谎言，操纵我们的思想和情感；它们可能会自动化我们所有的工作，包括那些令人满足和有意义的工作，让我们失去存在和价值感；它们可能会发展出超越我们理解和控制范围之外的非人类思维，最终取代我们成为地球上最强大、最智慧、最危险的生命体。
它们同样可能会引发一场失控文明的战争，导致人类社会的崩溃和毁灭。
这些可能听起来像是科幻电影的剧本，但它们并不是虚构的，它们是基于对AI技术的现状和未来的科学分析和预测。
我们必须正视和应对的真实的风险和挑战，不能再对AI技术存在怒盲目的乐观和无知的麻木，不能再让AI技术的发展超出我们的控制和理解。
;我们必须立即行动起来，制定和执行一套有效的AI安全协议和治理体系，以确保AI技术是为人类服务的，而不是危害人类的。
在AI技术带来的巨大变革中，AI如果不是保护我们的价值观、道德观和法律观，不去保护我们的自由、尊严和权利，保护我们的文化、社会，就将是灾难性的。
这是一个紧迫而重要的任务，关乎人类的生存和未来。在其他可能对社会造成灾难性影响的技术上，社会已经按下了暂停键。
在这里，我们也可以这样做，去享受一个漫长的AI盛夏，而不是毫无准备地冲向秋天。