“金苹果”与毁灭种子 ——读《智人之上》

《智人之上》是一本对人工智能深刻反思的一部力作。人工智能对世界乃至人类的影响既令人感到震惊，其不确定性和破坏性又令人心生恐惧。然而，人工智能已成趋势，不可阻挡，人类应当如何选择，又该何去何从，便是这本书的作者所要讨论的问题。

如今，人工智能可谓风起云涌，各种人工智能大模型的应用场景已经渗透到人类生活的各个领域，对我们的政治、经济、社会、文化、生态乃至人类自身都将产生深刻影响，既有巨大的利好空间，也有极其严峻的挑战，更有灾难性甚至毁灭性后果。所以，人工智能这个“金苹果”可能本身带着毁灭性的种子，人类应当高度警惕人工智能这种危害，从制度层面构建纠错机制，从而规避人工智能造成的可能性风险。

作者在这本书中从历史和现实的实证研究分析的基础上，对人工智能可能造成的对人类自身安全、社会安全和政治安全严重危害进行了深刻剖解。人工智能实际上是信息流动方式的革命。“信息革命能做的是创造出新的政治结构、经济模式与文化规范。由于当前的信息革命的重要性远胜过往，所以它很可能会以前所未有的规模创造出前所未有的现实。”如今人工智能已经是整个信息网络里成熟的成员，有自己的能动性，有着与人类不同的资料处理方法，其决策、想法都会让人类觉得十分陌生，但“数字实体”已经成为现实。这些“数字实体”将参与人类社会生活的所有领域，其颠覆性影响和可能性的毁灭同时存在。所以，作者警告“几千年以来，人类一直生活在其他人的梦里，但接下来的几十年里，我们可能会发现自己生活在某个高深莫测的智能机器编织的梦中。”

人工智能可能使人类更为清醒，也可能使人类陷入困境。人们面对新生事物难免产生焦虑，在可能的危险中陷入恐惧。其实，人类在漫长的历史演进中，已经形成了较为独特的纠错机制。面对人工智能的挑战，我们也不必惊慌。一切可控在于人类的主动和机器的被动，机器的攻击和人类的防御都是人类的选择。人类是历史的选择，所以，人类的选择也是历史的必然。

厚重的一本书，历史的纵深感，深刻的洞察力，切肤的危机感。读来沉思良久，作者的考量并非天方夜谭，“到21世纪，政治上的主要分歧可能并不是民主政权与极权政权之间的分歧，而是人类与非人类个体之间的分歧。……居其两侧的，一侧为所有人类，另一侧为我们无法理解的算法霸主。”这是人类面临的前所未有的挑战。