《淮南子》里说,仓颉造字,“天雨粟,鬼夜哭”。作者从这句神话讲到今天的“末日叹”:同样是一种改变了人类生活的新力量出现,欣喜与不安往往同时发生。文中把这条线拉得很清楚:1950年图灵发问,1956年达特茅斯会议,1997年深蓝,2016年AlphaGo,2022年以后生成式人工智能与大语言模型迅速普及。
作者不赞成把人工智能妖魔化,也提醒不要低估它的变化。真正要说的那一层放在中段:机器可以写出一篇流畅的文章,但它不曾经历过文章所写的生活;可以生成动人的图画,但不曾有画中人的悲欢。所以问题不是机器有多强,而是人会不会把判断、选择和责任一并交出去。
《淮南子·本经训》载:“昔者仓颉作书,而天雨粟,鬼夜哭。”
这是一个流传千年的神话。仓颉创造文字,天降粟雨,鬼神夜哭。文字的诞生,在古人的想象中,竟是一件惊动天地、令鬼神不安的大事。
为什么鬼神要哭?一种流传甚广的解释是,文字使人类摆脱了单纯依靠记忆和口耳相传保存经验的局限,知识得以记录,秘密不再容易隐藏,欺诈也有了新的凭借。文字改变了人类认识世界、组织社会和传承文明的方式,也改变了人与未知世界的关系。古人无法预见这种变化将把人类带向何处,于是把那份难以言说的震动,寄托在鬼神的悲泣之中。
两千多年后,人工智能席卷而来。围绕它的各种议论中,既有对未来的憧憬,也有对失控、替代乃至人类文明终结的忧虑。有人把这种忧虑称为“末日叹”。
从“鬼夜哭”到“末日叹”,隔着漫长的历史,却有一种相似的心境:当人类创造出一种足以改变自身生活方式的新力量时,欣喜与不安往往同时发生。
人工智能并不是突然降临的。1950年,图灵发表《计算机器与智能》,提出机器能否思考的问题;1956年,达特茅斯会议正式提出“人工智能”这一概念。此后几十年,人工智能经历过多次热潮与低谷。1997年,IBM的“深蓝”战胜国际象棋世界冠军卡斯帕罗夫;2016年,AlphaGo以4比1战胜李世石,尤其是第二局第37手,让人们第一次如此真切地感受到,机器可能走出超越人类既有经验的棋路。
真正改变公众感受的,是2022年以后生成式人工智能和大语言模型的迅速普及。人工智能不再局限于下棋、计算和图像识别,而是进入写作、绘画、翻译、编程、科研等领域。它开始参与那些曾经被认为主要属于人的智力活动。
这一次,人们感受到的已经不只是机器在某一项技能上超过了人,而是机器似乎正在进入人的精神生活和创造活动。
于是,忧虑随之而来。有人担心超级智能有一天超出人类控制,有人担心自己的职业被替代,有人担心虚假信息泛滥、知识生产失去可信度,还有人开始追问:如果机器也能写诗、作画、写文章,人的创造力还意味着什么?
这些问题并非全是杞人忧天。
不过,面对人工智能带来的种种忧虑,有必要区分现实风险与想象中的灾难。今天广泛应用的大模型,距离人们想象中的具有独立意识和自主意志的超级智能,还有很大距离。目前没有可靠证据证明它们具有人的主观意识或内生欲望。但这并不意味着风险不存在。一个没有主观意识的系统,同样可能因为目标设定不当、技术缺陷、错误决策或者人为滥用而造成严重后果。
深度伪造可能损害社会信任,算法可能放大偏见,人工智能对就业结构的冲击也可能给一些群体带来切实的困难。至于超级智能是否会在未来形成难以控制的风险,仍然是一个值得研究、不能轻率下结论的问题。
因此,既不能把人工智能妖魔化,也不能因为它目前还存在局限,就低估它可能带来的深刻变化。
但我觉得,今天围绕人工智能产生的焦虑,还有比工作岗位和技术失控更值得思考的一层:人类究竟如何认识自己的价值?
文字诞生以前,人类依靠语言交流、依靠记忆传承经验。文字出现以后,知识获得了超越个体生命的存在方式。一个人死去,他的思想仍然可以留在文字里。印刷术又使知识传播的规模发生变化。每一次媒介革命,都在改变人的能力,也在改变人对自身能力的认识。
人工智能正在经历类似的过程,只不过这一次,它触及的领域更为直接。
过去,机器主要替代人的体力劳动;后来,计算机替代了许多重复性的脑力劳动;今天,人工智能开始参与语言表达、图像创作、逻辑推演,甚至某些需要综合判断的工作。它使我们不得不重新审视那些曾经习以为常的能力。
机器能够写出一篇结构完整、语言流畅的文章,但它是否真正经历过文章所写的生活?它能够生成一幅动人的图画,但它是否拥有画中人的悲欢?它能够分析历史人物的思想,却不曾真正置身于那个时代,承担那个时代的处境与选择。
当然,这并不是说机器生成的文字、图像和分析没有价值。相反,它们可能成为人类认识世界、表达思想的重要工具。问题在于,工具的能力与人的生命经验,并不是同一回事。
写作不只是组织词语,绘画也不只是安排色彩。一个人为什么写,为什么画,为什么在某个时刻选择沉默,又为什么在另一个时刻坚持表达,往往与他的生活经历、情感体验、价值判断密不可分。人的创造活动不仅产生作品,也呈现创造者自身。
人工智能可以帮助我们完成许多事情,却不能因此替我们承担生活的责任,也不能替我们作出所有价值判断。
所以,我并不认为人工智能越强大,人就越没有价值。真正值得警惕的,倒是人在享受技术便利的过程中,逐渐放弃自己的判断,把思考交给算法,把选择交给系统,把责任推给机器。
技术可以替我们计算,却不能替我们决定什么值得追求;可以帮助我们表达,却不能替我们确定表达的意义;可以提供大量答案,却不能保证我们提出的问题就是重要的问题。
人的主体性,恰恰体现在这些地方。
当然,强调人的主体性,并不是要人为地划出一道界线,把所有属于人的活动都视为机器不可触碰的领域。历史已经证明,人类的能力边界一直在变化。文字扩大了记忆,印刷术扩大了知识传播,望远镜和显微镜扩大了人的观察能力,计算机扩大了人的计算能力。人工智能也正在扩大人的认知和创造能力。
问题从来不是要不要使用工具,而是人是否仍然知道自己为什么使用它,是否有能力判断它的结果,是否愿意为使用它所产生的后果负责。
这也是技术边界真正值得讨论的地方。
所谓边界,不只是机器能够做到什么,更是人类允许它做什么、应当让它做什么,以及在哪些事情上必须保留人的判断和责任。涉及生命、尊严、公平、公共利益的重大决策,不能仅仅因为算法效率更高,就把最终决定权交给机器。技术越强大,越需要与之相称的伦理规范、法律制度和社会监督。
人类当然无法预见人工智能发展的全部后果,也不可能在技术出现之初就制定出一套永远有效的规则。但这并不意味着我们只能听任技术自行发展。认识风险、修正制度、明确责任,本来就是文明发展的一部分。
回望历史,文字没有因为“鬼夜哭”而被封存,印刷术也没有因为人们担心思想失控而停止传播。蒸汽机和电力改变了生产方式,也改变了社会结构。每一次技术革命,都有馈赠,也有代价。人类并不是在消除所有风险之后才走向进步,而是在不断认识风险、处理矛盾和修正自身的过程中,学会与新技术相处。
人工智能也不会因为今天的“末日叹”而停下脚步。它将继续发展,继续改变我们的生活。真正需要回答的,不是要不要让它发展,而是我们准备以怎样的态度、怎样的制度和怎样的责任来面对它。
天雨粟,是文明新生的馈赠;鬼夜哭,是人类面对未知力量时的古老惊悸。从仓颉造字到人工智能,人类一次次创造出改变自身生活方式的新工具,也一次次面对由此产生的困惑与不安。
可以预见的是,机器会一天天变得越来越强大,人类天性原本就有着追求进步的本能,要紧的是,在这一过程中,是否会忘记自己为什么出发,是否会把人的判断、尊严和责任一并交出去。
机器可以越来越聪明,但人不能因此放弃思考;技术可以不断突破边界,但人的价值不能仅仅由技术来定义。
从“鬼夜哭”到“末日叹”,变化的是人类创造的工具,不变的是面对未知时的惊惧与追问。而这一次,我们需要思考的,不仅是如何驾驭人工智能,也是如何在人工智能时代重新认识人自己。
2026.11.18
作者:于学周
原作出处:读曰乐(作者微信公众号)
本作品系作者原创,并经作者授权转载
于学周更多作品

评论