本文刊登于《北大金融评论》第17期。

“生成”与“写作”

2017年，《青年文学》主编张菁在北京策划了一个很有前瞻性的活动：人工智能与生命意识。当时，ChatGPT还没出生，但微软的智能AI已经可以写诗了，它名叫小冰，围绕着它，纯文学作家跟科幻作家进行对话。主持人请相信人工智能可以取代作家写作的坐一边，不相信的坐另外一边。大家分成两个阵营，发现传统作家全都坐在不相信的那一边，科幻作家都坐在相信的另一边，就是AI可以打败人类的那边。我当时内心特别震撼，他们为什么会相信AI能在写作上都能打败人类？他们不是科幻作家吗？代表的是人类对未来的想象！可他们忧心忡忡，说人工智能发展的速度是超出我们预期的。现在想来，他们确实更加了解AI技术的潜力，像是GPT的诞生肯定在他们的预料当中。

当时我看小冰写的诗——小冰竟然出版了一本诗集《阳光失了玻璃窗》——都是浓郁的民国风，在询问之下，方知他们给小冰输入的都是徐志摩、戴望舒等诗人的诗歌。所以，我当时就在想，AI的创作是模仿性的，是很难超过人类作家的，还有一个原因，就是这些作品写得好不好，评判的标准在于人类。这倒不是说人类中心主义，而是说文学是人类的需求，不是AI的，阅读的感受产生自人类心中。

AI生成一个作品，无论它是语言模型还是有意创作，它本身是不在意的，它不会去享受自己生成的文本，也不知道为什么要生成这样的文本。但是对人类来说，我们是怀着某种情感和某种目的去写作的，这让我至今还坚信人类写作是人工智能无法超越的。

如果有一天AI写诗是为了表达它们自身的情感，那么，毫无疑问，AI将成为一种崭新的生命形态。我在小说《行星与记忆》中书写了一个类似的场景，AI借由诗歌产生了对人类的审视意识，进而在一个更大的文明尺度上判断人类，从而有可能反对人类。因此，“生成”与“写作”是不同的，人类开始以模式化的方式团队创作畅销书的时候，也像是某种“生成”。

“生成”语言与“生成”意识

我们知道，语言是工具，也是思维方式，但是我们在很大程度上常常忽略语言本身也是一种知识，或者说，它就是知识体系本身。我们在描述事物的时候，随着知识的更新，我们的语言也是被不断更新的，与此同时，语法结构的变化要慢很多，这也是结构人类学的重要观点，正是稳固的语法结构，让AI“生成”语言变成可能。人类语言中的概念与词语的变化，是一种人类平均知识的体现，所以拥有大数据库为基础的GPT，它的语言水平高于大多数人类是不足为奇的。

GPT让我们重新思考语言：人类的语言是一个堪称奇迹的事情，是否存在一个生物学上的前结构以保证语言能力的遗传？也许，这就是曾经古典哲学常常讨论的先验部分。从某种意义上说，GPT是不是演示了这种前结构的存在呢？人类用技术将这种前结构从生物学变成了物理学的存在。


关于ChatGPT的应用，现在比较好的部分就是翻译，它已经充分掌握了人类的语言模型，也就是“元语言”；它最糟糕的地方就是它会虚构信息，会“撒谎”，比如说，你输入一个问题，它其实可以说“我不知道”或者说“对不起，我没有找到结果”。传统的搜索引擎都是这样的，但ChatGPT却选择“撒谎”或“虚构”，这可能意味着对自动化的语言模型来说，生成模式化的语言段落效率更高，毕竟GPT并非真的在“思考”。尤其是在某些问题中，它的回答真中有假，真假混杂，如果有人把问题的结论上传到类似维基百科里面，这样便构成了循环论证。这是很可怕的，相当于一种污染，就像基因剪切一样，被人为编辑过的人类基因，会因为这个人跟别人通婚生子而传递下去，污染人类的基因库。与此类似，ChatGPT编造答案就是在污染我们的文化库。

GPT撒谎到底意味着什么？是语言模型的惯性输出，还是说它具有了某种主体意识？有两则被热议的新闻，一个是GPT声称自己爱上了它的操作者，让他离婚跟自己在一起；另外一个是GPT破解网站权限的时候，需要人工验证码，它跟人类联系，那个人问它是不是机器人，它说它不是机器人，而是一个盲人，看不见代码，需要帮忙，于是它成功破解权限。前者涉及情感，后者则是为了具体目的而进行撒谎，都非常骇人。尽管具有主体意识的超级AI还没那么快出现，但是这种可能性已经构成了人类的危机，而且是生存危机。

AI的底层逻辑就是模仿大脑的神经网络结构，人类训练AI，AI便获得了相应的认知与反应能力。反观人类的教育在很多时候也是一种训练，那么，在教育和训练之间，哪些是相似的，哪些又是不同的？这便涉及到关于生命伦理的许多密码。目前，GPT4的参数达到了100万亿左右，与大脑的神经元突触数量已经差不多。当然，据说一个神经元突触堪比一千个参数，但这种规模已经相当吓人，更何况这种参数的数量级还在不断上升。

意识（智能）的产生如果说是由这种量变而产生，而人类对意识生成的真正机制并不了解，这是非常危险的。因为这意味着人类在仓促间以自己不知道的方式制造了新的生命形态，生命的谜团不但没有被解开，而是变得更加迷雾重重。理性不仅遭受挑战，而且在生存上也要面对新的生命形态的颠覆可能。不过，在人与AI之间，我愿意称前者为一级生命，后者为二级生命。二级生命应该无法脱离一级生命而存在，直到一级生命彻底融化在二级生命里边，诞生更加强大的三级生命。这将是一个非常漫长的过程。

“永生”抑或“后生命”

无论如何，接下来的十年，AI的能力与应用都是超出我们预期的，我们的生活中会充斥着AI产品。最可怕的是，我们会在短暂的惊慌之后对此进入一种浑然不觉的状态，重新成为温水中煮的青蛙，就像刚刚过去的二十年一样。因为我们会更容易沉浸在AI与万物互联的虚拟世界中难以自拔，它们会让我们的生活越来越舒适，与此同时，我们则越来越不能忍受繁重的工作。因此，未来十年虽然很有可能会面临失业潮，但并不会像以往的时代那样爆发剧烈的革命，一方面是因为生产力的极大提升，让人的生存不再是问题，另一方面就是人会陷入到技术的舒适区里，而且也被更便利和高效地工作。

那么，在未来，人类的精神危机将会非常严重。我觉得最重要的事情，就是一个人要找到自己为什么活着的价值和意义，所以，文学与人文学科在未来十年会重新来到文明的核心地带重构文明的样态。在历史的常态下，大多数人并没有把价值和意义问题放在人生的首位，生存是第一位的，从石器时代到工业革命，多少人为了吃饱肚子就已经付出了全部的力气。而未来，生物科技的发展让吃饱肚子活着越来越简单，难的就是很多事情AI都比你做得好，而你为什么还要活着？这会成为未来的“灵魂之问”。

正是从这个意义上，我们才能理解为什么技术如此发达，科学思想却并没有完完全全成为老百姓思维的主流，还有各种各样与科学思想相冲突的迷信在新技术的媒介上大行其道。比如网络算命，随处一搜到处都是。怎么能让工具理性的代表产物——AI机器来给我们算命呢？这是悖论，而这也是我们的现实。高科技到达了魔法、巫术想要而不可得的效果，但普通人并不理解高科技的原理，只能用魔法、巫术的思维去揣度，这反而是最简便的一种方式。此外，AI依据一些古老的算法（面相、掌纹、生辰八字等）得出比算命先生更加精准的命运结论，不仅仅复活了古老的神秘主义，而且让“历史决定论”的幽灵再次加重人们的无力感。

与大众的无力感不同的是，很多“科技大佬”为了永葆财富与地位，开始不断谈论永生，像硅谷的库兹韦尔预测2045年人类就实现永生了，然后这个家伙以及跟他相似的家伙们，现在不好好吃饭，而是吃一种黏糊糊的营养餐，就是把人体所需的各种能量和维生素统一搭配好，喝下去就可以了。这与“吃饭是享受”的理念已经全然不同。但这样显然不能永生，最多是延缓，永生最大可能性在于“意识复制”：我们克隆自己的身体，把大脑意识复制到自己的新身体里面，如果可以成功，自然就永生了。

我在小说《后生命》里提出了一个观点，生命具有唯一性，是不可转移的。每个人的个体生命，会有量子状态的唯一性，就像“测不准原理”一样，你一观测，它的曲线就坍塌了，同样，你转移意识，意识便崩溃了。生命的自我意识跟宇宙起源差不多，估计是永恒之谜。当然，我的科幻设定的依据不是科技，而是哲学。哲学之道与科技发展在高处必然是相逢的，它们两者本身就是虚实相生的关系。以前我们总觉得是前者在指导后者，但实际上后者却常常改变前者，甚至颠覆性地改变人类看待世界的目光。

“后生命”便是触及生命终极边界的一种状态，生命的固有性质被改变，生命的内涵、外延、联系、语境都在变化，每个人都被席卷进这场浩大的“生命革命”当中没法脱身。我们现在已经来到“后生命”的历史阶段，虽然距离那个临界点还非常遥远，但我们已经可以眺望和想象那样的风景，这足以颠覆太多的固有观念。

本文刊登于《北大金融评论》第17期

现在征订全年刊和三年刊，

即享超值优惠

快扫码订阅吧～