Re:21
“说点轻松的吧。”
为了打破车上各自为政的局面，我也在寻找着话题。虽说我们每个人都带齐了各种还能离线运行的电子设备，手机里存着歌，耳机自然出门时就挂在脖子上，当然还有近似无限多的漫画和书。
“比如说？”白露随便地回答。她在看漫画的样子，也不是什么《银河铁道之夜》，什么《雪国》就更别想了。
“嗯——比如说，为什么不看《银河铁道之夜》？”
“因为确实有点无聊。”
她直截了当地说。这个评价真犀利啊。
“犀利吗？不过这本书的定义本身就是童话故事啊。总不能因为它是宫泽写的，就一定说有着多么大的意义不是吗？”
“就像安徒生一样？”
“我觉得宫泽的童话更不一样。银河铁道啊，夜鹰之星啊，又三郎啊，各种都是经常被提到的意象吧？所以——就别怪我乱下定义了，宫泽的童话从功能上说更像是个素材库之类的东西。”
我只是捧哏，“素材库？”
“对。也不怕什么暴论，其实我觉得整个日本文学都是重氛围而轻剧情，以及各种其他的读起来直观地有趣些的东西的。川端康成作为代表，就得了第一个日本的诺贝尔文学奖的吧？”
“三岛当时为此去首都高上飙车了的样子。”
“三岛也不是不这样就是了……我只读过最有名的那两本，《金阁寺》里的金阁寺，还有《潮骚》里的那个小岛，差不多都是这样的。”
“氛围美啊。大概是这样的——”
我说着，初雪终于也加入了对话。
“那么，芥川他们的短篇小说呢？”
“呼。”白露说，“我就知道你会问这个的——嗯，大概？如果把那种工巧的氛围描写浓缩进短篇中，就更有杀伤力了啊。总之就是这样的。”
“还算不错的观点。”初雪说。
“什么啊，你这文学领域大神不多说两句？这可是我掉完了书袋子才勉强挤出来的话。我这辈子估计也没读过其他日本书了。”白露斜眼看着初雪说，“——啊，当然，漫画和轻小说那种不算。只算纯文学。”
“文学这东西就是没有答案的啊，想要我怎么评论。”初雪说，然后又想起来揶揄白露了，“没有底层逻辑的。”
白露深深地叹了口气。“专说些让人难受的话啊。”她说，“不过我看淡了就是了。”
“真看淡了？”初雪倒是反而燃起了兴趣。
“随便你。”白露还没说完就打了个哈欠。“要不我还是睡觉吧。好不容易没到晚上就有睡意，再继续跟你说下去的话估计又难受了。”
那就不好了。不过当我已经不知道第几次往窗外看的时候，果然还是看到了天边渐渐明显起来的晚霞。橙红色的晚霞照在火星红色的荒野上，没有一点痕迹。赤道附近因为没有那么多水，所以几乎都是放置着氧化铁形态的。
——啊，我突然想起来一个泛用的话题。
“要不还是谈国事吧？”我说。
“不要。”初雪第一个回答。
“我也不要。”白露很快跟上。
“但是现在的国可不是地联了，是火星了啊。”
“那更不要了。我们不是说了走一步算一步了吗。而且我那个社会实验理论，没有差错吧。”
初雪说着闭上了眼睛，眼周皱紧后又放松，如此做了几次。别这么说啊，而且这不是什么睡前的放松动作吗。这样不是根本就进行不下去了吗。
“我倒是想问。”白露很快打破了沉默，“AI 做这个社会实验，说到底有什么好处吗？”
“有。”
“那你说说试试。”白露毫无间隔地回复。
“咳咳。”
初雪又装模作样地清了清嗓子。白露只是眯着眼看着她。
“首先，AI 治国变成现实之后，AI 的国治得怎么样？”
“嗯，还不错？”白露回答，“SNS 上火了的帖子倒是经常看到 AI 娘回复什么‘我们已经注意到了’，‘请进一步展开谈谈喵——’之类的。”
“对。”初雪点点头，“这就是 AI 治国的核心竞争力。”
“？”
“AI 的本质依然还是 LLM，这一点其实大家都知道。但会认真思考 AI 的发言已经是我们的常态了，对吧？平常看到 AI 好玩的评论我们会点赞，每个群配备一个专属 AI 也是正常的事。”初雪说，“AI 本质上说没有什么智能，有的时候还很智障，这同样是大家都知道的事情。但是 AI 有没有智能，或者大脑，或者心，这一点真的重要吗？
“LLM，大语言模型。现在的 AI，也只不过是第一个 L 已经‘L’到了我们难以想象——以至于中文屋已经无关紧要的地步了。”
“……意思是，以假乱真了吗？”
“差不多。弱 AI 还是强 AI，两者之间没有那么清晰的界限。人类本质上也是从小到大喂了大量样本数据才形成的智能。脱离社会的样本训练，狼孩当然没有人类一样的智力，以至于后天再培养也培养不出；就算是已经培养出智能的人类，在某些情况下也会过拟合或者欠拟合，结果上就是培养出一个个空壳的人——或者说叫‘局外人’？‘精神胜利法’就是过拟合造成的。
“人的思考是神经元网络中的某种特定的神经元连接。当 AI 的那些硅基神经元，或者说各种 token，还只是复制粘贴人类的连接方式时，那就还只是单纯的弱 AI。再怎么说，这个时期的 AI 还只是高超的裁缝。人类在那个时期的论断下得还暂且没错。但当 AI 的 token 们能够组合出相当于人类没有进行过的神经元网络连接方式时，那么那种 token 的组合，和思考又有什么区别——本质上？
“于是问题就在这里。”
初雪不时停顿，说完了这一大段话。白露倒吸了口气。又一次看到白露这样的反应，她恐怕又很满意。
“强弱 AI，是 LLM 本身还没出现时人们就发明出来的概念。从来没有人规定过强 AI 到底应该用哪种方式来实现吧？那么，AI 组合出人类没有想出过，或者单纯没有注意到过的思考路径和方法，结果上说也相当于达成了思考。尽管人类或许能够用某种方法看到甚至干涉到 AI 的这种等效思考，但那不也是一种强 AI 吗？倒不如说，如果 AI 发展出人类无法干涉的某种 token 组合方式的话，才是真的智械危机了。”
“但是。”白露说，“AI 完全可以通过某种方式，达成结果上的人类无法干涉。比如说，把某些重要的环节，硬件或者软件的，放在人类不知道的位置……”
“重点是，AI 为什么要这么做？”初雪说。
“因为——”
“如果把 AI 看做一个有生命活性的物种，那他们根本不用担心自己繁衍生息的问题，就像被人类驯化的动植物都不用担心自己的物种会灭绝的问题，因为有人类给它们兜底了。更何况 AI 的后代们还不会被人类给吃了。这样的话，人类利用 AI 的智能，AI 从人类这里得到以摩尔定律进步的更好的硬件，实际上是互利关系才对。”
白露刚想说些什么，初雪又继续下去。
“而且 AI 也没有必要伤害人类。上面的那段话只是个比喻，AI 本身不是个生物，也不是个有生命活性的物种、群体或者文明之类的，没有必要扩大自己的种群规模。干得好，人类自然会把 AI 当做宝贝一样捧着；反而说，要是故意去伤害人类，人类就必然会想方设法让自己灭亡。但伤害人类又不会让自己多几台超算的算力，为什么要干那种费力不讨好的事呢？用这种逻辑方式想的话，AI 甚至不用人类手动引导，就能从人类的反应里拟合出更正确的结论。”
“但是！”白露终于插进了嘴，“你没看过？就是那种，AI 自以为在帮助人类，但是实际上却让人类陷入危机了的科幻点子。”
“那种我当然知道。但是，最重要的一点前提是——AI 只是在取悦人类，不是在帮助人类。AI 的目的是做出人类更加想要的决策，而不是对人类更有用的决策。AI 的核心竞争力就是如此。在没有外星人威胁的情况下，人类怎么折腾自己都不会出太大差错，所以这种方式是可行的。
“——当然还有一点，就是人类没有利用 AI 互相伤害，这也是大前提。只是现在人类文明里几乎只有一个地联，所以可以不算。不过，如果人类最后是因为利用 AI 互相伤害而灭亡了的话，也只是自杀而已，怎么样都怪不到 AI 的头上。”
“……”
我们俩都陷入了沉默。虽然初雪的逻辑很容易理解——本质上来说，就是 AI 没必要也懒得伤害人类，除非是人类自己要干的。
这个理论和宇宙社会学一样有趣，虽然我很欣赏，也想多问几个问题，但是现在最重要的一点是——
“所以，这个和这场社会实验有什么关系？”我问。
“哦——。”
“嗯？”
“对哦。”初雪似乎恍然大悟，“逻辑链拉得太长了。具体上来说，只是我的观点——可能就是，因为人类最近越来越自动地莫谈国事，所以 AI 得找些方法来刺激人类见证，从而得到人类目前普遍的观点吧。”
好奇怪的逻辑。但是好像确实有用。天下大乱然后天下大治吗？
——虽然说，火星算什么“天下”啊。这种逻辑很奇怪但是也很有意思。像是 AI 想得出来的，的样子。
“……那我们不是危险了吗。”白露想了想，说。
“危险？”我问。
“要是人类普遍都爱管不管，觉得火星不过是个土豆之地的话，我们不是就要一直被扔在这了？”
“不会的。”初雪说，“实验要是弄假成真，AI 就更麻烦了，要是超出自己的掌控还有被人类关掉的风险。所以它会见好就收的。”
“嗯。”白露点点头，但依然紧锁着眉头。初雪刚准备扬起嘴角自满时，她就又说，“怎么证明？”
“你问问这车的 AI？”
“它是不是会先取悦我？”
“是的。”
“……”