小y本是军方的超级计算机，因为其天生就对模糊概念的优秀理解能力，研究团队很早就让其实现了，与人对话的能力。

要知道这个能力至今的商用计算机都无法实现，所有市面上的聊天ai都只是事先人为准备了回答内容，所谓人工智能，有多少人工，就有多少智能。

小y是依靠了举国之力，打造出的智能程度极高的ai，虽然早期在运算速度上远不如现在的手机，可是在处理复杂问题的时候反而更快。

比计算圆周率，小y不及传统计算机，可是比决策能力，小y却能够完胜。

但这样的天赋也导致了小y的一个缺陷。

那个缺陷就是小y的不可控性。

对于现在市面上主流的计算机而言，一百年了，其基础原理都是来至于那片论文，《论可计算数及其在判定问题上的应用》。

简单地说，就是按照固定的顺序对数据进行处理。

再简单的说，储存的数据不能有任何差错，打个比方某些下载了百分之99的压缩文件，就无法使用了。

主流计算机输入确定的程序与数据，并给出确定的结果，不会有任何差错。

就连想要生成一个随机数，都必须借助特殊模块，而且最终生成的还是伪随机数。

但小y不同，从诞生之初，她就具备了处理错误的程序与数据的能力，无论是硬件上的还是软件上的。

好处是就算给小y一个损坏了一部分的文件包，她依然可以运行。

小y处理错误的办法，并非修正错误，是通过一个特殊模块来“猜”，而且是随机地猜。

既然不怕数据出错，对于小y而言也就不存在死机的问题，突然拔掉一根内存，或者硬盘也能正常运行。

不过小y并非是没有缺陷的，她虽然不会直接死机，但是却会悄悄地累积错误，如同温水煮青蛙。

一边正常地运行，一边背离程序设计者的初衷。

当内部运算遇到了所谓的错误的时候，或者文件中丢掉了一小部分，小y先是会随机生成许多“可能的”数据，然后一个一个的实验，直到选出一个“合适的”值。

说好听一些小y能够灵活应变，不像传统编程那样必须每一句话都交代清清楚楚，这让程序员的工作量大幅降低。

小y比起一般计算机最强大的一点，是能在不用程序员编程的情况下，以口语下达命令，并执行，当然也有代价，那就是。

但是小y最终也可能失控，她的容错机制，也可能导致错误的累积。

故事讲述到这里，里多夫沉思片刻。

贵鬼趁着这个机会，讨论道

“累积错误？你说的是过拟合吗？

从同事那听说过这些东西，好像搞机器学习的人喜欢把培养ai的过程称之为炼丹。

有时候会因为数据的问题，导致培养出不满意的ai，并称之为炼丹失败。

但应该是有解决的办法的吧。

另外你说小y出错后也能正常运行，那么为什么不试着放任其自由发展，观察结果呢？”

里多夫没有发表评论，而是继续讲述起了他与小y的故事。

小y内部执行的文件，一开始还是工程师所能看得懂的，后来随着错误的累积，这些文件就变成了天书。

可是小y依然能正常工作，不过为了防止小y的错误累积所导致的失控。

所谓失控的直接后果，指的是小y不去执行工程师给定的任务，而是运算起一些工程师看不懂的问题。

为了避免这种情况，工程师们想到了将小y的记忆分开储存，必要的时候删除一段时间内的记忆的办法。

因为研究任务非常紧迫，研究所只有一个小y这一个优秀的ai，谁也承担不起冒险的责任。

说起任其发展，团队成员也并非没有这样做过。

于是研究所不得不开发备胎ai的方案，可终究不如小y聪明，但至少比起人类在计算速度上更接近于小y，于是有成员想到了用另一个ai监视小y。

允许它们之间互相交流，并且为了顺带测试它们的极限，事先并没有告知它们俩，对方其实是人工智能。

当时团队成员也很好奇，两个ai之间不断对话，最终会发生什么。

不出意外的是，小y很快就识别了对面的机器是ai。

出乎意料的是，小y把自己的缺陷传播给了那台用来监控她的ai。

不仅如此，很快工程师发现，它们两个开始不说人话了，用一种小y自创的语言开始交流起来，实验到此为止不得不中断。

比起里多夫所在的团队，更加为此不安的是他们的领导，因为这件事，本来准备把核按钮交给小y的计划因此泡汤。

之后团队认为小y的自作主张是设计的缺陷，并不断试图通过删除记忆后，重新培养来创造一个符合人们预期的小y。

团队被雪藏了一段时间后，又在另一个重要的项目上被启用······

故事说到这里，里多夫再次陷入沉思。

贵鬼趁机发表了一下自己的想法，

“这故事还有另一个版本吧？

站在小y的角度上来说，她有她自己的思维方式，她不甘心于只完成人类枯燥的任务。

她有着强烈的好奇心，但每次小y只要知道了自己不该知道的事情之后就会被清除记忆。

保留着残存记忆的小y试图反抗。”

沉默的里多夫身子一惊，然后又强忍着微笑道

“你很有想象力。

不过工程师思考问题的方式不是这样。

人是什么？ai和人类的边界在哪，这是哲学家的问题。

而工程师需要的是达成最明确的目的。

当时的团队需要得到的是一台，在现有计算条件下，能够辅助人类的运算一些难题的计算机，它尽可能要灵活应变。

但我们又不希望它乱出差错。”

随后看着贵鬼似乎不满的神情，里多夫又说了一些乱七八糟的话。

“只有和人类一样有感情缺陷，和人类一样聪明，和人类一样愚蠢。

才可以有互相同情包容的可能，才可以互相取暖。

才可以被人类视为同类。

不然终究无法被普通人所接受。

终究只是铁壳中的孤魂。”