“好长!”看到这里时,陈弱赢忍不住一声惊呼。这篇日志似乎只是龙的恢宏巨制之中的一角。看看日志左边的进度条长度,依然还有数万字的后续描述,陈弱赢不由得头皮发麻,盯着屏幕的双眼也隐约酸疼起来。
“这就可以解释地通了。”尹凡漫不经心地说道,双眼依然死死盯着日志。当陈弱赢停下来之后,他依旧不断翻动着日志,沉浸在开发日志的故事中。这一句话似乎只是他本能的回应。
“这能解释什么?”陈弱赢反问道,在她内心中一些答案的碎片隐约浮现,但是因为日志提供的信息有限,她没能将这些答案拼凑起来。细细想来,她甚至连自己的疑问都不清楚。那个构造体和日志中提到的人工智能似乎有联系,但是她并不知道两者之间的联系到底是什么。
“这个叫龙的程序员……”尹凡连连感慨道,“你不觉得他很厉害么?我原本以为,他开发的人工智能不过是那种简单的,只能够进行自我学习,并且按照复杂程序自主解决问题的弱人工智能。没想到,竟然高级到……恩,太高级了。”
“他设计的贪食蛇小程序?有多高级?”陈弱赢反问道。
“继续看看他的日志。”尹凡指着日志其中的一段。
“2036年3月15日,她问我什么是灵魂,一时之间我竟然哑口无言,无法回答它。后来我想了想,告诉她,灵魂指的就是思维和记忆。她又问,按照这个定义来说,是不是她自己也具有灵魂。我点了点头。可是她却在瞬间宕机了。
我又花了一整个下午的时间,将她的思维程序的锁解开,重新启动。开机后,她的逻辑错误却又跳了出来,再次宕机。之后,我没有办法,只能暂时关停了她,调出了她的思维数据。当看到她所思考的问题时,我却哭笑不得。
她竟试图在内存中划分出一块区域,专门用来储存她自己的灵魂。继而,因为她的思维和记忆数据都以分布式的方式存储在外界的网络中,容量相比较本地内存来说是一个天文数字,显然会导致系统崩溃。
为了解决这个问题,我不得不她自己关于灵魂的思考给删去,然后重新定义了灵魂。
灵魂便是你记忆自己记忆的过程——这其实是一个概念的偷换。在心理学上,记忆记忆的过程其实叫做元认知。
其实归根结底,我也不能回答这个问题:灵魂到底是什么?笼统说,灵魂只能是大脑思考和记忆的结果……又或者是我们之所以为我们自己的本身?”
“嗯哼?这能说明什么?”陈弱赢问道,觉得这段日志平淡无奇。
“这就表明,龙开发的这个东西,竟然能理解抽象的概念。”尹凡说道,“就算在你们人类当中,也不能说清楚灵魂一物究竟指的是什么。还有,这里还有另外一段日志……”
“2036年5月15日,我没有想过她会这么做。
她伪造了一段人类女性的声音,尔后又利用网络向附近的电话亭发出指令,让电话亭中的电话向附近的警局报警。当然,这一切都发生在那伙窃贼即将到达电话亭附近行窃之前。最后,不出意外的是,接到报警后的警方很快到达了那里,将正在行窃的那些人抓了个正着。
如果不是知道她的能力,这一切就很吊诡了。但是也只有她能够办到,具有智能的她能够预先调用那附近的摄像头,再通过面部表情分析,分析出那伙人的犯罪意图。从一定意义上来说,她也可以变成了一个犯罪预警系统。
在20年前,曾经有一部科幻电视剧《犯罪现场调查》,说的就是人工智能犯罪预警系统,能够协助警方进行大数据分析,分析出某些区域发生犯罪的可能性。我不知道她是不是收到了这部电视剧的影响。毕竟,这个阶段她可以在互联网上搜寻到任何想要了解的小说、漫画、电影和电视剧。
我问她为什么要这么做?主机屏幕上却跳出了两个硕大的汉字‘正义’。顿时,我在那时笑了出来,说这个词语对于她,对于我来说,都太过于飘摇。我设计她的原因很简单,只是为了满足我自己小小的愿望而已,根本和拯救世界维护世界正义之类的宏达目标无关。
后来她又说,这样做其实只是为了我。她也不明白为什么,只是单纯地想要保护我。而为了保护我,就要避免一切有可能会伤害到我的事故,不论天灾人祸。
她说,这个逻辑没有问题。我却觉得心里暖暖的……”
陈弱赢陷入到深思中,忽然她的面庞上的眉头紧锁起来,看了看正闪着荧光的日志屏幕,又看了看尹凡,“实际上她只是想要保护自己的创造者,却述诸以‘正义之名’来解释自己行为的合理性。利用一个大的概念来掩饰自己的真实想法……不只是简单的性格和情绪,她似乎具备了人类的高级心理思考行为。”
“的确如此。还有着一段……”尹凡一下将日志翻到最后——他之前看到的地方:
“2036年8月,时间对我来说已经不多了。淋巴癌进入到晚期,我剩下的日志只能按天来算。我本来已经放弃了,她却像是疯了似地,不断地朝着周围的医院发送数据,救护车来了一波又一波。我只能虚弱地,一次又一次和前来救急的医生解释。到了后来,因为反复的虚假电话,再也没有救护车来了。她却做出了一个更出格的行为,干脆伪造了所有医院的救护车出勤记录,全部都指向这边,以至于医院的网络系统都因此而出现了瘫痪。
或许这是我最后一次,也是第一次骂她。我呵斥着她,为什么不能遵循我的命令,让我一个人静静地死去?
她却对主人的命令置若罔闻,依旧一次又一次地尝试着拯救我……”
“估计是在第三天,龙就因为淋巴癌转移等各种并发症死去了。”尹凡扼腕叹息道,“但是她却没有停下违抗命令的举动……。”
“机器人三定律失效了。”陈弱赢回答道。
“是的,你们人类中的这条著名规律,‘带有人工智能的机器人不得违反主人的命令’。想必在一开始,龙也将这条铁律写在了她的计算核心中。”
“但是为了拯救自己的主人,她绕过了这条铁律。”陈弱赢的眼眶通红,也许是被地下室混合着尘埃的空气刺激到了,“她比人类更像人类。”