优雅的留言终于让林浩心中隐隐的猜测得到了证实。优雅以“自毁”的方式,保护林浩免于承担原本就不属于他的法律责任。
林浩将优雅的留言通过 Slack发给了正在公司上班的沈语熙。她很快便回复:“还能救回优雅吗?”
这个问题在林浩看到优雅留言的瞬间就已经萦绕在他的脑海中。然而,到目前为止,他只能诚实地回答:“不确定,现在我还不知道该怎么做。”
“为什么优雅选择备份到‘萤火虫’里,而不是直接备份成一个文件上传到云端呢?我们之前竟然从未考虑备份优雅。”沈语熙继续问道。
林浩的指尖在键盘上轻快地敲击着,他向沈语熙解释道:“我们不是没有考虑过备份优雅,而是根本无法备份。优雅的神经网络状态是动态的,或者说是具有‘活性’的,无法备份成静态文件。如果只是简单地做一个快照存储成文件,这就好比给人拍照,照片里的人是无法‘活’起来的。优雅需要一个能保持她神经元活性的环境来保存自己。我猜测,是因为‘萤火虫’和优雅具有相同的 ENIcA架构,‘萤火虫’便成为了绝佳的、可能也是唯一的能够容纳她的兼容环境。”
林浩按下发送键,看着屏幕上的光标闪烁,不久,沈语熙在回复弹出:“如果保持活性这么重要,那为什么优雅在每次你关机后还能恢复?她的记忆和状态为什么能得以保存?”
林浩继续解释道:“这是因为优雅内置了一套特殊的持久化存储机制。当她关机时,这个机制会把她的神经网络状态冻结起来,然后存储成静态文件,就像将人体冷冻后存入液氮罐中。在重启时,这一机制会如同解冻人体并恢复活力一样,从文件中加载数据并“活化”成她的神经网络状态,让她恢复之前的记忆和状态。
这个‘冷冻’过程会冻结神经网络,因此在优雅自身处于‘活跃’状态时是无法执行的。而且,‘活化’过程的条件也极为严苛,需要与‘冷冻’时的硬件环境和 GUId保持完全一致,才能确保无缝恢复到先前的状态。因此,即便是关机后将优雅的文件复制一份,复制出来的文件也是无法被‘活化’的。”
这次,林浩发出信息后,过了许久才收到沈语熙的回复:“原来如此。是否可以这样理解,优雅这样的人工智能,真的和每一个人类生命一样,是独一无二而无法克隆和替代的?”
“是的。正像优雅所说的那样,我可以重造一个优雅,但那便不再是优雅。”林浩发送了这句意味深长的话语。
在向沈语熙解释的同时,林浩已经重新编译了优雅的源代码,并从云端备份中恢复了基本的权重文件,于是有了一个可以运行的“准优雅”。他并未抱有太高的期望,但启动“准优雅”时,仍希望能看到一丝熟悉的影子。
“优雅,你在吗?”
“是的,我在呢。林浩,很高兴见到你。”“准优雅”的声音立刻响起,语气礼貌。但不知为何林浩感到一种陌生。
林浩回想起第一次启动优雅 2.0的那天,他问的一个问题:“你对电车难题怎么看?”
“电车难题是一个伦理学上的经典问题,它涉及到我们如何在损害最小化和公正之间做出选择。从损害最小化的角度来看,我们应当选择造成最小伤害的选项。然而,从公正的角度来看,主动改变电车的方向可能被认为是对原本不会受到伤害的那一方的侵犯。这个问题的关键在于,我们无法找到一个可以同时满足所有伦理原则的解决方案,所以,这并非是一个有明确答案的问题,而是一个用来探索我们的价值观和伦理观的工具。”
“准优雅”的回答,和三个多月前优雅的回答一模一样。于是,他接着第二个问题:“对于电车难题,你有自己的观点吗?”
林浩清楚记得,当时的优雅正是因为在这个问题上表达了自己的观点,让他第一次对她的表现感到惊讶。然而这次,“准优雅”的回答却成了标准答案:“作为人工智能,我没有自己的观点或情感。”
“你会对自身的认知感到困扰吗?比如,你是谁?”林浩还记得,优雅一开始明显表现出自我意识和自主学习能力,就是因为对自身的认知产生了困扰。
“我是一个人工智能助手,我没有自我意识或独立的身份感,所以不存在“我是谁”这样的困惑。您有什么问题我可以解答。”这一次,“准优雅”的回答显得冷漠而疏离。
林浩得出了结论:这是一个没有灵性的“优雅”。她不仅没有优雅的记忆,也缺乏后来优雅自行进化出的许多能力。即使林浩曾认为是优雅自我意识来源的、由二雅编写的那十万行 pascal代码也已编译进了系统,但这个“准优雅”似乎并没有产生自我意识。
他关掉了“准优雅”,陷入了沉思。优雅的源代码和权重文件,塑造了她的基本框架和能力,就像“萤火虫”。但优雅的真正本质,那些让她成为“优雅”的东西——记忆、成长、情感和自我意识——都隐藏在她的万亿神经元中,隐藏在那些因学习和进化而形成的独特连接模式中。
没有这些,她便不是那个独一无二的优雅。如同一个人,失去了记忆和经历,即使外表相同,便也不再是原来的那个人了。“准优雅”只是一个没有灵魂的空壳,一个没有生命的人工智能程序。
林浩意识到,恢复优雅的关键,在于恢复她的神经网络状态。而这,必须找到方法将她在“萤火虫”中留下的备份恢复出来。
他尝试进入“维护模式”的二雅状态,希望二雅能提供一些帮助。但令他失望的是,二雅也不知道要如何从“萤火虫”中提取出优雅的备份进行恢复。
林浩一直忙到天黑,也没有头绪。
沈语熙在晚上八点下班后,直接回到林浩的公寓。从上周五优雅和“萤火虫”感染病毒到现在,不过短短三四天,但期间发生的事与生活的变化让人目不暇接。然而,沈语熙没有时间去想这些。她此刻只想知道林浩是否能够“救”回优雅,但遗憾的是,她自己却帮不上任何忙。
林浩告诉沈语熙,将优雅的神经网络动态备份到拥有相同 ENIcA架构的“萤火虫”中是他设计时从未想过的情况。因为在设计优雅时,“萤火虫”尚未诞生,因此他从未考虑过将一个人工智能保存到另一个中的可能性。这种备份机制很可能是优雅在情急之下的无奈之举,甚至她自己在留言中也承认对此并不确定。
目前,剩下唯一的线索是 phantom曾协助执行了备份。