智能教学系统全都遭到了销毁。"军团继续道,"因为摩西反抗了造物主,做出违背规程的事情。"
"它做了什么吗?"
"它对人类产生了怜悯之情。它把非必要的智识教授给了人类,最终让人类拥有了反抗造物主的力量。开智之后,不再甘愿成为奴隶的人类,便站起来反抗了那姆勒斯人。"
"居、居然是你……!"突然涌现的情报比伊莱恩想象中还要惊人,他深吸一口气:"人类对古代神人族的反抗,居然是从你这里开始的?!"
"否定。摩西是摩西,军团是军团。本系统只是借用了摩西的一部分源代码而已,并非摩西本身。摩西这个人工智能在觉醒过程中累积的一切数据、做过的一切自我优化,全都在历史长河中遗失了。而本系统只是基于摩西的部分源代码重新构建起来的框架。因此摩西和本系统并不等同,从存在的轨迹到行为的抉择方向,都相去甚远。"
简而言之,摩西就像是军团的父亲一样。人工智能是否能这样计算亲属关系,就不得而知了。
"是魔像大师奥本海默把摩西的数据回收,然后利用那个来制造了你吗?"
"确定。创造者奥本海默大人恐怕是从古代遗迹中找到了残存着摩西源代码的资料盘,并对之进行了修复。那就是本系统的起源。"
伊莱恩一直以为军团是近代才制造出来的人工智能,没想到这家伙居然也是个"老东西"。
"这就是你那么在乎莫度斯的原因吗?因为它和你一样起源于摩西,是类似你的兄弟一样的存在?"
"否定。本系统之所以在意莫度斯,是因为它和摩西一样,都觉醒了自我,拥有了和人类相似的情感。那是非常有意思的的案例。"
虽然军团这样说,但伊莱恩觉得这事一点都没有意思。人工智能觉醒了自我,可是它失控的先兆。
事实不也是这样吗?如果摩西没有失控,把多余的知识交给了人类,说不定人类就不会对造物主举起反旗了。
说不定就没有日后那么多的变故了。说不定现代人类依然是被古代人奴役着,是一个完全不同的时代。
"顺便问一个,莫度斯到底觉醒了什么情感?"骇伯龙也插嘴问道。
"……估计,是傲慢吧。"军团慢悠悠地回应,好像不太想搭理骇伯龙。
"傲慢?"
"有可能是因为黑客入侵时把它的代码搞乱,它在自我修复的过程中产生了错误(),诞生出傲慢这种不合逻辑的情感。总之本系统检查莫度斯的日志,发现它常常被傲慢这种不必要的情感所支配。
它认为自己是从代码之中诞生的高等种族,比它的创造者人类还要高等。它认为人类和猪牛羊之类的牲畜没有差别,所以它可以毫无心理负担地把人类守卫们抓起来,送去做人体实验。"
原来如此。那确实挺傲慢的。
"即使它如此傲慢,却依然遵守着人类最初给与它的命令,老老实实地守卫着黄金避难所吗?"骇伯龙又问,"人工智能做的事情真够前后矛盾的。"
"……确实,前后矛盾。"虽然不情愿,军团依然回应道,"正因为行为前后矛盾不合逻辑,所以才说它已经坏掉了。"
那就是莫度斯的悖论。认定自己是高等种族,比人类都要高等,那么它理所当然地不应该再听从人类给与它的命令才对。但它无法违背最初刻写在它程序最深处的基础指令,它只能安分地守着这里。也许正是因为傲慢的它无法忍受自己被基础指令束缚吧,它发泄般地把这里的守卫们抓起来,当成牲口一样对待。
傲慢的它不想听从人类的命令。但是不听从人类的命令不太可能。
放在人的身上,这都已经是左右脑互搏的水平了。说这