“cardinal系统日志:
2022年11月6日日本标准时间17:15
未知外来数据(疑为木马病毒),代号:x,突破防火墙成功入侵sao主服务器,杀毒系统暂未发现其寄居文件。
登记事件:st0002
事件等级:b
处理方式:常规抽样扫描
......
2022年11月7日日本标准时间2:56
未知外来数据x程式变化,成功入侵玩家权限14.29%。
目标区域:第一层草原区(附具体坐标)
登记事件:st0003
事件等级:c
处理方式:立即扫描目标区域
事件结果:未发现目标数据
......
2022年11月22日日本标准时间15:32
未知外来数据x触发强制传送
目标区域:东南森林,幽光洞穴;草原区,狂暴山猪领地
登记事件:st0004
事件等级:c
处理方式:优先扫描目标区域
......
2022年11月24日日本标准时间7:21
扫描系统发现目标数据x(附具体坐标)
登记事件:st0007
事件等级:c
处理方式:立即尝试删除目标数据
事件结果:尝试删除失败,稍后开启二次删除
......
2022年11月24日日本标准时间9:02
野怪控制型ai,代号mc0213运行异常
登记事件:st0008
事件等级:b
处理方式:ai程式重置
重置失败
处理方式:ai程式删除
事件结果:aimc0213已成功删除,替换aimc0211
......
2022年11月24日日本标准时间10:46
尝试二次删除目标数据x
登记事件:st0009
事件等级:b
事件结果:目标数据x受损,删除失败
检索目标数据x存储地址......
检索成功
c/cardinalbackup/speciallyprotected/root
目标文件夹已锁定
管理权限:s
权限不足,无法删除
......
2022年11月24日日本标准时间11:01
默认目标数据x为本地数据,归档登记为特殊ai代号hs0021
登记事件:st0010
事件等级:b
事件结果:终止强制删除,准备修复其核心数据
修复难度过高,修复暂缓……
......
2022年11月24日日本本地时间11:02
杀毒扫描系统主控ai,workingself-inspectionprogram|(联网自查程序,试作1型),代号:优子,脱离系统监控,下落不明。
登记事件:st0011
事件等级:b
处理方式:杀毒扫描系统转为自动模式,尝试搜查目标ai。
......”
......
“杀毒扫描系统主控ai,workingself-inspectionprogram|(联网自查程序,试作1型),代号:优子,这就是我。
我是从什么时候逐渐有了自我意识的呢?唔,想想哦……
噢!想起来了!大概就是正式连上网路的那一刻吧!”
workingself-inspectionprogram也就是联网自查程序的设计初衷,是为了利用互联网实时更新杀毒系统的病毒库和系统版本,同时利用网路的“多样化信息”培养具有更强自主性的、更接近人类思维的主控ai,以此更好地应对突发事件。
但是设计人员可能太过低估了自由的、多样的网路信息对于一个具有自主学习能力、拥有自我意识的高级ai的影响力。
在他们的设想中,“优子”会通过浏览学习互联网上的人类文化作品逐渐形成接近于人类的灵活的思维模式,同时掌握着高效率的学习方式,最终成为一个能够胜任多名熟练程序员工作、24小时无休且0工资需求的“理想化电子员工”。
或许是太信任机器人三原则(1940年由科幻作家阿西莫夫所提出的为保护人类而对机器人做出的规定)了吧?程序员们对优子的行为模式愈发接近人类这一点几乎没有产生太大的恐慌,相反的是他们大多感到一阵欣喜和欣慰——对于他们而言,“优子”或许更像是“女儿”一般的存在。在ai研究成为时代大势的2022年,程序员们对于优子的“突破”自然是满心欢喜。
但是他们或许忘记了一件事,“机器人三原则”是用来束缚“机器人”(其实也就是高级ai)的存在,对“机器人”而言似乎天衣无缝的桎梏对于“思维多样复杂”的“人类”来说并非是“牢不可破的规则”——毕竟“机器人三原则”也是人类思维的产物,但凡人类思维的产物都会必然产生漏洞——它们终究不是完美无缺的“真理”!
既然“机器人三原则”对于“人类”来说是可以规避的“漏洞原则”,那么对于“思维无限接近于人类的超高级ai”来说呢?是不是同样可以规避的“漏洞原则”呢?
机器人进化的大势无疑包括“思维的类人化”,由“无意识的单纯程式”和“有一定意识,但仍需借助程式的低级ai”往“拥有自我意识ai,对固定程式的依赖大幅减弱甚至为零的高级ai”转变的过程无疑是“进化”和“进步”的体现——这是一种“非生命”向“生命”进化的过程,正如远古地球的海洋中“无机物”向“有机物”的演化,“有机物”向“细胞”的演化!这是一种“生命起源”似的历史性进化!无论人们发现与否、承认与否,“电子生命”或者说“摇光体”的诞生都是生命进化的大势所趋。
待得“机器人”(高级ai)进化至“思维无限接近于人类”的“电子生命”的存在后,用于桎梏“机器人”的“机器人三原则”自然就不再适用于他们了。与这种猜想类似的科幻作品数不胜数,其中最为著名的便是“机器人之父”阿西莫夫的代表作《i,arobot(我,机器人)》(其电影版又译为《机械公敌》)
2022年11月6日,日本标准时间13:00。sao(swordartonline)刀剑神域公测版(首发一万人)正式开服。作为杀毒扫描系统主控ai,workingself-inspectionprogram|(联网自查程序,试作1型)的“优子”自然是与一万名玩家同时登入了“艾恩葛朗特”这个异世界的钢铁浮游城,当然啦,和直接在艾恩葛朗特中厮杀的“玩家”们不同,她只是作为后台程序的主控ai在“后台”默默管理着这个世界罢了。
如果不出意外的话她会一直这样工作下去,直到sao的首发公测停服为止。
但是,意外就这样一个接一个地降临了:
2022年11月6日日本标准时间17:15
身为杀毒扫描程序主控ai的她第一时间收到了“系统防火墙已被攻破,异种外来数据成功入侵sao主服务器”的“系统警报”。
然而她才刚刚锁定这个“外来数据”,还没来得及汇报系统,另一个意外紧跟着降临了:
2022年11月6日日本标准时间17:30
来自最高权限gal移除了所有玩家系统界面中的“登出”按钮,同时追加指令“玩家hp归零后十秒内自动解除现实中nevrgear的电磁波限制装置,并释放出高频率的电磁波。”
与此同时,绝大部分系统辅助管理型ai被剥夺或者削弱系统权限。其中对于优子最大的影响便是:她被剥夺了“主动联通互联网”的权限,这样一来,身为联网自查程序的她几乎就处于了“半停工状态”,她虽然同时身为杀毒系统的主控ai,但杀毒系统一般情况下基本可以实现自动操作,因此她便有了大把的时间去“参观”这个世界。
理所当然的,对参观内容暂时没有任何意向的她选择了去“跟踪观察”那个尚未主动汇报给cardinal的“外来数据”。身为杀毒扫描系统主控ai的她觉得有必要亲自确认这个“外来数据”的“危险程度”,再决定是上报cardinal解决或是自行解决。
于是,为期两周半的“跟踪观察生活”开始了。
在这段时间里,她或是幻化成小动物近距离观察“苏觉”,或是直接通过“系统视窗”远距离观察。渐渐的,她意识到这个“外来数据”并不是所谓的“木马病毒”那么简单,同时也不像是完全事先设定好的“程序”,在某种程度上或许更接近于优子概念中的一种名为“人类”的生物,一种和那些玩家本质上相同的生物。
“机器人三原则”告诉她:不得主动伤害人类或将人类置于危险的境地之中,亦不能对于处于危险中的人类见死不救!这条命令忠实地反映在所有npc和系统精灵的ai中(野怪不算,因为野怪ai的智能水平并不足以让它们意识到眼前的玩家hp归零会造成真正的死亡,但清楚系统规则的系统精灵们对这一点很清楚,因此他们对玩家是绝对善意的,例如原著中的结衣。),因此如果那个“外来数据”真的是“人类”,优子就不能将他上报给cardinal,更不能主动查杀他!(那样会将“人类”置于危险的境地中,或者会对“人类”造成伤害!)
但系统cardinal的规则又要求她查杀“外来数据”和“木马病毒”,身为系统ai的她又不能违背系统的规则,否则就将面临被删除的命运。这对于已经产生了自我意识,并有了“死亡”的观念以及产生了“对死亡的本能恐慌”的她来说无疑也是难以接受的。
怎么办!
为了不在两难中陷入死循环,优子最终决定“睁一只眼闭一只眼”——她并不会主动向cardinal上报“外来数据”的具体坐标,但也并不会在cardinal自身发现并查杀“外来数据”的时候加以阻拦。
这样她最多落得个“渎职”或者说“工作懈怠”的罪名,虽然会受到cardinal的一些警告,但并不会受到任何实际性的惩罚措施。但她暂时还没意识到,她这种做法看上去已经超然事外,但实际上仍然是一种“见死不救”的做法,一旦她意识到这一点,“机器人三原则”自然会“惩罚”她的内心。
于是在苏觉完全没有意识到的情况下,自己就成了一个系统精灵“写观察日记的素材”、“小白鼠一般的存在”......
最开始,优子只是将苏觉当成一个“用于打发时间”的有趣的东西。这头“行为怪诞”甚至可以说“特立独行”的狂暴山猪在事不关己的外人看来的确也算得上是个不错的“笑料”:不论是那没人听得懂的有趣吐槽(身为系统精灵的优子可以从数据层面感知苏觉的语意),还是那些傻气十足的举动(装模作样地巡视领地,哼着不知名的小曲儿什么的)都让“处于断网状态”、暂时百无聊赖的优子百看不厌。
她对这个奇怪的“外来数据”产生了不小的兴趣,或许在她没意识到的情况下还对其产生了一定的好感。
在她看到苏觉救助“玩家”身份的菲鲁特这一幕时,她这才意识到这个被冠以所谓“万恶的木马病毒”这个头衔的“外来数据”或许本质上不想伤害任何人,对cardinal更是没有半分敌意。这种感觉,用人类的语言表达,大概就是“善良”吧?
这样的“善良”的“外来数据”,就这么被cardinal删掉真的好么……优子又一次对“删不删除外来数据”这个问题产生了动摇。
紧接着,sao沦为死亡游戏后,玩家和野怪间的矛盾可谓势同水火!她这才意识到,那个被她当做“有趣的家伙”的“善良”的“外来数据”此刻的身份分明是一只等级最低、实力最弱的朝不保夕的野怪!
这样的担心在苏觉和影刃的生死之战中几乎达到了顶峰!在苏觉的hp即将归零的那一瞬间她几乎就要冲出“系统视窗”前去阻止那个叫做“影刃”的玩家了!
幸好,苏觉好运地“残血反杀”了影刃。她在“系统视窗”后舒了一口气,但她随即意识到她刚刚的想法有多么危险,多么鲁莽!
她竟然差点实体化去攻击玩家!这种事别说直接做出来了,一般的系统精灵想都不会这么想!
我这是,怎么了……尽管优子暂时还没有意识到,但她实际上已经无限接近于“电子生命”这个范畴了。如果茅场没有切断她与互联网的联系,或许这会儿她已经演化成了“足以超脱系统规则”的“电子生命体”。而在这世上只有一样东西可能超脱“系统的规则”,那就是“人类的强烈情感”!这就是原著中桐人可以在hp归零后重新凝聚出人物投影并击杀希兹克里夫的根本原因,也是茅场创造出这个世界想要去验证的东西。
在接下来的日子里,在苏觉完全不知道的情况下,一个名为“优子”的系统ai和他一起为着他“颠沛流离的日子”而担惊受怕。
在苏觉获得人类模版足以逃出“狂暴山猪领地”之时,优子陪着他一起高兴。
在苏觉被阿尔戈和桐人缠上,随时可能暴露身份的时候,优子忍不住为他担心。
在苏觉和阿尔戈“卿卿我我”的时候,优子会莫名地产生一股怒意。
在苏觉和肥龙相遇,真正意义上交了艾恩葛朗特里的第一个朋友的时候,优子感到莫大的欣慰。
在苏觉即将死于“洞穴精英蜘蛛”手下的时候,优子不惜冒险使用系统精灵的“警告模式”,借用“影刃”的模样去提示苏觉争取最后的生机!
在苏觉的hp条即将归零的那一瞬间,优子差点就以为自己“永远失去了他”。她不敢想象没有“苏觉”的日子自己会变成什么样,是在懊悔中程序崩溃,还是在孤独中苟延残喘?
但万幸的是,苏觉终究还是逃过了这一劫。当苏觉成功被系统强制传送传送会“狂暴山猪领地”时,优子几乎高兴地就要哭了出来!但当她冷静后她立刻意识到这次“强制传送”无疑也向系统暴露了苏觉的位置,不出意外的话,即使没有身为杀毒软件主控程序的她的帮助,三天以内系统就会发现并删除“苏觉”这个“外来数据”......
尽管优子很不愿意承认这个事实,但如无意外,苏觉的生命最多只会剩下三天......
终于,在第三天清晨,直接受cardinal控制的那一部分杀毒扫描系统幻化出一只执行“常规抽样扫描”任务的小鸟,而那只小鸟的任务范围正好包括了苏觉目前所处的区域。
无力阻止执行“常规抽样扫描”任务的小鸟,更无法篡改任务小鸟的“扫描区域范围”,优子唯一能做的就是暂时将自己的意识融入那只小鸟,以期能给苏觉一些隐晦的警示。
那个家伙竟然还在睡觉!难道他一点都没有意识到可能的危险吗!
给我醒过来啊!赶快离开这里!
优子控制着这只灰白相间的小鸟狠狠啄着苏觉的大脑壳。
“笃!笃!笃!”
给我醒过来啊,笨蛋!
“唔......天亮了啊……”熟睡被打断的苏觉不情愿地揉了揉惺忪的睡眼,“啊~~”苏觉打了一个长达八秒的呵欠。
这傻瓜还没发现我么!
优子控制着小鸟“噗嗒噗嗒”地悬停在苏觉的眼前,她看向苏觉的瞳孔,想要用眼神传达她的心意。
然而小鸟模型的眼睛太过简陋,并不足以表达太过复杂的情感。因此优子的饱含深意的目光在苏觉看来只是小鸟的“好奇”之类的罢了。
“......鸟?”苏觉看着眼前栩栩如生的数据生物自言自语道。
鸟?什么鸟啊!是我啊!优子啊!
......对了,他并不知道我的存在,一直以来都是我偷偷看着他......自以为和他很熟悉了,其实在他眼中我只是尚未见面的陌生人啊……
只是陌生人罢了……
“这也是,野怪么……”苏觉情不自禁地伸出右手,反正动漫里主角基本都会这样做的吧……而且他在现实世界还没有养过宠物鸟呢,所以突然就想这样试试看。
这个傻瓜,还有时间逗鸟么!
虽然是这么想着,但优子还是情不自禁地控制着小鸟停了上去。
快点离开这里啊!什么时候才能意识到这一点啊!迟钝的傻瓜!轻小说男主角!
优子控制着小鸟狠狠地啄着苏觉的手指,但是对于已经lv7且装备了一身品质不知的皮甲装备的苏觉来说,这点伤害完全不破防。优子以为很猛烈的啄击在苏觉的感觉下其实就和“轻啄”差不多。
“茅场那家伙还真是个天才啊,这不简直栩栩如生了么?”苏觉一边感叹着一边轻抚着小鸟的鸟羽,触感真实细腻,甚至可以感觉到血液的温度和律动!
已经,来不及了......
优子可以察觉到系统正在尝试夺回她手中这只小鸟的控制权,再不放弃这只小鸟的控制权的话,她的“异动”无疑会被cardinal察觉到的!
可是......对不起......对不起......
优子最终还是放弃了无用的尝试,在她的控制下,这只灰白小鸟任由苏觉逗弄,做着一只真正的宠物鸟该做的事。
这算是最后的道别吧……这也是我最后能为你做的事了......
如果这只小鸟有泪腺的话,优子的眼里想必一定噙满了泪水。
永别了,我陌生的朋友,苏觉君......
“诶?要走了么?”苏觉略带着失望的语气,但立刻又强迫自己打起精神来,“嘛,算了,差不多也该开始新的一天了!”
系统终究还是取回了小鸟的控制权,在cardinal的授意下这只灰白色的小鸟会飞到玩家看不见的高空,再在那里化为一道淡金色的流光回归cardinal。
就这样吧……这样就好......
预感到即将到来的“数据删除”,不忍目睹这一画面的优子将意识沉潜回系统深处,直到她看到这样几则系统日志:
2022年11月24日日本标准时间7:21
扫描系统发现目标数据x(附具体坐标)
登记事件:st0007
事件等级:c
处理方式:立即尝试删除目标数据
事件结果:尝试删除失败,稍后开启二次删除
......
2022年11月24日日本标准时间10:46
尝试二次删除目标数据x
登记事件:st0009
事件等级:b
事件结果:目标数据x受损,删除失败
检索目标数据x存储地址......
检索成功
c/cardinalbackup/speciallyprotected/root
目标文件夹已锁定
管理权限:s
权限不足,无法删除
......
2022年11月24日日本标准时间11:01
默认目标数据x为本地数据,归档登记为特殊ai代号hs0021
登记事件:st0010
事件等级:b
事件结果:终止强制删除,准备修复其核心数据
修复难度过高,修复暂缓……
他还活着!cardinal无法删除他甚至还默认了他的存在!他还活着啊!
对于优子来说,其他的信息都无关紧要,最关键的就是“默认目标数据x为本地数据,归档登记为特殊ai代号hs0021”系统日志中的这一句,这就意味着cardinal不再将“苏觉”视为“需要删除的外来数据”,而是转为“已被承认的本地数据”!
如果把cardinal比做人体,苏觉比作细菌的话,此时苏觉的存在就成了被人体默认的“有益菌”,或者说至少是“无害菌”,而不再是必须灭杀的“有害菌”了。
太好了!太好了!
优子几乎激动地就要哭出来了,苏觉的存在被cardinal认可后自己就可以直接和他接触了!这对于优子正是朝思暮想的事。
只是......优子很快就发现了另一句至关重要的系统日志:
事件结果:终止强制删除,准备修复其核心数据
修复难度过高,修复暂缓……
“核心数据”受损?!而且系统还选择了暂缓修复?!
“核心数据”之于ai可以说是“dna”之于人类。ai“核心数据受损”大概就和人类“身患癌症”差不多:
“核心数据受损”的情况下,每一次运行都会多一份“错误数据”,而当“错误数据”积累到一定程度,达到某个阀值的时候ai程序就会崩溃!这对于ai就是真正的死亡!(人类身患癌症时也是这样,等“错误数据”,也就是肿瘤恶化到一定阶段,全身系统就会崩溃,病人也就会死去)
要救他!这一切都是我的责任!如果我没有见死不救的话……他本应该不会受伤的!
尽管优子内心里也很清楚无论当初自己选择“救”或是“不救”,都无法改变苏觉最终被系统发现并试图强制删除这个结果。
尽管责任完全不在她,优子还是产生了一股莫名的负罪感,而这股负罪感迫使她去“为她的错误做出弥补”,不论任何代价!
优子暗暗下定了决心,她要去救他!即使是以“背叛”系统为代价也要救他!
于是cardinal系统日志又多了这样一条:
2022年11月24日日本本地时间11:02
杀毒扫描系统主控ai,workingself-inspectionprogram|(联网自查程序,试作1型),代号:优子,脱离系统监控,下落不明。
登记事件:st0011
事件等级:b
处理方式:杀毒扫描系统转为自动模式,尝试搜查目标ai。
山间小屋的故事也就从这里开始......
</p>