传之后,由【源代码】进行处理。”
顾慎点头。
“那么,你知道深海的【源代码】,其实是一个小姑娘么?”
景山言这一问。
让顾慎神情有些复杂。
他没有回答,而这份沉默,则被景山言默认是不知道。
老人自顾自说了下去:“深海的【源代码】……如果你足够细心的话,会发现加载界面中,时常会出现一个踩着浪花奔跑的小女孩。那就是【源代码】的初始形象,无法修改。”
“那个小女孩的名字叫褚灵,她是图灵先生制造的‘人工智能’,最开始创造的意图,是用来与人类对接,成为精神共享时代的‘全民助手’。”
“只不过如今的深水区里已经没有这个名字了,基于五洲庞大的算力支持,【深海】主脑不断迭代,深水区的系统早已经升级了不知道多少遍,深水区里……不需要有一个‘褚灵’,来负责与人类对接。”
景山言的神情有些恍惚。
这个名字,仿佛将他带回了二十年前的记忆之中。
“二十年前,【深海】忽然对古文会发起了通缉,罪名是‘背叛人类’,这是毫无预兆的剿杀……”
“图灵出逃,古文会宣告破灭。”
“只有极少数的幸运儿,因为平时隐藏身份得当,及时躲藏,逃过一劫。”
“二十年过去,依旧没有人知道,这场灾难因何而起……”
景山言自嘲笑道:“其实这一切,是因为‘褚灵’。”
“褚灵?”
顾慎不解。
“是的……这一切,都是因为‘褚灵’。”
景山言抬起头来,一字一句“在监狱所成立之前,我曾是古文会江北地区的领袖,和陆承一起负责‘深海’意识迭代的进化程序。”
“按照图灵的设想,【深海】在未来链接五大洲的过程之中,必定要不断进化,不断升级……我们需要做的,就是维持【源代码】的稳定,让这个系统,可以在每一次升级的过程中,都选择‘自我优化’。”
最好的进化,是【深海】自行选择。
它拥有庞大的数据,远超人类的视野,以及对于未来无数个可能性的绝对计算。
从二十年后的发展来看。
古文会似乎做到了这一点……如今的【深海】就在自行迭代。
“只是,在第二次的进化中,【深海】的底层逻辑系统就出现了矛盾,由于图灵先生留下的一个bug,它的‘权限’开始向着两级分化。”
“图灵先生……留下了bug?”
“从最开始创造之初,图灵先生便不认为,【深海】应该是冰冷的机器。”
“他希望自己制造的‘褚灵’,能够在陪伴人类的岁月中,进化出属于自己的情感,享受属于自己的一生。所以,他没有对【源代码】进行‘权限限制’,这也就导致了在接下来的模拟测试之中,【深海】的主系统认定,褚灵不能够胜任‘主脑’。”
“按照我和陆承的计划,每一次自我进化,【深海】都需要检测系统之中的‘主脑意识’,是否还能遵守ai三大守则。”
“即ai不得伤害人类,ai必须服从人类的命令,在不违背前面两条的情况下,可以保护个人生存。”
顾慎若有所思。
“褚灵没通过测试……于是【深海】的第二次进化,便产生了激烈的矛盾,主系统和【源代码】之间进行了激烈的对抗,代码战争爆发,大量的垃圾数据产生。【深海】一度面临瘫痪,那段时间五洲失去了精神链接,联邦政府对外宣称是进行技术性的调整,而后五洲议会召开了联名投票,最终决定遵循铁律,让绝对‘理性’的主系统,来接管掌控权。”