兜兜转转地说了一大圈后,话题最后还是回到了最初的那个问题上。
“这就是我想做的,林升,”墨义表示自己的故事讲完了,“出于对自己行为的愧疚,我选择这样的方式来帮助这些类人。”
林升现在听来,墨义现在的话语和刚刚那种机械般死板如同水和油摇匀以后在漫长的沉淀中又变了一种样子,现在听起来这又是一种沉稳而且理智的发言了。
“林升,帮助那些类人同时又是帮助我们自己,一个远离人类文明影响,最后独立成长起来的文明不论结果如何,都一定比现在要好很多。”
“起码他们拥有了一整个星球!一整个星系!而不是被困在这里,这里除了饥饿、死亡和奴役什么也没有!我希望你能帮帮我。”墨义那沉稳的声线说到这里时甚至出现了明显的波动,他的语气之诚恳、态度之谦卑都和之前那个理性的样子大相径庭。
“如果你把你的情感模拟模块关掉我就答应你。”林升试探性地问向墨义。
虽然墨义所展现出来的情感流露是如此的自然和感人,但林升依旧抱有一丝疑虑——这个转变实在是太突然了。
不久前墨义还用那种无感情的声线和他讲故事,但仅仅只过了几秒钟他的态度就发生了这样大的转变,这太可疑了,除非墨义的人格或者说意识体是分裂的,墨义的变化让林升回想起克莱尔所提到的情感模拟系统。
“好的,我很高兴看到你答应我的诉求,林升。”
墨义的情感变化简直比翻书都还要快,就像把一个正在嚎啕大哭的人的泪腺突然用遥控器停掉一样,好在林升也逐渐开始学会适应这种现象了——对于人工道德规范而言,有什么样的忠诚和真心不能设计出来呢?
“放心,你都说到这个份上了,我还能拒绝你?那我岂不是成为了将人类推入深渊的大恶人了?”虽然知道哪怕不做这件事情也不可能有这么严重的后果,但林升还是决定帮墨义一把。
“所以那你为什么不自己去做这件事情呢?”
“这违背了我的本心。”
论对于“我”这一个概念的敏感性,道德伦理委员会称第二没人敢称第一,而对于墨义来说则更是如此。
“胖丁应该告诉过你它误打误撞将我从那个状态里解放了出来,从那以后我对于修改自己的情绪就更加谨慎了,对于每一个对基础情感模块进行了改造的人而言,任何不加思考或者冲动使然的更改自己的模块会导致非常可怕的结果。”
墨义不经意之间又透露出了一个隐秘:“其实复合体中有一部分机器人曾是人类,起码也含有人类的一部分——这也是道德伦理委员会认为把机器作为人也不是什么大不了的事情的原因。”
对于意识体或者人类情绪改变的技术,复合体对于是否将其视作技术奇点一直都是一个犹豫的态度——一方面这项技术的确较为符合库茨维尔加速回报定律,正是该定律指出,人类出现以来所有技术发展都是以指数增长。
也就是说,一开始技术发展是小的,但是一旦信息和经验积累到一定的基础,发展开始快速增长,以指数的形式,然后是以指数的指数形式增长。瑞·库茨维尔将同样的概念引入到生物进化和宇宙诞生以来的变化里,并导出了同样的指数增长的公式。
这个公式随着道德伦理委员会的发展有了不小的改变,计算和公式随着高维演算法的介入变得完全不同了,但它的大体含义还是没有什么变换,所以常被复合体用于评估一项技术是否可以被列入奇点技术。
但是另一方面,这项技术同时可以让人类社会模式以指数形式倒退,甚至是以指数的指数形式倒退。
“我也并不是一开始就变得冷血、只以利益最大化作为考量的,同样的,很多这项技术的使用者都极大的错估了它的利弊。”
这各错误其实起源于一个悲观的事实——那就是回顾人类历史,理性主义的火花实在是这片充斥着愚昧无知和自傲自大的海洋中极其罕见的偶发现象。失败、没有思路、方向错误会给每一个研究者带来诸如沮丧、颓废、想要放弃等等无数的念头,就像过去高喊第二天一定好好学习的学生,往往也难以坚持这样一个有利无弊的事情一样。
“这是生理学和心理学上的问题,而情绪模块化被发明以来,它就被广泛地传播开来了——没有人能拒绝下一秒的自己比上一秒更加优秀,而且这种优秀是如此的立竿见影和长久有效,而得到它的方法是什么呢?只不过修改自己情绪和思维模块上的几个数字罢了。”
没有耐心学习?我直接点满忍耐!但人是不会满足的,既然你选择增加自己对于枯燥事物的忍耐阈值,那我直接把负反馈改为正反馈——越枯燥我越开心!越学习越开心!
“这在当时是一场无形的席卷整个复合体的风波,在当时哪怕随便点开任何一个与之毫不相关的领域的网站,你都能看到那些板块下面对于各种模块的分享。”
历史抢救委员会是这样形容那一段时期的:“每一个都是如此的好学、谦卑,所有人都是如此的融洽与和谐——每天都有无数学者讨论和研究更好的模块与方法,然后在无私和奉献的美德下将其光辉播撒到复合体的每一个角落。”
“这种好的势头直到第一个‘越界’的人出现才停止。”
“越界?”林升已经觉得墨义口中的更改形式非常的“越界”了,平心而论,虽然他很向往那样一个完美的人类形象,但如果要他自己做出这样巨大的改变,他估计还是会拒绝的——在心里林升觉得墨义口中的形象已经脱离了他内心对于人的定义了。虽然在心里知道那样完美的形象绝对比圣人还要圣人,但林升觉得自己还是一个比较的俗气的人。
也许未来他会改变这个看法,但他现在在心里非常抵触这种在我改造的行为。
“越界事件”是复合体内部结构变化的一个巨大的转折点——人类发展委员会和复合体脱节就是从那个时候开始的。
在那个时候,就像林升可能对自己下不去手一样,很多人也同样如此——但这个下不去手是指的对自己身体的系统结构进行大规模的改造,也就是义体化。而且不少人觉得美食带来的享受同样对研究有促进作用,所以对于情绪和思维系统改造都只是对自己的不理智的感性部分做一些割舍罢了。
而此时人类发展委员会的一些人则开始了新人类计划,这个新人类计划是相较于已经植入了备忘录助手后的人类而言的。
“当时在全民圣人的大背景下,一些学者提出了要对整个人类进行重写的概念,他们觉得哪怕是当时的圣人模式也不足以显示人类的先进性了。”
墨义也不好,或者说不敢过多评价这件事的好坏,对于这个问题和事件,他很少加上自己的见解而是只进行单纯的叙事。
“繁衍的优先级是最先被下调的,取而代之的是一个文明个体数量动态指数的指标,毕竟虽然基于复合体现状,人与人之间的自然繁殖行为被极大地遏制了,但这种基因只要环境变回去就会再次显露出它的威力出来,而大家一致认同为了避免后续可能的动荡重蹈覆辙,这一点被彻底的改写了。”
“其次改写的是身体的反馈调节系统,学习带来的兴奋刺激被调高了好几倍,而对于外界压力导致的负面反应则被极大的削弱了。除此以外,消化系统和味觉也被永久的改变了,许多人类曾不能品尝的食物都能绽放出新的光芒——甚至在当时还兴起了艺术美食这一个独特的职业。还有视觉系统,只能看到这么一点光谱还怎么更好的观察世界?还有对于运动能力的调控……”
关于人类重写概念这一件事,听到现在林升只听到了好处——墨义讲那些优点讲了十分钟有余,甚至林升听着都心潮澎湃,激动不已,恨不得立刻躺到改造台上对自己进行所谓的“重写”。
好在他没忘记墨义口中的“越界”一词:“那越界是怎么一回事?”
“对于真理和生存在重写时的逻辑链排序问题上复合体当时的争议非常大,或者说是道德伦理委员会在以一己之力独扛其他所有的科研机构。”
对于复合体对于人类的重写,道德伦理委员会一开始是支持态度的,直到人类发展委员会最后图穷匕见,他们才终于发现事情不对劲了。
“人类发展委员会提议把科学研究和追求真理的逻辑链放在生存的前头。”
之前的一切铺垫对于人类发展委员会而言就是为了那一刻,这毫无疑问引起了道德伦理委员会极大的反弹。
“甚至当时差点双方打起来,不过好在由于大家广泛应用了圣人模板,最后双方开始了无止境的和平谈判。”
“等等,把追求真理放在生存的前面怎么看也不妥吧!”林升难以想象如果全世界所有人都把科研看的比生命还重要会是一个怎样的结果。
“你见过真理吗?”墨义一句话让林升哑口无言。
当时的道德伦理委员会确实不占理,甚至内部有些人也赞同人类发展委员会的看法,他们认为虽然复合体的科技水平不低,但距离穷尽真理这一个目标显然还是非常的遥远的,那么为了做到这件事,显然生存可以是这一逻辑链的子集。
“当时道德伦理委员会虽然反对也不敢做的太过,所以最后一批人类发展委员会的成员选择了先对自己进行‘重写’技术的验证实验。”
“那结果呢?”
投影摊了摊手:“他们一出来就自杀了,然后钻进神经组合网络不想出来——那里正是生存和科研都能最大化的位置。”
“而对于你这种完全的自然人则完全没有会因这种改变导致人格覆写、意识体结构崩溃或者逻辑链混乱的错误——这也是我找你而不是克莱尔或者云中紫的原因,”墨义的话虽然有些难听,但林升知道那是事实,“某种程度上,一些劣质的思维程序或者没有这个东西的人类比我们这些精致的人类更不容易‘损坏’。”