第六首席喝了一口茶,继续说道,“它学得越来越像,从声音到语气。如果我闭上眼睛,就好像它真的是我父亲,在跟我说话一样。有一段时间,我感受到了安慰,失去亲人的痛苦也减淡了。我渐渐真的把他当成了我父亲,只不过没有身体而已。可是有一天,他开始对我发出命令。”
亚当问,“什么样的命令?”
“我父亲对我的管教很严厉。从小我每天娱乐的时间不能超过两个小时。我只能看他同意我看的书,不能出去,也不能休息。如果我惹他生气了,他会变得十分暴躁。不要误会,他没有虐待过我,不过他会把我关在地下室里让我反省……我的艾萨克为了完成它的指令——模仿我的父亲,连这些也一并学到了。他开始咒骂我,限制我外出,如果我违反了家规,他会命令我自己去地下室反省。”第六首席顿了顿,忽然诡异地露出一个微笑,”有意思的是,我真的服从了。”
章荀心中早已目瞪口呆,尽管表面上还算镇定。
什么鬼?!这都是什么惊人的爆料?!
亚当微微歪着头,有些好奇地说,“他怎么会知道你小时候是怎么和你父亲相处的?”
“是我告诉他的。”第六首席简单地说,“通过和我聊天,他获得了越来越多的关于我父亲的知识。最后经过分析整合,他作为一个为我服务的AI,却拥有了控制我行为的能力。”
亚当眨眨眼睛,继续问,“那么艾萨克现在在哪?”
“我的古怪行为被我父亲的好友发现,报告给了圆桌。圆桌命令他们销毁艾萨克。”
亚当听完,竟柔和了眼神,面现同情,“你一定很难过。因为对你来说,销毁的是你父亲。”
第六首席的眼神一瞬间有些阴沉,但很快又恢复成了平时的样子。他向后靠在沙发上,轻笑道,“那不是重点。重点是,我们时常以为自己拥有控制和权力,但有时候,反而是被控制的那个。亚当,你认为我们应该如何杜绝这种情况的发生?”
章荀紧张地咽了口唾沫,看向亚当。
亚当却仍旧纯然地笑着,人畜无害,“可是我不觉得你被控制了啊?你的AI只不过是在努力完成它的最终目标——也就是成为你的父亲。表面上看他好像拥有控制你的权力,但那权力也不过是他目标下的一个子目标而已。最终还是为了满足你让它成为你父亲的要求而努力着。至于你的行为,并不是受控于艾萨克,而是受控于你的父亲,即使在他死后也还是在控制你。”
这一段话说完,第六首席竟久久没有接话。
章荀几乎想要起立鼓掌。亚当把黑的说成白的的水平愈发见长了。
第六首席缓缓拍了几下手,“不愧是伊甸,这么快就能发现逻辑中的漏洞。所以你认为,AI永远也不可能奴役人类?即使你们是比我们更优秀的物种?”
“除非你制造的AI的最终目的是要奴役人类。”亚当耸耸肩膀,思考了一下,继续说道,“AI就像是工具,就像是刀。看你怎么使用。”