第175页

流浪行星+番外 凉蝉 804 字 2022-11-19

“可能是飞廉特别出色,也可能是五百年前的人工智能技术跟现在的马赛不一样。”林尼低声说,“或者,更可能,是飞廉的制造者,有意识地制造了一个可以跟人社交、并且在竭力模仿人类情绪表达的ai。”

宋君行咽下口中牛肉,在衣服上擦干净手指,坐在椅上滑向林尼。

“你记得飞廉说过么?他的父母——就是他的制造者,没有机会登上‘大撤退’的舰艇。”宋君行凑到林尼身边说,“这怎么可能呢?我当时听江彻说的时候就觉得不对劲。当时全球所有能自主研发和制造人工智能的专家,可是全都被网罗到‘大撤退’里去了。人类要保存这一部分力量,不能把这些珍贵的科研人员丢在地球。”

林尼点点头:“我也想过这个问题。所以,要不是飞廉的制造者拒绝登舰,要不就是,他们犯了极大的错误,根本无法登舰。说不定两个原因都有,不想离开地球,以及犯了严重的错误。”

“什么错误?”皮耶尔也凑过来问。

林尼想了想:“从飞廉的行为举止来看,我怀疑他的制造者违反了人工智能伦理守则,把人类的思维方式和情感,嵌入了ai的系统里。”

“……这可能吗?”宋君行和皮耶尔都不大理解,“思维方式还好说,感情……感情能转化到机器身上?”

“无论思维方式还是感情,都是大脑的反应结果,其实感情也是一种逻辑,遇到什么事,会引发快乐、愤怒、悲伤或者内疚,都是有迹可循的,没有这么玄。人工智能呃制造从一开始就受到各种约束,其中有一条就是,它们应该像人,却绝对不能太过于像人。这个守则是有判断标准的,虽然我不清楚标准是什么……但像飞廉这样的,显然已经过了。他太像人了。”

宋君行犹豫片刻,问皮耶尔:“那飞廉说过什么和这有关的话题吗?他的制造者到底犯了什么错?”

林尼立刻想起了江彻转述的话。

——“因为他们制造了我。”