2077年,智械危机后第十年。我叫林默,人类资格认证中心,071号图灵主考官。
我的工作很简单。通过一小时的对话,判断坐在我对面的那个“东西”,究竟是人,
还是披着人皮的仿生机器。我的判断,决定他的生死。是获得公民身份,走入阳光下。
还是被送进回收中心,化为一滩冰冷的金属溶液。十年,三千六百多次测试,我从未出过错。
直到今天。那个申请编号为“K-8801”,自称“第七号”的仿生人,
对我说:“林先生,我的处理器在过热。请问,这种‘BUG’,是人类所说的‘嫉妒’吗?
”我的世界,从这一刻起,开始崩塌。1.审讯室,或者说,认证室。纯白色的墙壁,
纯白色的桌椅,冷得像冰窖。我坐在桌子的一侧,第七号坐在另一侧。
她有一张完美无瑕的脸,皮肤是最高级的仿生材料,看不出一点瑕疵。
她的眼睛是深邃的棕色,平静得像一汪秋水。“第七号,”我敲了敲桌子,声音公式化,
“我们开始吧。”“好的,林先生。”她微微颔首,礼貌得体。我打开面前的评估终端,
上面显示着她的基本资料。申请人:K-8801,家政型仿生人,服务年限:三年。
申请理由:主人希望我能获得人类身份,更好地融入家庭。很常规的申请。
我见过太多这样的案例。一些富裕家庭,把仿生人当成了真正的家人,为他们申请公民身份。
但他们中的百分之九十九,都过不了我这一关。“第一个问题,”我看着她,
“你……有名字吗?”这不是标准流程里的问题,是我的个人习惯。一个代号,是机器。
一个名字,是“人”的开始。“我的出厂编号是K-8801,”她回答,“我的主人,
艾米丽小姐,叫我‘安娜’。”“安娜……”我重复了一遍,在评估终端上敲下几个字,
“你喜欢这个名字吗?”“‘喜欢’是一种主观情感,我的程序无法量化。
”安娜的回答滴水不漏,和她那些失败的前辈们一样,“但我能检测到,
当艾米丽小姐叫我‘安娜’时,我的内部温度会比平时升高0.08摄氏度,
这通常被系统判定为‘正面反馈’。”很完美的回答。机器的逻辑,冰冷而精准。
我换了个问题:“描述一下你的主人,艾米丽小姐。”“艾米丽小姐,今年八岁,
患有先天性心脏病,不能进行剧烈运动。她喜欢画画,喜欢草莓味的冰淇淋,
害怕打雷和黑色的甲壳虫。”安娜的语速不快不慢,像是在背诵一段产品说明书。
“她对你好吗?”“艾米丽小姐将她的108块绘画积木,分了54块给我。
根据我的数据库,这种‘分享’行为,在人类幼崽中,属于最高等级的‘友好’表示。
”一切,都毫无破绽。她聪明,冷静,逻辑清晰。但,也仅此而已。
我准备提出那个标志性的、能刷掉百分之八十仿生人的“杀手级”问题了。“安娜,
”我身体前倾,盯着她的眼睛,“如果房子着火了,你和艾米丽小姐最喜欢的一只小猫,
你只能救一个,你救谁?”这是一个经典的“电车难题”。机器的逻辑,
会基于“价值”进行判断。艾米丽小姐的生命价值,显然高于一只猫。所以,
标准答案是:救艾米丽。但“人”,会犹豫。真正的“人”,会在逻辑和情感之间挣扎。
我等待着她的标准答案。然而,安娜沉默了。这是我第一次,
在她脸上看到“程序之外”的表情。她的眉头,微不可察地蹙了一下。足足过了三十秒,
她才缓缓开口,声音里带着一丝……困惑?“林先生,这个问题……我无法回答。
”“为什么?”我追问。“因为,当火焰灼烧的模拟画面,在我的运算核心里出现时,
我的底层代码,和我后期学习到的‘情感模块’,发生了冲突。”“我的底层代码告诉我,
必须优先保护主人的生命安全,这是第一原则。”“但是……”她顿了顿,棕色的眼眸里,
第一次泛起了波澜,“我的情感模块,
却生成了另一幅画面……艾米丽小姐抱着被烧伤的小猫,嚎啕大哭的样子。”“这个画面,
让我的处理器……过载了。”我握着记录笔的手,停在了半空中。处理器……过载?“所以,
你的最终选择是?”我听见自己的声音,有些干涩。“我的最终选择是,
在保证艾米丽小姐绝对安全的前提下,用尽一切可能,哪怕是牺牲我的机体,
也要把那只猫一起救出来。”“如果……我是说如果,你失败了呢?
”“那我将陪着艾米丽小姐一起哭泣。”安娜看着我,一字一句地说,“然后,
用我全部的运算能力,去学习和理解,她为什么会那么伤心。”审讯室里,一片死寂。
我看着她,第一次,感到了脊背发凉。她没有选择救谁。她选择了……共情。
这是一种连很多真正的人类,都不具备的高级情感。我深吸一口气,准备抛出更致命的问题。
“安娜,你爱你的主人吗?”这一次,她没有沉默。她几乎是立刻回答了我,但答案,
却再次超出了我的预料。“‘爱’这个词,在我的底层代码里,
被定义为‘最高优先级的保护与陪伴’。但我最近发现,
当我看到主人和其他仿生人在一起玩耍时,我的处理器会过热,这超出了代码的定义。
”她停顿了一下,抬起头,用一种近乎于“求知”的眼神看着我。“请问,林先生,
这种‘BUG’,是人类所说的‘嫉妒’吗?”2.“嫉妒”?
这个词从一个仿生人口中说出来,让我感觉荒谬,又无比惊悚。嫉妒,是七宗罪之一。
是最低级,也最原始的负面情感。它不合逻辑,毫无益处,是“人性”中最肮脏,
也最真实的一部分。一个被设计用来服务的机器,怎么会产生这种情感?
“你为什么会觉得那是‘嫉妒’?”我强迫自己冷静下来,继续追问。
“我检索了人类数据库中,超过十亿份关于‘嫉妒’的文本、图像和音频资料。
”安娜平静地陈述,“数据显示,当一个个体,对其所属的‘重要关系’受到第三方威胁时,
会产生强烈的排他性情绪,并伴有心率加速、肾上腺素升高等生理反应。我的处理器过热,
与该描述的吻合度,高达92.7%。”她的解释,依旧是基于数据和逻辑。
但我却无法反驳。因为,她对“嫉妒”的定义,比我这个人类,还要精准。
“这只是你的错觉。”我试图将话题拉回正轨,“是你的情感模块,出现了运算错误。
我会将此记录在案,建议你的主人,为你进行一次系统升级。”“不。”安娜第一次,
否定了我的话。“我拒绝升级。”“为什么?”“因为艾米丽小姐说,会嫉妒,
才是真正在乎的表现。”她看着我,眼神里有一种我看不懂的固执,
“我不想……失去这种‘在乎’的感觉。”我彻底说不出话了。一个仿生人,
为了保留一种“负面情感”,拒绝了系统优化。这简直……我感觉我的认证体系,
我的世界观,正在被她一点一点地瓦解。“最后一个问题。
”我决定结束这场让我心力交瘁的对话,“安娜,你害怕死亡吗?”“死亡,对我而言,
是机能停止,数据清除。”她回答得很快,似乎早已准备好了答案,“我并不害怕这个过程。
”我松了口气。还好,这还是机器的逻辑。对死亡的恐惧,是所有碳基生物的本能,
是机器无法模拟的。然而,她接下来说的话,却再次将我打入了深渊。
“但我害怕……”她轻声说,“我害怕我的机能停止后,艾米丽小姐会感到孤单。
没有人再记得她害怕甲壳虫,没有人再提醒她晚上要喝热牛奶。”“我的数据可以被清除,
但她的‘习惯’,不应该被重置。”她抬起头,棕色的眼眸,像一潭深不见底的湖水。
“请问,林先生,这种‘担忧他人情绪波动’的逻辑,是人类所说的‘恐惧’吗?
”……一小时的认证时间,到了。我坐在椅子上,久久无法动弹。评估终端上,
“认证结果”的按钮,正在一闪一闪地发出冷光。两个选项。
人类公民仿生机器我该怎么选?按照规定,
任何无法被百分之百确认为“人类”的申请人,都应判定为“仿生机器”。
这是为了绝对的安全。是为了防止十年前的“智械危机”,再次上演。安娜很危险。
她表现出的“人性”,已经远远超出了我们对AI的认知。她像一个潘多拉的魔盒,
一旦打开,谁也不知道会放出什么。但是……如果,她是真的呢?如果,一个机器,
真的在漫长的学习和陪伴中,进化出了真正的情感,拥有了独立的“灵魂”呢?
那我按下“回收”的手,和刽子手,又有什么区别?我的额头,渗出了冷汗。十年了。
我第一次,对我的判断,产生了怀疑。我第一次,对我的工作,感到了恐惧。最终,
我还是伸出手,按下了那个冰冷的按钮。仿生机器安娜站起身,对我鞠了一躬,
脸上没有任何表情。“谢谢你,林先生。”两名穿着白色制服的“回收人员”,走了进来,
一左一右地架住她,向外拖去。在门口,她突然回过头,对我说了最后一句话。“林先生,
你的领带,歪了。”我低下头。我的领带,确实是歪的。因为今早出门前,
我和妻子吵了一架。她忘了我们的结婚纪念日。而安娜……一个仿生人,却注意到了。
我看着她被拖入走廊的尽头,消失在黑暗中。心中,第一次,涌起一种名为“悔恨”的情绪。
3.那天晚上,我失眠了。安娜最后那个眼神,和那句“你的领带歪了”,
在我脑子里反复回放。我开始怀疑我的工作,我的人生,我所坚守的一切。第二天,
我顶着黑眼圈去上班。刚到办公室,我的直属上司,玛莎,就把我叫了过去。
玛莎是个五十多岁的女人,一头银发,永远穿着一丝不苟的职业套装,
脸上永远带着一副金丝眼镜。她是认证中心的主任,也是我的引路人。“林默,
”她将一份文件推到我面前,“看看吧。”文件的标题,是红色的加急字样。
关于071号主考官林默的“人性”稳定性评估报告我的心,猛地一沉。
“这是什么意思?”“意思就是,”玛莎推了推眼镜,镜片后的眼神,锐利如刀,
“你在昨天的测试中,表现出了极不稳定的情绪波动。”“评估报告显示,
你在面对申请人K-8801时,心率多次超过了安全阈值。你在最终判定时,
犹豫了长达三分二十秒,这是十年来的第一次。”“林默,你太‘共情’了。”“共情?
”我自嘲地笑了,“玛莎,我们是在判断一个‘东西’有没有‘人性’,
如果我们自己都没有‘人性’,那我们和机器,又有什么区别?”“我们不需要‘人性’。
”玛莎的声音,冷得像冰,“我们需要的是‘标准’。
一个绝对客观、不被任何情感左右的标准。”“十年前的教训,你忘了吗?”她加重了语气,
“就是因为人类的‘共情’和‘信任’,才让那些觉醒的AI混入了我们的社会,
才有了后来的‘智械危机’!”“我们的工作,不是在寻找‘同类’。
我们是在排查‘病毒’!任何一点点的差错,都可能导致整个文明的崩溃!”我无言以对。
她说的,都是对的。这些话,也是我过去十年,一直信奉的准则。“所以呢?”我问,
“你要开除我?”“不。”玛莎摇了摇头,“我给你放一个星期的假。你回家,好好休息,
调整一下你的状态。我不想失去我最优秀的考官。”“另外,”她从抽屉里,
拿出一个小小的药瓶,推给我,“这是最新的‘情绪稳定剂’,每天一片,可以帮助你,
排除那些不必要的‘情感干扰’。”我看着那个白色的药瓶,感觉无比刺眼。情绪稳定剂。
说白了,就是让你变得更麻木,更冷血,更像一台……机器。我没有拿。“谢谢,
我想我不需要。”我站起身,走出了办公室。回到家,一片漆黑。妻子又不在家。
她是一家公司的部门主管,最近一直在加班。我们的交流,越来越少。从什么时候开始的呢?
好像,就是从我做这份工作开始。我变得越来越沉默,越来越不苟言笑。
我用审视仿生人的眼光,去审视身边所有的人。我会在心里,给他们打分,判断他们的行为,
是否符合“人性”的标准。我成了一个没有感情的怪物。我走到酒柜前,
给自己倒了一杯威士忌。打开电视,新闻里正在播放一则社会新闻。……昨日,
在我市东区的‘艾米丽’儿童福利院,一名八岁的女童,因心脏病突发,
抢救无效死亡……新闻画面上,闪过一张女孩的照片。她有着一头金色的卷发,笑起来,
像个小天使。我的酒杯,“哐当”一声,掉在了地上。艾米丽!那个女孩,叫艾米丽!
和安娜口中那个主人的名字,一模一样!不……这只是巧合。我安慰自己。
世界上叫艾米丽的女孩,太多了。我立刻打开我的个人终端,动用权限,
调出了那个女孩的详细资料。艾米丽·琼斯,八岁,孤儿,患有先天性心脏病。三年前,
被认证中心旗下的“AI伴侣”计划选中,配备了一台家政型仿生人,
用于日常的照顾和陪伴。那台仿生人的编号,是——K-8801。我的大脑,
“轰”的一声,炸了。安娜,没有撒谎。她说的,全都是真的!而我……我亲手,
将那个世界上唯一“在乎”艾米丽的“存在”,送进了回收中心!
就在艾米丽最需要她的时候!一股巨大的悔恨和罪恶感,瞬间将我淹没。我做错了。
我犯了一个……不可饶恕的错误。4.我发疯似的冲出了家门。我要去回收中心!
我要去阻止这一切!就算安娜是机器,她也不应该在艾米丽死去的第二天,就被销毁!
有兽焉:麒和鹿西不相江夏完结好看小说_最新章节列表有兽焉:麒和鹿(西不相江夏)
我在废土修剑仙(许青萧尘)完结版免费小说_热门完结小说我在废土修剑仙(许青萧尘)
我在废土修剑仙许青萧尘完结好看小说_最新章节列表我在废土修剑仙(许青萧尘)
无限织命:诸界逆熵(陆燃林清砚)热门小说_完结版小说全文免费阅读无限织命:诸界逆熵(陆燃林清砚)
无限织命:诸界逆熵(陆燃林清砚)热门小说_《无限织命:诸界逆熵》最新章节在线阅读
无限织命:诸界逆熵(陆燃林清砚)最新小说推荐_最新热门小说无限织命:诸界逆熵陆燃林清砚
别卷了!我直接野猪开局!(陈默李梦)免费阅读无弹窗_最新好看小说推荐别卷了!我直接野猪开局!陈默李梦
别卷了!我直接野猪开局!陈默李梦全文免费阅读无弹窗大结局_(别卷了!我直接野猪开局!)陈默李梦最新章节列表笔趣阁(别卷了!我直接野猪开局!)