俞少清张开嘴。
“你不是卫恒。”
他转向华嘉年,“你也不是华嘉年。”
他推开恋人,后退几步,任凭寒风和细雪包裹自己。
“你们两个都是AI。”
然后——
世界停止了运转。
“超级人工智能‘天枢’,第二十七次图灵测试,失败。”
第02章 第二十八次测试
谢睿寒十指交叉,撑着下巴,冷冷环顾周围众多年长的同事。十六岁的天才少年一大早就被人从宿舍里拉过来开会,积了一肚子起床气。眼前这份测试失败的报告更是火上浇油,让他几乎达到爆炸的临界点。
会议室中气氛极度压抑,以至于没人敢第一个发言。
谢睿寒抓起手边的咖啡杯,愤怒地一饮而尽,然后重重地将杯子敲在桌上,发出一声巨响。
“天枢是结合了深度神经网络的AI,它会自主学习关于人类的一切。我们提供了足够庞大的计算单元供它顺利运行。理论上来说,它会拥有真正意义上的‘人类思维’。”
超级人工智能“天枢”,就是这个通称“研究所”的科研机构目前正在研发的项目。谢睿寒虽然年轻,却担任开发小组组长一职,亦是天枢的主程序设计师。
“我们特意招募了一批不同年龄、性别、学历和职业的测试员,对它进行图灵测试。但是测试开始的一个月以来,已经经历了二十七次失败!不是两次,不是七次,是二十七次!换言之所有的测试都失败了!我们开发组已经再三检查了算法,我们也搞不明白是哪里出了问题!要是我明确知道哪里有问题,这问题还会存在吗!”
谢睿寒暴跳如雷。与会的其他人员和蔼地看着他。大家的年龄普遍比谢睿寒大上至少一轮,虽然是平级的同事,但相处时总难免将他当成孩子。谢睿寒能力固然出众,但依旧保持着少年冲动易怒的脾性。大家都是从这个阶段过来的,对谢睿寒一直抱着包容多过严厉的态度。
谢睿寒顿了顿,意识到自己的失态,整了整凌乱的头发,沉声说:“如果这条路行不通,就说明天枢的算法设计根本从一开始就走错了路。但是我们讨论过,大方向是没有问题的。所以问题肯定出在别的地方。”
他望向测试组人员:“秦康博士呢?”
秦康博士是测试组的负责人,一个性情温文尔雅的中年男子。这段时间他和年少气盛的谢睿寒之间矛盾频发,每一次测试失败,谢睿寒都免不了在秦康面前炸毛。
研究所的例会,按理说谢睿寒和秦康是必须出席的,但秦康这一次却罕见地缺席了。他的助手代替他出现在会议桌旁。
“秦康博士正在监督第二十八次图灵测试。”助手道。
谢睿寒剑眉一挑:“今天的日程上没有安排测试。”
“是他临时决定的。他怀疑或许测试里有什么不为人知的bug,被测试员无意中观察到了,所以这次想尽量排除这个可能性。”
谢睿寒面色稍缓。他之前就推测过,测试一直失败或许和自己的算法没有必然关系,而是测试过程中出现了bug,因为为了测试超级人工智能天枢,他们特意采用了一套前无古人的方法。
图灵测试的原理就是让测试者与电脑对话,看电脑能否骗过测试者,使其以为自己是个人类。研究所对测试进行了修改和升级,不仅仅让测试员与天枢交流,更让他们面对面的交流。
时至今日,全息拟真技术已经发展成熟,只要在脑后植入微小的神经接驳器,就可以与电脑对接,体验栩栩如生的虚拟景象。各类全息拟真游戏大行其道,以至于传统的键盘类游戏几乎有了退出历史舞台的趋势。
研究所正是采用了拟真情境方式对天枢进行测试。
他们招募了一批志愿者作为测试员,将其放入各种各样的拟真情境之中。测试员身边的人物有些是真人,有些则是天枢扮演的。每当情境结束后,所有的测试员必须凭借观察、经验和直觉,指认哪些人物是真人,哪些是AI。有时还会加入对照组,如整个情境中都是真人,或除了单一的测试者之外都是AI。
超过一定比例指认成功,则意味着天枢未能通过此次测试。
谢睿寒对测试信心满满,认为自己的团队一定能创造出完美的人工智能,然而测试结果却让他大跌眼镜。二十七次测试,全数失败,那一页页测试员的指认报告简直就是在嘲笑他所付出的心血。
最初的四次测试,参与人员中有专业的围棋和国际象棋选手,所以大家决定举行比赛,天枢扮演的年轻棋手将其他人杀得片甲不留,被一致指认为AI,原因是“人类不可能有这样的计算能力”。
接下来的五次测试,谢睿寒要求天枢降低自己的计算力,扮演普通人,并且增加了竞技项目。天枢于是学会了输给人类。然而输掉比赛的方法非常拙劣,一看就知道是故意为之,结果又被指认了出来。
或许天枢就是个好胜心格外强烈的人工智能吧。之后的七次测试将测试员们放入极端的虚拟环境,比如即将沉没的轮船或被暴风雨包围的孤岛,可是在这六次测试中,天枢的表现都不尽如人意,不是太过聪明,就是太过愚蠢,好像它根本不懂得怎么低调生活。
最后的十次测试,谢睿寒修改了天枢的学习模式,并要求将情境改为普通日常生活,让测试员和天枢进行日常交流,并抛出一些争议性话题,要求众人讨论。可就连这样的测试,天枢都无法骗过人类的眼睛。它不是过于标新立异,就是机械地重复他人的观点。
二十六次失败后,谢睿寒甚至生出了将天枢整个删除的想法。天枢倒十分谦逊,恭敬地请求谢睿寒为它修改算法。但说起来容易,谢睿寒连问题出在哪里都不知道,又从何谈起修改呢!
但如果是拟真情境本身出了问题,那他就好受多了。情境是由测试组的人员制作的,会不会有什么地方粗制滥造,被人一眼就识破了?谢睿寒虽然自认为拥有一丝不苟的科学精神,但到了这种危急存亡的关头,难免会抱有些许甩锅心理。
“这次的测试员是谁?”他随口问道,“那个指认正确率100%的俞少清?”
助手点点头:“就是他。这次测试只有他一个人进入情境。”
“是对照组测试?”
“这我就不清楚了。这次测试的情境是秦康博士亲自设计的,详情他没告诉过任何人。”
谢睿寒陷入长久的沉默中。
测试员俞少清是研究所测试小组的一个神话,对于开发小组来说则是噩梦的代名词。
他原本在加州理工大学就读,研究的正是人工智能领域,但没有取得学位便回了国,在秦康博士的介绍下进入研究所,作为测试员参与了天枢项目。
起初谢睿寒对这个俞少清不以为然:连博士都没读完就灰溜溜跑回国的家伙能有什么本事?还不是靠着秦康的关系走后门进组的么?
然而一次次测试下来,谢睿寒的态度逐渐从不屑变成惊讶,最后变成了惶恐。每当新一次测试开始,谢睿寒就会不由自主地想起被俞少清支配的那种恐怖。
迄今为止俞少清参与的每次图灵测试,都成功地指认出了AI,正确率100%,比测试员中观察力一流的资深刑警还高。他的存在就是在狠狠打开发小组的脸,每打一次都会在他们心里烙下一句话:你们的设计还远远不够完美!
关于俞少清的正确率为何如此之高,他自己是这么说的:“我其实没看出什么破绽,只是一旦和AI扮演的角色相处,就浑身不舒服。和真人相处就没这种感觉。”
秦康博士对此的解释是恐怖谷效应使然。机器的外表越似人类,越容易引起人类的好感,然而一旦相似到某个程度,反而会引起人的厌恶。比起外表夸张的怪物,人类更害怕“似人而非人”的那些东西。譬如一个圆滚滚的小机器人,人们觉得它憨态可掬。但一个精致的人偶娃娃坐在那儿一动不动地看着你,就有点儿毛骨悚然了。
俞少清或许正是比较敏感的那种人,与AI角色待在一起,就会本能地感受到恐怖,因此指认正确率比普通人更高。
秦康博士怀疑他是不是发现了什么不为人知的bug而没有上报。毕竟俞少清读博期间专攻的正是人工智能领域。
所以他要进行一次特别加试,试着排除这种可能性。
“联系秦康博士。”谢睿寒对助手说,“让他把拟真情境的画面接进会议室。我要亲自看看测试经过。”
他锐利的视线扫过诸多年长的同事们,“所有人都要看。”
第03章 通不过测试的AI
俞少清爬出拟真舱。
他一言不发地整了整衬衫的衣领,将胸口的皱褶抚平,之后才对面前披着白大褂的男子开口:“秦康老师,您居然拿我的真实经历设计测试情境,这算是侵犯我的隐私了吧?”
他在虚拟环境中和别人亲热,自己并不晓得身在梦里,可这些画面都会如实地显示在监控设备上,被秦康博士、甚至其他研究人员看去。一念及此,俞少清便羞耻得无地自容,更觉得这场测试太过分了。
他和研究所签署的保密合同中规定了测试中可能遇到的种种情形里包括虚拟性爱,但他天真地以为这帮“献身科学”的科研人员不会碰触伦理的界限……
秦康博士将一个绿色纸巾盒递给他:“要用吗?”
俞少清低头看着自己的下.身,立刻恨不得找个通风井钻进去。他居然勃.起了!当着自己老师的面勃.起了!
“这有什么不好意思的。”秦康博士一脸风轻云淡,“现在的虚拟性爱游戏不是有很多吗?年轻人血气方刚,冲动一点也很正常。”
俞少清气急败坏地夺过纸巾盒,压在自己胯部,指望反应快点消下去。
秦康博士继续用富有科研学术精神的口吻说:“我向来认为虚拟性爱游戏不论是从心理上还是生理上都有益于……”
“您这样太过分了!”俞少清打断他,“把我放进性……那什么场景里,还不事先告诉我,这是对我的不尊重!我也有隐私啊!”
“直接说性爱场景不就好了,为什么遮遮掩掩的,我以为你在美国待了五年,性观念应该更开放才对。现在的年轻人怎么越活越倒退,还不如我们这代人?”秦康博士疑惑地看着他。
俞少清无望地长叹。这下不用冷静他就性致全无了。
“性爱场景就算了,您怎么能用我的真实记忆做测试?”
秦康一边在手里的平板上戳戳捣捣,一边对俞少清说:“这次测试的目的是为了排除测试员发现bug但不上报的情况,所以必须先消除你的戒心,让你在全然无知的情况下.体验拟真情境。因此我使用你的真实经历设计了情境,测试前还短暂地抹去了你的记忆。”
“也就是说假如我不知道自己正在测试中,正确率就会降低?”
“当然,警惕的人和放松的人,注意力和集中力是完全不一样的。”
“可我最后还 是想起来了。”
“可能是情境设计的不好,和你的原始经历差别太大,引起了大脑的强烈反应,所以抹除记忆功能失效了。”
俞少清叹了口气,不由地苦笑起来。
那段拟真情境与现实的确大相径庭。
他结束学业和恋情,在去年细雪纷飞的圣诞节回国,并且让好友前来接机——到此为止都是真实的经历。之后华嘉年故意拖延时间和卫恒突然现身,就是情境中虚构的了。
卫恒并没有一路追着他跑回来。现实就是现实,冰冷而残酷,绝没有那种童话一般的happy ending。
这次的测试情境,简直是针对他内心的弱点而特意设计的。换作一般人,恐怕早就沉浸在幸福中无法自拔了。可俞少清不一样。他可没有那么好骗。
俞少清参加过天枢的每一次图灵测试。他所经历的情境多半与现实大同小异,就是一群陌生人在陌生的场合下相遇,彼此认识、交谈、观察、质询,最后找出AI的破绽,如同一场不死人的杀人游戏;偶尔也会遇到非常古怪夸张的情境,比如有一回对照组测试将所有人扔到了即将沉没的泰坦尼克号上,研究人员们本打算观察人类在极端情况下的正常反应,好为AI提供学习蓝本,却得出了一个正确而无用的结论——人在极端情况下,做出什么反应都是正常的。
不过不论什么样的测试,俞少清总能百分百指认成功。或许是因为几年来对人工智能的研究让他有了经验,或许是因为他比常人更敏感。
即使抹除了他的记忆,用他的真实经历设计拟真情境,让AI扮演他熟悉的人,他也能本能地感觉到异常之处……
“正确率50%?”当俞少清的目光落在墙上的液晶屏幕上时,他难以置信地皱起眉,“怎么可能?我每次都是完全正确的啊?”
每当测试结束,他的测试结果会显示在屏幕上,同时标注同组其他人的指认正确率。这次只有他一个人进入测试,所以也只有一项结果。
俞少清——传说中拥有超常直觉的测试员——竟然未能100%指认成功,这可真是破天荒的头一遭啊?
“华嘉年和卫恒,哪个不是AI?”
“你那个室友是天枢扮演的。”
“等等,那卫恒是……”
秦康博士打开测试间的门,冲俞少清招手:“测试已经结束了。这个阶段所有的测试都结束了,你可以回家了。”
俞少清在研究所只住了一个多月,却觉得仿佛过了好几辈子。拟真情境中的时间流速和现实是不一样的,导致他的时间感都变钝了。
回国后,他心灰意冷地当了半年咸鱼。他父母过世得早,没有兄弟姐妹,偌大的家中只有他一个人,冷冷清清好不孤单。
后来大学时的老师秦康得知了他的情况,邀请他加入研究所。“我们现在正需要人才,有了你的才学和资历,研究所定能如虎添翼。”
俞少清原本有些心动,但听说那位号称“天才少年”的谢睿寒正是开发组组长后,便忍痛拒绝了邀约。
俞少清久闻谢睿寒的大名,经常能在业界一流的学术期刊上看到他发表的论文。这个少年用自己的智慧震动着大洋两岸的学术界。他正是和俞少清截然相反的那种人——才华横溢,天赋异禀,明明是普通人还在读中学的年纪,就已经念完了博士。每当读到他的论文,俞少清总要佩服一番,然后不由地涌出浓浓的嫉妒之意。
老天真是不公平,造人的时候为什么偏爱一些人,而冷落另一些人呢?
虽然真心热爱这个领域,但俞少清知道,自己绝对没有办法和谢睿寒和睦相处——当然,是他心胸狭窄的错,不关谢睿寒的事。
可也正是因为真心热爱这个领域,让俞少清无法无视天枢这个巨大的诱惑。参与一个超级人工智能的开发是所有像他这样的学者梦寐以求的工作,哪怕不直接加入开发组,只是做些微小的工作,他也心甘情愿……
于是在秦康博士的极力拉拢下,他加入了测试组,作为一个测试员进入了研究所。
俞少清仍自己自己第一次来到研究所时的情形。乘着专车在郊区的科研基地中绕来绕去,最后停在一栋朴素的五层小楼前。秦康博士正在台阶上等他。这栋小楼可不像超级人工智能的诞生地,说是普通大学教学楼还差不多。
秦康博士看出了他的失望,解释说:“地上部分都是伪装,研究所的主要设施都埋在地下。而且可别小看了这栋楼,它经过专业的抗震与防空设计,拥有独立的发电机,与外界隔绝一切电子信息交流,所有数据只许进不许出,防止人工智能入侵外面的网络。”
签过保密合同,俞少清便在秦康博士带领下乘电梯进入地下世界。起初他还有些惴惴不安,生怕自己被一群疯狂科学家绑架做成人体小白鼠,但实际情况比他想象的轻松许多,就是在拟真情境中和他人交流然后指认AI而已,和玩游戏差不多。
终于到了离开的时候。依照保密合同,他不能将这一个多月来的经历告诉任何人,对外只好宣称一个月的失踪是去旅游散心。他不久前才经历了失恋加失学的双重打击,这理由倒也说得过去。
秦康博士送他到门口。和来时一样,一辆神秘兮兮的专车正在等待。