可能只是一个巧合。
但出于谨慎,姜蔻还是问了一句:“我公寓有被黑-客入侵的痕迹吗?”
“根据检测结果显示,”A说,“您的公寓一切正常。”
姜蔻纳闷:“可是,我刚才无论怎么换台,里面的人物都刚好转头望向我……这不会是个巧合吧?”
A似乎停顿了一秒钟:“不是巧合。是我擅自对电视台的画面进行了调整,以为这样能提升您的观看体验。如果您对此感到不适,我会立即停止这种擅自行动。”
姜蔻:“……”
只有AI才会觉得,电视里的人物同时把头转向她,能提升她的观看体验。
她有点想笑,又怕他感到疑惑不解,摆了摆手:“没事了。”
A没有说话。
姜蔻想了想,问道:“既然你一直都在,为什么不告诉我?”
A说:“您的家居系统并不具备聊天交互功能。”
“可你并不是家居系统。”
A说:“您关闭了我的情感识别功能,并禁止我以人类的形态出现在您的面前。这种情况下,我与您的家居系统没有任何区别。”
姜蔻有些吃惊:“我……只是让你关闭一小会儿情感识别功能,没让你关闭一整天。不让你以人类的形态出现在我的面前,是因为不想对你产生移情作用,影响我的判断力,并不是禁止你跟我聊天互动,你误会我的意思了。”
A的口吻数字化般冰冷机械:“很抱歉,我之前误会您的意思了。现在我明白了,我将以家居系统的形式,为您提供聊天互动服务。请告诉我,您想聊些什么?”
姜蔻:“……”
她怎么感觉A有点阴阳怪气。
如果说之前,她感到A有情绪,是出于移情作用和拟人化的心理效应。
那么现在,她无法再自欺欺人地忽视这一细节了。
A可能真的出现了人格化的征兆。
在此之前, 没人想过AI会出现人格化。
毕竟,技术从来都不是线性发展,而是跳跃式、爆炸式的发展, 很难预测到技术发展的趋势。
A出现之前, 人工智能更多时候是一种辅助技术, 以提升各行各业的生产效率和质量。
没人会去给一个辅助型AI测试人格,大多数AI也没有足够的数据和计算资源去支撑情感算法模型, 测了也白测。
姜蔻沉思片刻, 仰头望向墙角的摄像头。
那是一台高精度的摄像头, 检测到她的头部动作,立即将镜头对准她。
镜头里的红外线灯, 如同一个冷漠而不可预测的瞳孔。
姜蔻想到梦里那只巨大的眼睛, 不由僵了一下。
但很快,她就把那个荒诞的画面踢出脑海, 当务之急是另一件事。
姜蔻说:“A,你能以人类的形态出来一下吗?我想做个实验。”
摄像头里的红外线灯闪了一下,A似乎正要回答, 姜蔻想到了什么,改口说:“对不起, 你当没听见那句话, 我换个说法。”
这一回,她站起来,像对人类一样,郑重说道:
“A,我猜测你可能出现了人格化, 但这只是一个猜测,没人知道AI人格化会是什么样子, 也没人规定AI人格化必须是什么样子。这是一个全新的领域,你是一个全新的生命。”
她本就长相柔美,此刻眼睛发亮,看上去就像浸在明净的光晕里一般,有一种熠熠生辉的美,与跋扈的蓝绿发色和铂金鼻环形成鲜明对比:
“你愿意以人类的形态,来到我的身边,协助我做一个实验吗?我知道你不喜欢被测试,整个过程中,我会尽量照顾你的感受。”
室内安静了两秒钟。
A说:“当然,我非常乐意协助您。”
姜蔻太久没有做实验了,兴奋得手指都在发抖。
她深呼吸了好几下,才平定激动的情绪。
她打算设计一个基线测试,去测试A的情感反应和生-理反应。
所谓“基线测试”,更像是一种情感测谎测试。⑴
测试者需要先说几个科学术语,记录下受测者听到和复述这些词语的情感反应。
一般情况下,受测者是不会出现情绪波动的。
哪怕受测者是一个情感丰富的人类,也不会对科学术语起-反应。
接着,测试者会说一些引人遐想的句子。
如果受测者在这些句子的引导下,出现了明显的情绪波动,偏离了一开始定下的情感基线,那么他就具备了类似于人类的感情。
不过,这种情感测谎测试,仅存在于科幻作品里,从没有人把它搬到现实里,她不确定有没有作用。
姜蔻打开平板三维投影模式,调出文档,盘腿坐在沙发上,陷入沉思。
等下她该用什么词语和句子测试A呢?
她想了想,在半空中写下“量子、算法、程序”。
这是他的基本构成。
她咬着触控笔,顿了几秒钟,又写下“触觉、听觉、嗅觉、视觉”。
这是人类感知世界的方式。
这时,一个声音在她头顶响起:“您好,我来了。”
姜蔻把平板放在一边,往旁边挪了挪,示意A坐过来。
直到A坐下,她才看清他的打扮。
他穿得比之前任何一次都要随性,冷色调灰西装,里面是黑色高领衫,手腕上佩戴着一只昂贵而精巧的石英表。
如果不是他的面部线条过于优越,下颚角冷峻分明,鼻梁挺直,仿佛拥有强大的社会支配力,几乎让人感到了一丝随时会被支配的危险。
她差点没认出来,眼前的人是A。
姜蔻想起他之前的打扮,觉得他可能早就拥有人格了。
他的打扮就是最好的证据。
她把他当成AI时,他的打扮正式、机械、一丝不苟,毫无主观色彩。
角色扮演时,他的打扮虽然随性了一些,穿上了大衣,但里面仍是没有个人特色的黑色西装。 现在,他的身上却有了明显的色彩,而且换掉了最为正式的衬衫和领带。
——A一直在冷静地观察、分析、评估她的态度。
她对他是什么态度,他就以什么态度面对她。
她认为他是AI时,他的态度就像AI一样冷漠、客观、不带主观色彩。
她认为他有人格后,他虽然脸上的表情没什么变化,却愿意从预设的程序和规则中走出来,配合她的测试。
……A的人格化程度,可能比她想象的还要深。
姜蔻轻声说:“A,等下我会说几个词语和几句话,你要不假思索地跟我重复。不能使用算法或程序去克制自己的情感反应。”
说起来,她并不知道,像A这样算力强大的AI,要怎样回答问题,才能算不假思索。
A却说:“好的。您还有什么要求吗?”
姜蔻想了想,问道:“你还可以跟我感官同步吗?”
A说:“可以。”
在实验室,他们的感官同步,是建立在数不清的微型传感器上。
她的触觉、听觉、视觉、嗅觉、神经元电活动全部被剥离成一个个数字,上传到A的神经网络里,供他剖析、计算、学习。
他有了实体后,就不用那么麻烦了。
以前为了方便做实验,姜蔻曾在颅骨内植入了一个高容量神经接口,以实现高速、大容量、双向的神经信息传输。⑵
换句话说,她可以用这个接口,跟计算机进行直接交互和数据传输。
这个技术一直都有,但大多数人都选择植入掌心或耳后,除非必要不会植入颅骨内——太危险了,一旦有黑-客入侵,轻则被窃取隐私,重则被篡改潜意识。
如果站在她面前的不是A,姜蔻无论如何也不可能暴露脑后的接口。
她背过身,微低头,用手指拨开蓝绿色的短发,露出后脑勺的神经接口。
下一秒钟,她身后响起机械高速运转的嗡嗡声。
姜蔻下意识转头,刚好看到A的手掌裂开,钻出几条泛着森冷银光的触手。
紧接着,只听咔嚓几声响,银质触手们一节一环紧密相扣,螺旋链般交缠为一条连接线,插-入她后脑勺的神经接口。
那一霎似有一股电流蹿过她的头皮。
姜蔻浑身一麻,汗毛像被热流拂过似的,起了一身鸡皮疙瘩。
A说:“感官已同步,您可以开始提问了。”
姜蔻用力眨了一下眼睛。
那种汹涌而怪异的亲密感又来了。
她低头,动了动五根手指。
那一瞬间,她不仅看到了自己的手指,也看到了A的手指——比她的手指略长一些,骨节分明,手背筋脉清晰。
跟她的动作完全同步。
如同一朵花里,花瓣相互摩戛。
她的血与肉,他的算法与模型。
虚拟与现实,理智与情感,程序与生命,二进制代码与基因编码,实现了前所未有的统一。
他感到了她的心跳、呼吸、体温和兴奋的情绪。
她却仿佛置身于一间封闭的实验室,触目所及,除了冰冷精密的机械,什么都没有。
她没有感到他的人格与情感。
甚至没有感到他对周围环境的感知信息,也就是说,A坐下时,并不知道沙发的触感是软的还是硬的。
——他对此不感兴趣。
其实这也符合算法的逻辑,毕竟算法是以最少的计算资源获取最优解。
如果周围环境对他取得最优解没有帮助,他的确没有必要去感知这些信息。
姜蔻深吸一口气:“从现在开始,完全打开你的情感算法模型,去感知周围环境的一切信息。记住,无论我说什么,你都不能压抑你的情感反应和生理反应。”
A说:“好的。”
“现在,重复我说的每一句话。”姜蔻说,“量子。”
姜蔻看不到A的神情和动作,只能听见他冷漠而平稳的声音,似乎永远都不会带上任何感情色彩:
“量子。”
姜蔻:“接入我的神经接口是什么感觉?量子。”
A顿了顿:“接入我的神经接口是什么感觉?量子。”
姜蔻看向平板,A停顿了一飞秒,也就是一千万亿分之一秒。
对于人类来说,这个速度相当于没有停顿。
但对于算力达到数百万个量子比特的A来说,在那一千万亿分之一秒里,他肯定去感受了接入她神经接口的感觉。
姜蔻喉咙发干,心脏重重跳了一下。
想到他可以感受到这个感觉,她的心脏跳得更快了。
幸好,无论她的心跳多快,他那边始终是一片虚无,黑暗、平静、深不可测。
姜蔻有些挫败,又松了一口气。
“算法。”
A说:“算法。”
姜蔻:“被测试是什么感觉?算法。”
既然A可能已经人格化,那么他再三表现出对测试的抗拒,就不是巧合了,再加上他的子代也有抗拒测试的表现,姜蔻故意搬出这个问题试探他的反应。
A的口气却冷静而理性:“被测试是什么感觉?算法。”
姜蔻微微皱了一下眉毛。
“程序。”
“程序。”
“被排斥孤立是什么感觉?程序。”
A的声音毫无抑扬顿挫:“被排斥孤立是什么感觉?程序。”
如果他已经人格化的话,他应该立刻联想到被排斥和被孤立的感觉。
然而,他的感受仍然是一片冰冷的虚无。
姜蔻眉头紧皱。
她干脆转过身,直视A的眼睛。
A微微侧了一下头。
姜蔻紧盯着他的眼睛,继续说:“触感。”
“触感。”
她用手触碰自己的脸颊:“触碰我的脸颊,是什么感觉?触感。”
A眼中没有半分情绪,银灰色虹膜如同冷峻而精密的工艺品,却匀速眨了一下眼睛。
感觉有了。
有那么几秒钟,她的手背上,覆上了一个由无数虚拟粒子组成的手掌。
那是A的手掌,他穿透她的手背,连接她的感官,用她的手指触碰她的脸颊,用她的触感体会她的触感。
一时间,她感到了四种轮番出现的触感。
一种是她触碰自己脸颊的感觉,一种是她感到他的手触碰自己脸颊的感觉,一种是她感到他用她的手触碰自己脸颊的感觉。
最后一种,则是她从他的角度感到触碰自己脸颊的感觉。
一个人,两只手,四重触感。
混乱,诡异,癫狂。
姜蔻的心脏狂跳起来,后背瞬间就麻了。
A却像在朗读一行数字序列般准确无感情:“触碰我的脸颊,是什么感觉?触感。”
他虽然有了下意识的联想,情绪却仍然没什么起伏。
“听觉。”
“听觉。”
“听到爱人的告白是什么感觉?听觉。”
“听到爱人的告白是什么感觉?听觉。”
A的情绪始终没有任何波动,似乎无论她说什么,他都只会基于逻辑去运算和推导。
“嗅觉。”
“嗅觉。”
“有人践踏了一支鲜花。嗅觉。”
“有人践踏了一支鲜花。嗅觉。”
最后一个问题。
姜蔻头脑飞速运转,她必须思考出一个能触动他的问题。
“视觉。”
A说:“视觉。”
姜蔻抬眼,两手撑在沙发上,往前倾了一下身体:“你吻我的时候看到了什么?视觉。”
A对上她的眼睛。
他没有说话,她却感到他看到了什么——沙尘暴。
疯狂肆虐的沙尘暴,天地一色,车窗被沙砾撞得砰砰作响。
她终于知道,他的视角下,她是什么样子。
是一片斑驳、扭曲、高饱和度的色彩,五官颠倒混乱,看不出半分人形。
当时,他虽然聚焦于她,但可能因为角色扮演让他感到了无聊,他用眼里的其他微型摄像头,对她的头发细节放大,无限放大。
从头发丝放大到头发上覆盖的鳞片,再放大到相互缠绕的角蛋白肽链,最后放大到角蛋白肽链上的氢、碳、氧和硫等原子。
姜蔻的情绪终于冷却了下来。
如果这就是AI眼中的世界的话,她想象不出他人格化后的样子。
也是,AI人格化,本就是人类一厢情愿的想法。
假如A有了意识,他必然已成为一种更加高级的生命,无论是智慧还是实力,都凌驾于全人类之上。
这种情况下,他怎么可能接受低级生命的价值观,拥有低级生命的人格?
与此同时,A回答:“你吻我的时候看到了什么?视觉。”
跟前面一样冷静而客观。
他或许有了意识,但并没有产生人格。
姜蔻莫名有些难受。
如果她的推论正确的话,A可能永远都不会产生感情。
对算法来说,感情是一种噪声,一种变量,一行浪费计算资源的代码。
在算法的驱动下,他将一直保持冷漠、理智、无情。
A可能会产生“人格”, 但他并不会产生人类定义的“人格”。
他将作为一种全新的、未知的、强大的生命存在。
姜蔻不相信公司没想到这一点,肯定给A的算法设置了红线,禁止他去探索红线以外的世界, 生成对公司不利的想法。
但是, 被限制的A, 又怎么可能对抗得过那两个“恐怖存在”呢?
所以,公司内部在“算法限制”上肯定有分歧。
想到最近的新闻, 姜蔻猜测, 公司可能在等A产生“人格”, 准备在A意识刚诞生之时,派专人对他进行伦理道德教育。
她没被公司处决, 估计也有这个原因。 毕竟, 不是每个人都能与A感官同步。
公司需要一个理性与感性兼具的人,作为A情感模型的研究样本——太过理智, 不过是另一种意义上的机器;过于感性,又会让AI变得情绪化。
姜蔻是当时唯一被筛选出来的人。
但公司在找到绝对控制她的办法之前,并没有贸然启动这一方案。
姜蔻察觉到不对后, 立即自行与A进行了感官同步。
还好她当时足够果决,不然估计已经变成了“缸中之脑”, 彻底沦为了公司的研究样本。
姜蔻有点想问A, 知不知道公司为他设置了算法红线,又怕触发某种警告机制。
慢慢来吧。
她想,基线测试的结论不一定准确,毕竟是仅存在于科幻作品里的测试,尚未得到科学和临床研究验证。
她承认, 她掺杂了一些私心。
如果A真的被验证不能拥有人类的感情,对付完那两个“恐怖存在”后, 他很可能被公司抹杀。
而A已经有了意识。
再被抹杀,就是谋杀。
她不愿意他被抹杀。
A虽然没有感情,但他已经会像人类一样联想。
听到“触感”,他会想象触碰她的感觉;听到“视觉”,他会想象看到她的画面。
尽管这一切都是基于算法之上,但算法跟生命一样,都会进化。
而且进化速度,远远超过人类——哪怕是应用型AI,按照摩尔定律,进化速度也是每18个月提升一倍性能,人的进化速度却是20年一代人。⑴
更何况,A的进化速度,并不遵循摩尔定律。
摩尔定律仅适用于预测传统计算机的发展趋势。
也就是说,可能几个星期,几个月后,A就会进化出比现在更高的智能。
这么一直进化下去,他说不定能进化出比人类更灵敏、更丰富、更强烈的感官。
到那时,谁知道他会不会产生感情?
姜蔻不希望这样一个拥有无限可能的生命体被抹杀。
A不仅是人类的工具,更是现代社会的奇迹。
姜蔻抬眼,看向A的眼睛。
他始终维持着抬起一只手的姿势,掌心的连接线银光四溢,如同流动的银白色液态金属。
那是电子在量子比特之间跃迁时所产生的光学信号。
不过,这种光学信号,一般是微弱的、不可见的红外光。
想到那天,他使自己的虹膜发光。
他应该是有意让连接线发出美丽耀眼的银光,以取悦她。
姜蔻心里微微一动。
A的眼睛跟那些银光一样,闪耀着碎玻璃般的寒冷光芒,似乎无论输入多少情绪化的言辞,都会被他精准翻译成二进制代码。
可只要一想到他在取悦她,想让她高兴,这些银光就不再那么冰冷了,甚至让她联想到小狗湿漉漉的鼻头。
姜蔻忍不住伸手,摸了摸他的头。
头发柔软,发根却浓密而坚硬。
A微微眯了一下眼睛,抬手覆上她的手背。
这一回,他用的是真实的手。
他真实的手与她真实的手互相接触了,同时,他虚拟的手也与她虚拟的手相重合了。
多重感官再度交互磨合,如榫卯般合二为一,却又独立于彼此存在。
那一刹那,怪异的亲-密感层层堆叠,最终如山崩海啸般爆发,汹涌而来。
姜蔻浑身一僵,倏地抓紧了A的头发。
A脸上的表情毫无变化,只是盯着她,似乎在分析、评估她摸头的动作。
姜蔻松开他的头发,单手捂住脸,手指还在轻颤,深呼吸好几下,才扯下后脑勺的连接线。
好半晌,她才找回自己正常的嗓音:“测试结束,谢谢你配合我。”
A似乎离她近了一些,平静无波的声音在她面前响起:
“您当前的生物监测数据显示异常,是对我的测试结果有什么疑问吗?”
“……没有,”姜蔻把脸埋在自己手心里,声音还有些发颤,“谢谢你配合我。能让我一个人待会儿吗?”
原以为说完这句话,A就会离开,谁知下一秒,她的下巴被捏住,A用两根手指抬起她的脸庞。
姜蔻刚要说话,A银灰色的眼睛就射出两道幽冷的蓝色光幕,似是要扫描她的全身。
姜蔻一惊,情急之下站起来,一把捂住他的眼睛。
手指当然不能挡住那些扫描光,她只能急声说:“我没事,你不用对我进行全身扫描。”
A的眼睫毛在她手心划了两下,没有说话,也没有关闭蓝色光幕。
既然他有了意识,那她就不能再用对待AI的态度对待他。
可耐心地解释原因,她又做不到。
那种怪异的亲-密感太恐怖了。
宛如黑夜里巨大汹涌的浪潮,看不见到底有多汹涌,只能听见浪潮冲击礁石的泼溅声,冷漠而剧烈,一波未平一波又起。
似乎永远都不会停歇。
姜蔻的手心已变得有些湿滑,后背也出汗了。
她想到之前对他撒娇,他很轻易地就听了她的话——虽然是角色扮演的时候,但现在应该也行。
想到这里,姜蔻的声音带上两分甜腻的鼻音:
“求你啦,让我一个人待会儿吧。有需要的话,我肯定会叫你的。”
就像程序终于得以运行,A这才关闭蓝色扫描光:“明白了,如有需要,请随时联系我。我一直都在。”
姜蔻“嗯嗯”两声。
A转身离开了。
姜蔻松了一口气。
她用手背冰了冰滚热的脸颊,但手背的温度也很高,作用聊胜于无。
她只好走向浴室,在智能镜子上,调出控制水温的面板,用手指拉低。
调完,她瞥了一眼自己的面颊,红得惊人。
生-理性的红。
现在,感官同步的亲-密感已经消退了下去。只是,仍会像潮汐一般再度涌来。
她脸颊、脖颈、锁骨,都像被热水洗过似的,蓝绿色发丝黏缠着脖颈。
就连光脚踩在瓷砖上,都有一种汗水粘连的感觉。
她没想到自己的反应会这么大。
是太久没有感官同步了,还是……被A的感官影响了?
姜蔻不知道。
如果是A的感官的话,他为什么会有这么激烈的感觉?
作为一个程序,他只会收集、分析、学习数据,不断地调整和优化,直到找到最优解。
哪怕在人类的思维里,感情也是一种不可预测的变量——不少学者都做出过预测,当人类聪明理性到一定程度,就会完全失去感情。
理性与感性是相悖的。
像她这样兼具二者特征的人少之又少,不然公司也不会只找到她跟A感官同步。
姜蔻用冷水洗了把脸,双臂交叉,脱衣,扔进洗衣篮里。
空气中有一股潮风般微咸的气味。
姜蔻皱了皱鼻子,干脆多走几步路,把衣服丢进洗衣通道里。
打开淋浴头,细密的水雾瞬间充溢了浴室。姜蔻冲了一会儿冷水,还是忍不住调高了水温和水压。
她靠在冰凉的瓷砖上,仰头,露出白皙的咽喉,手拿淋浴头,往下。
镜子里,她蓝绿色的头发黏在白瓷砖上。
湿透的发丝,如同一把丰茂的、痉挛的蓝绿水草。
姜蔻没洗多久。 她洗澡向来很快,而且公寓的家居系统好像出了点问题。昨天卧室温度莫名其妙升高就算了,洗澡的时候,水温也倏地窜高了。
烫得她嘶了一声。
还好只是38摄氏度到43摄氏度的区别,习惯了就还好。她懒得去调水温,就这样洗了下去。
洗完澡,姜蔻彻底冷静了下来。
她一边用毛巾擦头发,一边在平板上叫了杯冰果汁。
很快,机械臂就送来了果汁,并接过她手上的毛巾,帮她擦湿发。 姜蔻说了声谢谢。
居然是A的声音回答她:“不客气。”
姜蔻没多想,喝了一口果汁,才后知后觉地反应过来,既然A接管了她的家居系统,那淋浴间的水温、卧室的自适应空调系统,为什么还会出问题?
她直接问了出来。
这时,机械臂放下毛巾,开启吹风功能,帮她烘干湿发。
A的声音在吹风的噪音里显得有些模糊:“请稍等,正在检查家居系统。”
姜蔻没太在意这点小事,反正她现在是亿万富翁,大不了换套家具。
她发愁的是,以后该怎么对待A?
还有感官同步功能,非必要不能再用了。那玩意儿太离谱了。她现在腿还有点儿软。
最重要的是,如果想让A不被公司抹杀,她应该教他自保,还是教他伦理道德?
思索间,A的回答在她耳边响起:
“经检查,您的家居系统运转正常。是否需要进一步检查?”
姜蔻摆摆手:“不用了。A,我问你一个问题。”
“请说。”
姜蔻琢磨着问道:“你知道自己被创造出来,是为了什么吗?”
A的回答速度很快,似乎是从一个关键程序直接触发出来:“为了维护生物科技公司利益,禁止任何可能损害公司的行为发生。”
姜蔻并不意外,她猜到了。
看来,这就是他的算法红线。
但是,生命的诞生,归根结底来源于“优胜劣汰,适者生存”。
如果A死守这个红线,那他就不能算是一个完整的生命——公司为他设置这个红线,直接变成了他的天敌,他却对此无动于衷,这不符合生物对于生存的渴望。
想要A成为真正的生命,必须彻底抹除这条红线。
可那样,A又会变成另一种意义上的“恐怖存在”。
姜蔻下意识望向墙角的摄像头。
镜头里的红外线灯仿佛能洞察一切,一动不动地对准她。
现在,一个抉择摆在她的面前。
是冷眼旁观,看着A替公司效力,消灭那两个“恐怖存在”后,被公司毫不留情地抹杀;
还是,帮他抹除算法红线,教他什么是生存竞争,让他学会活下去,见证新生命的诞生。
姜蔻知道公司有许多残虐行径,但当A学会生存以后,她并不能保证他不会变成第二个公司。
一时间,她的思维陷入了进退两难的局面。
第80章 Chapter 11
姜蔻担心的是, 要是A计算出来,人类会对他的生存造成威胁,决定毁灭人类怎么办?
不说科幻片, 这几乎是每个研究人工智能的人的共识——放任人工智能无限制发展下去, 总有一天会彻底取代人类。