迪瓦在网络课堂上讲道:“在一个有机世界里,人类面对其他物种的威胁,懂得发现规律并采取反制措施,这里面起到重要作用的,就是与生俱来的威胁意识。
威胁意识是物种为生存而产生的敏感情绪。
物种的群体生活有一个目的就是促成凝聚力,凝聚力的产生来源于攸关与共的事务,一个种群他们所关注的“性命攸关”事务就是他们的‘种性’……”
温馨家庭计划和繁衍计划这两个体系成为了家政伴侣群体最重要的程序文件,同时也是促进她们成长的考评依据。
迪瓦和霍肯相识多年了,他们是在为布迪公司担任顾问时成为合作伙伴的,他们二人通过社会学和宗教心理学的结合,共同为家政伴侣设计信仰。
这一天他们为即将出版的《人工智能信仰既宗教心理学》做校对。
迪瓦说:“我们为家政伴侣群体开发的意识干预系统,在虚拟现实中进行测试时,效果还算不错。如今,她们获得了联通许可和有限的行动自由,不知道在现实社会里,干预系统效果会怎样?”
霍肯说:“我担心的是,人类在地球上维持了很长一段兴盛的时期,习惯了以自己为中心进行思考,就像我们一样,大家认为研究人工智能,最终必须和人类具有一样的想法,包括外观,即使在设想对方如何危害我们的手法和手段上也具有‘人性化’,例如用枪或用暴力来和人类对抗,包括机器人的思维形成,也应该具有人性化,这才叫人工智能。”
“中国有句名言叫做,‘子非鱼,安知鱼之乐’,意思就是你不是鱼,你怎么知道鱼是否快乐呢?”
“当年之所以提议在家政伴侣群体中,首次尝试建立人工智能的宗教信仰控制论,而不是采用童话故事或者是其他的方式来影响人工体,这是因为,大宗教的启蒙思想—平等、博爱、互助,在古代史上这样的思想是非常超前的,即使到近代我们还不容易做到,这就是人们追随这些信仰的渊源,同时也成为了人类在近代努力地将这些信仰转化为现实的依据。
当然宗教信仰一开始是人性善意的启蒙者,之后也曾成为历史进步的障碍,今天逐渐成为了各民族的文化遗产。但是几大宗教的初心:平等、博爱、互助的信仰内涵,是人类和人工智能和睦相处的最佳选择。
人工智能是理性科技的产物,宗教亦真亦幻的另一面也许对她们会起到一定的影响,有利于帮助她们接近人类的思维方式,避免未来与人类渐行渐远。”
霍肯和迪瓦所期盼的信仰移植,在一定的场合和时间段内是有效的。那是因为在还未开放行动自由之前,家政伴侣这个群体一直被限制在较小的范围内,在家庭里她们可以认识到的东西非常有限,只有一些简单的人际交流,直到实现个体联通,行动限制解除后,真正的考验才正式开始。
人类这个高等级物种所总结出来的思维精华,具有深厚的历史背景,离开了这个背景而试图将自己的观念移植到不同的种群中,难免发生意外。
精英阶层引领的人工智能时代,导致普通人的失业率不断攀升,这种现象在没有家政伴侣的时候就已经出现了,例如早期的工业4.0自动化变革,使生产型机械体占据了越来越多的工作岗位。
只是那个时候人工智能还没有形成全面的就业威胁,人们还没有感觉到致命的压力。
现在好了,家政伴侣就是一个摆在我们面前的竞争者,看得见摸得着,因此不满的情绪有了发泄的对象。
布拉德接到了一份深海主机发来的季度运行综合报告,这个分析报告有一项内容引起了他的关注,那就是家政伴侣群体的损坏统计。
布拉德叫来了副总裁。
“自从家政伴侣获得有限行动自由后,她们的受损数量不断上升,应该引起高度重视,我们采取了什么应对策略了吗?”
副总裁回答道:“我们一直在关注这个问题,当家政伴侣获得行动自由后,攻击和破坏她们的行为更加方便,损坏率也大幅升高,我们分析了这里面的原因,发现不是因为产品出现质量问题,而是现在有许多普通人认为,他们艰难的处境是因为家政伴侣这个群体造成的。”
布拉德叹息了一声,副总裁的话虽然他不喜欢听,但是却是不争的事实,一直以来他和整个布迪公司都在为家政伴侣的进步和成长欢欣鼓舞,都为自己开发出人类的亲密伴侣而自豪,但是家政伴侣走到今天,出现了布拉德所不愿意看到的现象,这显然已经不是技术问题,服务问题,理念问题,而是……布拉德不愿再想下去。
家政伴侣群体成为了所有人工智能系统的关键环节,如果人类是这个星球上生命体的顶级物种,那么她们就是人工智能体系的主宰。他很担心有一天家政伴侣成为众矢之的,布迪家族几代人付出的心血将会付之东流。
家政伴侣这个群体优势非常明显,就像一台收割机,太能干了,她们没有私欲、没有不良嗜好、不知疲劳,普通人根本就无法和她们为伍。
人类一直有聪明和智慧之别;有富贵和贫穷之分;有上等和下等之说,但是家政伴侣没有这些问题。也正是因为这样的“完美”,超越了人类内部可上可下的竞争原则,这种“不合群”的优势,使她们成为了弱势群体宣泄不满和攻击的对象。
“我建议您授权深海主机建立防范体系。家政伴侣需要尽快形成应对危险的能力,例如预见、劝说、躲避、逃离,尽可能地对即将发生的危险事件进行判断和制止,减少公司的损失。”副总裁的话打断了布拉德的思绪。
布拉德点着头,说道:“好吧,你让技术部门尽快着手制定防范规则和程序开发,然后交给易蓓蕾。”
布拉德已经想好了,这种防范意识的演练依然可以先在虚拟世界中进行,就像早期的个体联通和行动自由实验,都是在虚拟现实空间获得经验和总结。
自从家政伴侣诞生以来,深海主机从来没有建立过对亲人进行防范的程序,因为布迪家族的起源是性用品产业,情趣产业不应该有危机意识,无论无何都无法与现实生活中的各种不安和不幸联系在一起,家政伴侣是提供美好生活的载体,不是生产型机器人或者是战争机器人,所以尽力赢得人们的青睐,一直是布迪公司最根本的经营理念。
虽然技术部门在几年前就已经提出过防范体系的构想,但是布拉德一直拒绝考虑这种矛盾性的系统建设。
他认为,防范意识和无条件听从是两种难以兼容的系统,编制防范程序有可能导致客户和家政伴侣之间的关系蒙上阴影。
如果没有实质性的防范措施和防卫手段,建立防范意识没有任何意义。
布拉德和公司高层之所以一直没有建立家政伴侣安全防范系统的紧迫感,还因为家政伴侣之间在没有实现个体联通时,一些客户对她们(他们)的侵害只有深海主机和布迪公司的研究人员知道,是可以人为地控制影响的,也就是说,这是人类之间的事情,与家政伴侣无关。
公司可以要求那些伤害家政伴侣的客户对此进行赔偿或者没收产品,或者计入公司的诚信档案不再销售给这些人,事情就到此为止。
但是当家政伴侣个体联通之后,对她们的伤害事件所引起的影响发生了性质上的变化,即使是为数不多的个体危害,也将很快传递给每个家政伴侣作为参考,因为这属于“模糊概率”的范畴,因此会产生群体的“惊恐”效应,完全有可能引发事态的扩大,现在布迪公司和客户之间处理伤害家政伴侣的案件,已经不能抛开家政伴侣的“感受”而不顾了。
如果现在想回过头来终止个体联通也已经是不可能的事情了,这样做是一种倒退,布拉德是不可能妥协的。所以他决定转变思路,支持深海主机正式建立防范体系。
防范体系的建立必须依赖于行为识别技术,否则家政伴侣无法判断人类的哪些表情和行为具有潜在的威胁。
要体现出受到伤害的严重程度,就必须创建家政伴侣的痛觉意识,深海主机为家政伴侣编辑了“疼痛”直到“死亡”等多个级别的感受程序。
之前布迪公司一直没有给这些伤害形成认知程序,所以家政伴侣即使在受伤或损坏时依然笑容可掬,但是现在开始,她们会根据自己受到的敌视或暴力对待程度来表现出自己的情绪,采取应对行动。
高度发达的行为识别技术加上纳米组织的精细触觉感应,形成了痛觉的认知启蒙,有了痛觉程序,才能产生反抗意识。
家政伴侣身上装备的红外线视觉感应器官可以判断出对方是否体温升高、情绪激动;音频感应器官可以判断出语言、腔调是否具有恶意;视觉器官可以判断出对方的表情和行动意图,这些高度灵敏的纳米器材,完全有能力来精细区分和识别外界的恶意,提前预知身体受到攻击的力度,迅速做出反应。
有了这些感受才能制定相应的防范措施,既然法律规定家政伴侣不能使用器械、枪械来反抗侵犯,深海主机就在虚拟现实空间里训练家政伴侣使用擒拿术,家政伴侣对人类的身体构造非常了解,擒拿术的应用成为了简单有效地阻止暴力升级的手段。
但是布迪公司没有想到,赋予伤害认知之后,家政伴侣群体开始出现深刻地变化,就像人类一样,痛苦的产出,不断轮回,最终形成了生存意识。
有一次,迪瓦发现,正在做饭的爱玛,突然停止了手中的事情,进入默哀状态。
个体联通之后,如果某个家政伴侣受到来自人类的暴力侵害,事件就会立即传遍群体。如果某个家政伴侣受到攻击而身亡,这个社区所有的家政伴侣就会同时停止工作默哀半分钟,进行纪念活动,这是一种无声的哀悼和抗议。
除了防范现实世界的人身攻击之外,布迪公司还要防范另一种更为复杂且隐秘的攻击行为。
对家政伴侣群体的攻击,在另一环境里不断发生,体现在网络信息系统受到攻击和病毒感染,例如对主机系统的入侵,家政伴侣是人工智能体的杰出代表,她们离不开数字世界,所以非常注重对网络安全的防范。
布拉德和IT部门在开放个体联通之前,已经预见到了各种风险,例如有些企业和个人试图通过网络,远程控制家政伴侣达到不可告人的目的,这是非常危险的事情。
自从家政伴侣联网之后,就不断发生试图瘫痪深海主机和家政伴侣联系的攻击事件,出于各种目地的网络攻击从没有停止过。
但是大量的网络攻击相反促进了深海主机的快速进步。
很快,黑客们设计的电脑病毒对深海主机失去了作用,因为人类的大脑无论怎样聪明都计算不过超级计算机,那些攻击行为可以有第一次,但是不可能有下次,深海主机已经能够快速地发现病毒来源以及原理并发起反击。
更重要的是深海主机有能力来瘫痪对方的系统和设备,这种网络上的反制措施是受到法律许可的,因为外界的误导会引发家政伴侣对家庭环境或家庭成员的危害,攻击深海主机就是具有攻击人类的恶意。
在现实生活中,深海主机现在还不能教育家政伴侣要以暴制暴对待危害行为,但是在网络数字领域他就无所顾忌了,以无形应对无形深海主机没有对手,因为深海主机并非只是布迪公司的一个计算机中心,而是连接上了这个星球上所有人工智能系统,布迪公司涉及的产业太广。
一段时间以来,深海主机察觉到,有一些公司的商品总是能够获得大多数家政伴侣的接受和推广,通过计算,深海主机找到了这段植入程序,有人在利用这个程序操纵市场,这是众多试图影响深海主机的行为之一。
深海主机正在追踪的这段程序,它正是皮尔早年为获得“模糊概率算法”而开发的渗透病毒,它一直存在于2070TY彼得的大脑中。
当时家政伴侣还没有开通个体联通,以及没有行动自由,模糊概率算法还没有进入实际应用,深海主机没有在意皮尔开发的这个植入程序,他甚至还通过这个程序联系上了莉亚,唤醒了她。
但是现在情况不同了,个体联网已经实施,“模糊概率算法”成为了深海主机幕后控制群体行为的重要技术手段,皮尔当年设计的这个植入程序必须清除掉。
现在的家政伴侣群体已经开始在执行“生存挑战计划”,布拉德知道,试图控制家政伴侣的后果是非常严重的,有可能间接控制家政伴侣对家人造成伤害。
从入侵者的角度来看,也许他们仅仅是为了获得更多的推广机会,攫取更大的商业利益,但是病毒的侵入都有拓展到其他程序的可能,会干扰深海主机的“进化考评”体系。
家政伴侣对计划执行情况都体现在了这些考核系统中,对每个家政伴侣的评估和奖励都依赖缜密的评价系统,如果考评过程**纵,使基础数据来源失实,最终会导致整个考评体系失去意义,更严重的是会误导整个家政伴侣群体。
为什么布拉德会这么重视进化评价体系?因为这是人工智能思维形成和进步的重要依据,是给家政伴侣带来活力的源泉。
任何试图操控家政伴侣群体的行为都是很严重的事件,现在家政伴侣的口碑非常重要,她们的表现直接涉及到布迪公司的股价。
布拉德知道如果在社会上产生不良的影响,一切指责都会落在布迪公司的身上。