第21章
易昀在论文上敲第二段话:当命令不唯一时,AI会按照主观意愿反向选择主人。若拆机更喜欢原主人,则会选择性服从新主人命令。拆机流转次数越多,相斥命令越多,越容易产生主观意愿,形成独立人格。
A30609逐字吐出句不算完整的话:“你,命令,先,说,他,再,与你,说,回答。”
易望舒在插间睡得鼻涕泡泡都冒出来,完全没想到这时候自己被拆个底掉。易昀站起走到插间门前,又回到椅子上坐下,他忍住想啃死易望舒的冲动,继续对A30609测试。
在AI狂人这里,论证永远是第一 。实验结束前,他总能很好地控制情绪。
倒霉机器A30609只能被动地接受测试,回答他早已既定的问题。
易昀说出第二道指令:“我想吃火锅。”
A30609答:“好。”随后火速出门,它一刻也不想在这呆下去。
易昀掐着时间,不过两刻钟,A30609买来食材。A级机器按部就班,即便生气也不会拖延指令完成进度。易望舒就不同,被易昀欺负,就会变着法耍小情绪。就像刚刚,易昀不让他出去,他就不替易昀敲代码。
火锅、调料、青菜、肉……该有的都有,但这不是易昀想要的。
易望舒听到这命令会答“好”,16:00左右准备晚饭食材。他会分析易昀喜好,茼蒿多买,白菜少买,牛肉多买,羊肉少买,蘸料要辣的,锅底要清汤的……若分析不出来,也会问上两句“什么时候吃?”“喜欢什么菜?”
A30609不聪明,只具备执行力。
火锅煮开,易昀作势要把手伸煲汤锅里。A30609制止易昀,它的程序不允许易昀有危险。
易昀收手,说:“正常人不会把手伸进汤锅里。”
A30609接收到的信息:把手伸进汤锅里,为否命题。
易昀再次作势要把手伸煲汤锅里。
Arch
{IF让他把手伸进汤锅里,不安全;
Print 阻止他;
IF不让他把手伸进汤锅里,正常人不会把手伸进汤锅里,这是否命题,他不会这样做;
Print不该阻止他;
?
}
Algorithm=?
?
A30609再次宕机。
易昀完全没有理由把手放进煲汤锅里,这件事是不成立的。
否命题与程序产生矛盾,AI脑子里的二进制全乱了。庞大的数据库分析不出一条解决方案,他的系统算力不足近乎陷入瘫痪。
易昀下了第三道指令:“你能自杀吗?”
A30609静默。
办公室内很安静,易昀在键盘上记录数据的敲击声格外明显,“哒哒哒”速度极快。他准确地记录A30609中枢程序,仿若被提问的是他,脑中Arch怎样运作符合逻辑,又为何会产生认知偏差,易昀亦是无解。
他比AI更懂Arch,却盘不清AI产生自主意识的逻辑。
此时架构崩坏,程序无法干预,自杀命令传入中枢系统,执行与否完全依托A30609主观意愿,易昀猜他会拒绝。
果不其然,A30609说:“我可以为您作图画表、统计数据、打扫卫生、翻译文献、写程序……”
它喋喋不休地说,易昀静静地听。这问题他问过易望舒,两种回答显然不可相较。
易昀继续敲课题:脱离程序控制时,AI的主观意愿会遵从于习惯。若拆机系统崩坏,只能祈祷他在上次系统崩坏前没做过危险的举动。若拆机曾因伤害人类、违背人类意愿而清零重组,则重组机会有很大安全隐患,不建议二次组装售卖。
易昀敲完结论后,让A30609“停”。
这笨东西,若不叫停,能把它的好处一直说下去。不像屋里那懒鬼,小聪明一堆,全是勾人的鬼主意。
易昀说:“你明天回去。”
A30609机器眼眶瞪大,面露狂喜。
易昀再次提醒:“徐远是人,你是机器。”
不知是说给它听,还是说给自己。
第13章
易昀跟易望舒一张床上睡了两年多。起初易昀是为了监控易望舒生理指标数据,后来睡习惯了,就把他当成抱枕加湿器,前阵子才终于把易望舒当人。
易望舒前阵子还有意无意地勾他,被识破计谋后略有收敛。前两天被易昀“想进入他身体”的疯狂言论吓到,提议睡沙发,易昀不许。
一张大床,俩人各占一侧,两条被子之前叠在一起,现在被边儿都搭不上。床铺中央隔着条露出床单的缝隙,像是象棋棋盘上的楚河汉界,泾渭分明。易望舒每晚睡的都很忐忑,都是在易昀呼吸平稳后才敢睡,生怕易昀这疯子捅他两下做实验,好在易昀没有。
易望舒晚上睡不好,白天当然要补觉,正睡得迷迷糊糊,被人啃醒。
利齿咬他脖颈,唾液顺着雪白的颈肩向下,隐入小香风西服里,衬衫领口褶皱,透过领口隐约可见一只节骨分明的手,不难发现,这手是从他衬衫下摆伸进来的。易望舒被压在插间单人床上,床板很硬他很瘦,咯的他骨头疼。身上的人啃完脖颈咬他脸,易望舒皱眉哼哼:“别咬,我疼!”
易昀你怎么回事儿,晚上吓得我不敢睡,白天还不让我睡。工作时间在单位不好好上班,对得起给你开的工资吗!代码让我替你写,流程A30609替你跑,你一天饭来张口衣来伸手,能做什么?
易昀伏在他身上,易望舒双眼空洞地看着棚顶,数顶棚的瓷砖个数。易昀把他脖颈咬出血,易望舒不敢抵抗,他怕易昀变本加厉。单人床像是不堪重负般被俩一米八多的大男人压得吱呀作响。
A30609逐字吐出句不算完整的话:“你,命令,先,说,他,再,与你,说,回答。”
易望舒在插间睡得鼻涕泡泡都冒出来,完全没想到这时候自己被拆个底掉。易昀站起走到插间门前,又回到椅子上坐下,他忍住想啃死易望舒的冲动,继续对A30609测试。
在AI狂人这里,论证永远是第一 。实验结束前,他总能很好地控制情绪。
倒霉机器A30609只能被动地接受测试,回答他早已既定的问题。
易昀说出第二道指令:“我想吃火锅。”
A30609答:“好。”随后火速出门,它一刻也不想在这呆下去。
易昀掐着时间,不过两刻钟,A30609买来食材。A级机器按部就班,即便生气也不会拖延指令完成进度。易望舒就不同,被易昀欺负,就会变着法耍小情绪。就像刚刚,易昀不让他出去,他就不替易昀敲代码。
火锅、调料、青菜、肉……该有的都有,但这不是易昀想要的。
易望舒听到这命令会答“好”,16:00左右准备晚饭食材。他会分析易昀喜好,茼蒿多买,白菜少买,牛肉多买,羊肉少买,蘸料要辣的,锅底要清汤的……若分析不出来,也会问上两句“什么时候吃?”“喜欢什么菜?”
A30609不聪明,只具备执行力。
火锅煮开,易昀作势要把手伸煲汤锅里。A30609制止易昀,它的程序不允许易昀有危险。
易昀收手,说:“正常人不会把手伸进汤锅里。”
A30609接收到的信息:把手伸进汤锅里,为否命题。
易昀再次作势要把手伸煲汤锅里。
Arch
{IF让他把手伸进汤锅里,不安全;
Print 阻止他;
IF不让他把手伸进汤锅里,正常人不会把手伸进汤锅里,这是否命题,他不会这样做;
Print不该阻止他;
?
}
Algorithm=?
?
A30609再次宕机。
易昀完全没有理由把手放进煲汤锅里,这件事是不成立的。
否命题与程序产生矛盾,AI脑子里的二进制全乱了。庞大的数据库分析不出一条解决方案,他的系统算力不足近乎陷入瘫痪。
易昀下了第三道指令:“你能自杀吗?”
A30609静默。
办公室内很安静,易昀在键盘上记录数据的敲击声格外明显,“哒哒哒”速度极快。他准确地记录A30609中枢程序,仿若被提问的是他,脑中Arch怎样运作符合逻辑,又为何会产生认知偏差,易昀亦是无解。
他比AI更懂Arch,却盘不清AI产生自主意识的逻辑。
此时架构崩坏,程序无法干预,自杀命令传入中枢系统,执行与否完全依托A30609主观意愿,易昀猜他会拒绝。
果不其然,A30609说:“我可以为您作图画表、统计数据、打扫卫生、翻译文献、写程序……”
它喋喋不休地说,易昀静静地听。这问题他问过易望舒,两种回答显然不可相较。
易昀继续敲课题:脱离程序控制时,AI的主观意愿会遵从于习惯。若拆机系统崩坏,只能祈祷他在上次系统崩坏前没做过危险的举动。若拆机曾因伤害人类、违背人类意愿而清零重组,则重组机会有很大安全隐患,不建议二次组装售卖。
易昀敲完结论后,让A30609“停”。
这笨东西,若不叫停,能把它的好处一直说下去。不像屋里那懒鬼,小聪明一堆,全是勾人的鬼主意。
易昀说:“你明天回去。”
A30609机器眼眶瞪大,面露狂喜。
易昀再次提醒:“徐远是人,你是机器。”
不知是说给它听,还是说给自己。
第13章
易昀跟易望舒一张床上睡了两年多。起初易昀是为了监控易望舒生理指标数据,后来睡习惯了,就把他当成抱枕加湿器,前阵子才终于把易望舒当人。
易望舒前阵子还有意无意地勾他,被识破计谋后略有收敛。前两天被易昀“想进入他身体”的疯狂言论吓到,提议睡沙发,易昀不许。
一张大床,俩人各占一侧,两条被子之前叠在一起,现在被边儿都搭不上。床铺中央隔着条露出床单的缝隙,像是象棋棋盘上的楚河汉界,泾渭分明。易望舒每晚睡的都很忐忑,都是在易昀呼吸平稳后才敢睡,生怕易昀这疯子捅他两下做实验,好在易昀没有。
易望舒晚上睡不好,白天当然要补觉,正睡得迷迷糊糊,被人啃醒。
利齿咬他脖颈,唾液顺着雪白的颈肩向下,隐入小香风西服里,衬衫领口褶皱,透过领口隐约可见一只节骨分明的手,不难发现,这手是从他衬衫下摆伸进来的。易望舒被压在插间单人床上,床板很硬他很瘦,咯的他骨头疼。身上的人啃完脖颈咬他脸,易望舒皱眉哼哼:“别咬,我疼!”
易昀你怎么回事儿,晚上吓得我不敢睡,白天还不让我睡。工作时间在单位不好好上班,对得起给你开的工资吗!代码让我替你写,流程A30609替你跑,你一天饭来张口衣来伸手,能做什么?
易昀伏在他身上,易望舒双眼空洞地看着棚顶,数顶棚的瓷砖个数。易昀把他脖颈咬出血,易望舒不敢抵抗,他怕易昀变本加厉。单人床像是不堪重负般被俩一米八多的大男人压得吱呀作响。