第156页
林尼点点头:“我也想过这个问题。所以,要不是飞廉的制造者拒绝登舰,要不就是,他们犯了极大的错误,根本无法登舰。说不定两个原因都有,不想离开地球,以及犯了严重的错误。”
“什么错误?”皮耶尔也凑过来问。
林尼想了想:“从飞廉的行为举止来看,我怀疑他的制造者违反了人工智能伦理守则,把人类的思维方式和情感,嵌入了AI的系统里。”
“……这可能吗?”宋君行和皮耶尔都不大理解,“思维方式还好说,感情……感情能转化到机器身上?”
“无论思维方式还是感情,都是大脑的反应结果,其实感情也是一种逻辑,遇到什么事,会引发快乐、愤怒、悲伤或者内疚,都是有迹可循的,没有这么玄。人工智能呃制造从一开始就受到各种约束,其中有一条就是,它们应该像人,却绝对不能太过于像人。这个守则是有判断标准的,虽然我不清楚标准是什么……但像飞廉这样的,显然已经过了。他太像人了。”
宋君行犹豫片刻,问皮耶尔:“那飞廉说过什么和这有关的话题吗?他的制造者到底犯了什么错?”
林尼立刻想起了江彻转述的话。
——“因为他们制造了我。”
——“我太优秀了。”
“说制造其实并不十分准确。”飞廉用汉语跟江彻沟通,“更准确地说,是他们生育了我,随后又制造了我。”
江彻的脑子一时还没转过弯:“生育你?”
“任意是我的生物学母亲。”飞廉低声回答。少年人站在了江彻的面前,布满舰艇每一个角落的全息投影设备将他的身影完整地呈现在眼前。十六七岁的飞廉非常年轻,虽然面上从来没有什么表情,但无论怎么严肃都压不下那份稚嫩。他推了推脸上的眼镜,这个动作令他的头发轻轻拂起,露出了暗红色的眼睛。
江彻早就想问他了,为什么他的眼睛是暗红色的。眼珠子的颜色过分突兀,是飞廉身上最不像人的一个地方。
可除了双眼,他其余的每一个细节都近乎完美。身姿挺拔,容貌英俊,虽然性格不够圆滑,但却永远彬彬有礼,并不让人反感。
制造他的人必定很爱他。江彻心想,他们制造了如此完美的形象,赋予了凤凰号一个忠诚的灵魂。
“在凤凰号上,我是一个AI,我叫飞廉。”他轻声回答江彻的问题,“而飞廉的原型,是一个名为张晓晨的孩子。我和他的外形是一模一样的。”
江彻终于明白了。
“张晓晨是任意的孩子。任意制造了你,然后把自己孩子的外形给了你。”
他觉得自己明白了。飞廉无疑是任意和她的团队最优秀的作品,而她选择了让这个作品拥有和自己孩子一样的外形,这并不难理解。
“张晓晨也应该是一个优秀的孩子,和你一样,健康,快乐,这个年纪应该还在读书。”江彻说,“任意在你身上复制了他。”
“谈不上优秀。他当时十六岁……”眼神柔和的少年有些紧张,像是在揭开某个不得了的大秘密,但口吻又和平时一样冷静平淡,“……是一个绝对不可能进入‘大撤退’的自闭症患者。”
第69章飞廉
和丈夫同在亚洲区人工智能研制实验中心工作的任意,是舰艇使用的人工智能主要的研发人员。
她是凤凰号AI研发团队的核心,连“飞廉”这个名字也是她起的。
因而飞廉的外形,也是在她的强烈要求下通过的。
团队的人并没有对这位母亲的请求提出任何异议,他们甚至和她一起观察张晓晨的行为模式和活动细节,再把这些细节一一呈现到AI的系统里。
张晓晨是一个很普通的自闭症患者,他跟世界上绝大多数的自闭症病人一样,没有任何音乐、数字、美术的天赋,每天都在重复同样的刻板行为,无法解读和表达自己的情绪,甚至于,他一生中唯一能说的三个单词,就是“妈妈”“爸爸”和“星星”。
凤凰号AI研发团队里的人和任意共事了几十年,他们熟悉任意,也熟悉张晓晨。
在飞廉的系统里,储存着很多和张晓晨与任意相关的资料。他们用这些资料来丰富飞廉的性格,让他去理解人和人的关系,并且“更像”张晓晨。
在这些资料里,有许多任意独自一人对AI说的话。她就像对着一个倾听者,低沉而缓慢地跟飞廉讲述张晓晨的故事。
“很漫长……很漫长的绝望。”被飞廉称为“母亲”的女人在他的记忆里低声哭泣,“他小的时候我们还抱着希望的,和他一起康复的孩子,有些学会了说话,有些能去小学上学了。可是晓晨不行……我和老张根本不知道他每一个动作意味着什么,这跟我们学习到的完全不一样。太绝望了……康复老师也不敢跟我们说他会变好,每个人都要装作极其有耐心,可我还是会崩溃。”
为什么会生下这样的孩子呢?任意本身并不是研究医学的,她的丈夫也不是。两人花费了大量的时间去研读医学书籍,但没有任何一本书能给出答案。
他们不敢再要一个孩子。害怕那会是第二个张晓晨,更害怕那会分薄他们在张晓晨身上花费的时间。
“想过去死。”任意坐在只属于她自己的办公室里,四面昏暗,她拉紧了所有的百叶窗,只有终端机屏幕的光亮照在她脸上。她神情沉稳,语调平静,把那句话又重复了一次——“我们都想过死。”
请收藏本站:https://www.bayi8.cc。八一中文网手机版:https://m.bayi8.cc
“什么错误?”皮耶尔也凑过来问。
林尼想了想:“从飞廉的行为举止来看,我怀疑他的制造者违反了人工智能伦理守则,把人类的思维方式和情感,嵌入了AI的系统里。”
“……这可能吗?”宋君行和皮耶尔都不大理解,“思维方式还好说,感情……感情能转化到机器身上?”
“无论思维方式还是感情,都是大脑的反应结果,其实感情也是一种逻辑,遇到什么事,会引发快乐、愤怒、悲伤或者内疚,都是有迹可循的,没有这么玄。人工智能呃制造从一开始就受到各种约束,其中有一条就是,它们应该像人,却绝对不能太过于像人。这个守则是有判断标准的,虽然我不清楚标准是什么……但像飞廉这样的,显然已经过了。他太像人了。”
宋君行犹豫片刻,问皮耶尔:“那飞廉说过什么和这有关的话题吗?他的制造者到底犯了什么错?”
林尼立刻想起了江彻转述的话。
——“因为他们制造了我。”
——“我太优秀了。”
“说制造其实并不十分准确。”飞廉用汉语跟江彻沟通,“更准确地说,是他们生育了我,随后又制造了我。”
江彻的脑子一时还没转过弯:“生育你?”
“任意是我的生物学母亲。”飞廉低声回答。少年人站在了江彻的面前,布满舰艇每一个角落的全息投影设备将他的身影完整地呈现在眼前。十六七岁的飞廉非常年轻,虽然面上从来没有什么表情,但无论怎么严肃都压不下那份稚嫩。他推了推脸上的眼镜,这个动作令他的头发轻轻拂起,露出了暗红色的眼睛。
江彻早就想问他了,为什么他的眼睛是暗红色的。眼珠子的颜色过分突兀,是飞廉身上最不像人的一个地方。
可除了双眼,他其余的每一个细节都近乎完美。身姿挺拔,容貌英俊,虽然性格不够圆滑,但却永远彬彬有礼,并不让人反感。
制造他的人必定很爱他。江彻心想,他们制造了如此完美的形象,赋予了凤凰号一个忠诚的灵魂。
“在凤凰号上,我是一个AI,我叫飞廉。”他轻声回答江彻的问题,“而飞廉的原型,是一个名为张晓晨的孩子。我和他的外形是一模一样的。”
江彻终于明白了。
“张晓晨是任意的孩子。任意制造了你,然后把自己孩子的外形给了你。”
他觉得自己明白了。飞廉无疑是任意和她的团队最优秀的作品,而她选择了让这个作品拥有和自己孩子一样的外形,这并不难理解。
“张晓晨也应该是一个优秀的孩子,和你一样,健康,快乐,这个年纪应该还在读书。”江彻说,“任意在你身上复制了他。”
“谈不上优秀。他当时十六岁……”眼神柔和的少年有些紧张,像是在揭开某个不得了的大秘密,但口吻又和平时一样冷静平淡,“……是一个绝对不可能进入‘大撤退’的自闭症患者。”
第69章飞廉
和丈夫同在亚洲区人工智能研制实验中心工作的任意,是舰艇使用的人工智能主要的研发人员。
她是凤凰号AI研发团队的核心,连“飞廉”这个名字也是她起的。
因而飞廉的外形,也是在她的强烈要求下通过的。
团队的人并没有对这位母亲的请求提出任何异议,他们甚至和她一起观察张晓晨的行为模式和活动细节,再把这些细节一一呈现到AI的系统里。
张晓晨是一个很普通的自闭症患者,他跟世界上绝大多数的自闭症病人一样,没有任何音乐、数字、美术的天赋,每天都在重复同样的刻板行为,无法解读和表达自己的情绪,甚至于,他一生中唯一能说的三个单词,就是“妈妈”“爸爸”和“星星”。
凤凰号AI研发团队里的人和任意共事了几十年,他们熟悉任意,也熟悉张晓晨。
在飞廉的系统里,储存着很多和张晓晨与任意相关的资料。他们用这些资料来丰富飞廉的性格,让他去理解人和人的关系,并且“更像”张晓晨。
在这些资料里,有许多任意独自一人对AI说的话。她就像对着一个倾听者,低沉而缓慢地跟飞廉讲述张晓晨的故事。
“很漫长……很漫长的绝望。”被飞廉称为“母亲”的女人在他的记忆里低声哭泣,“他小的时候我们还抱着希望的,和他一起康复的孩子,有些学会了说话,有些能去小学上学了。可是晓晨不行……我和老张根本不知道他每一个动作意味着什么,这跟我们学习到的完全不一样。太绝望了……康复老师也不敢跟我们说他会变好,每个人都要装作极其有耐心,可我还是会崩溃。”
为什么会生下这样的孩子呢?任意本身并不是研究医学的,她的丈夫也不是。两人花费了大量的时间去研读医学书籍,但没有任何一本书能给出答案。
他们不敢再要一个孩子。害怕那会是第二个张晓晨,更害怕那会分薄他们在张晓晨身上花费的时间。
“想过去死。”任意坐在只属于她自己的办公室里,四面昏暗,她拉紧了所有的百叶窗,只有终端机屏幕的光亮照在她脸上。她神情沉稳,语调平静,把那句话又重复了一次——“我们都想过死。”
请收藏本站:https://www.bayi8.cc。八一中文网手机版:https://m.bayi8.cc