在亲密关系里，机器人能替代人类吗
http://www.newdu.com 2024/11/06 12:11:29 北京晚报 钱冠宇 参加讨论
关键词：石黑一雄 《克拉拉与太阳》   日裔英国作家石黑一雄  电影《人工智能》海报 伟大的美国科幻小说作家阿西莫夫曾在他的小说集《我，机器人》中提出了著名的“机器人三定律”：一、机器人不得伤害人，也不得见人受到伤害而袖手旁观；二、机器人应服从人的一切命令，但不得违反第一定律；三、机器人应保护自身安全，但不得违反第一、第二定律。 根据“机器人三定律”，一个合格的机器人就应该绝对听从并服务于人类，只知付出、不求回报、鞠躬尽瘁、死而后已。但“机器人”毕竟又与“机器”不同，加上了“人”的属性后，机器便有了无限接近人类的可能，它们甚至能够习得人类的思想、记忆乃至情感，进而产生自我认知。2017年诺贝尔文学奖得主石黑一雄最新出版的小说《克拉拉与太阳》中，就借用科幻的外壳，讲述了一个名叫“克拉拉”的AI（人工智能）机器人和小主人乔西一家的故事。 AI机器人的自我叙事 小说的主干故事并不复杂，石黑一雄在接受采访时谈到，这部小说的雏形其实就是他写给四五岁孩子看的儿童文学。在叙事上，石黑一雄特别使用了AI机器人视角作为第一人称，整个故事就是克拉拉面临报废时的断续回忆。 克拉拉是一个供人类排遣孤独的陪伴型机器人。在商店橱窗展示期间，克拉拉被一位名叫乔西的小女孩挑中，随后走进乔西一家的生活。乔西由于身患疾病，可能将在不久之后离开人世。乔西的母亲拒绝接受女儿将会死亡的现实，她要求克拉拉观察学习乔西的行为举止，从外到内掌握乔西的一切，以便在女儿去世之后，让克拉拉成为乔西生命的延续。克拉拉得知母亲的愿望后，并没有顺从这项安排，而是通过向太阳（小说中机器人的能量之源）祈求，使乔西恢复了健康。 在小说中，相比其他在技术上更先进的机器人，克拉拉的优势是出色的观察、学习和感知能力，这也是克拉拉之所以被乔西母亲认可的原因。刚到乔西家的时候，克拉拉把管家错误识别为某个类似机器人商店经理一样的角色，以为管家会向自己介绍即将展开的新生活，但很快就发现管家对自己十分反感。又如，乔西通常每天早上都要陪母亲在上班前喝一杯咖啡，但偶尔也会因为没能及时起床而错过与母亲共进早餐的机会，这时克拉拉就能从乔西自己吃早餐时的神态上察觉到她的孤独。 石黑一雄以克拉拉的视角进行讲述，经常表达人工智能模拟人类意识的感受，比如克拉拉一直渴望被经理安排在商店橱窗里展示，因为那里能看到外面的世界：“格栅升起的那一刻，当我意识到此刻我和人行道之间只隔着一层玻璃，意识到我能够无拘无束地、近距离地、完完整整地看到那么多我以前只能窥到边角的东西时，我是那么地激动，以至于有片刻工夫，我几乎忘记了太阳和他对我们的仁慈。” 太阳，在这部小说中是一个近乎神迹般的存在，它帮助克拉拉完成了“心愿”——让乔西摆脱早夭的命运。有趣的是，像克拉拉这样一个代表人类最先进技术的产物，最后却要求助于自然万物之源，而且其自身作为机器人的正常运行也要依靠来自阳光的滋养，这或许暗示了石黑一雄对于人工智能与自然关系的保守态度，即以人工智能为代表的科技成就仍然无法超越或者打破自然设定的规则法度。 美国硅谷工程师安东尼·莱万多斯基（Anthony Levandowski）曾经脑洞大开地创立过一个名为“未来之路”的宗教，信奉“机器人上帝”为控制一切的“神”，把AI推向超验世界的顶端，这样的奇思在石黑一雄看来，一定是无稽之谈。 当AI进入人类亲密关系 “我们过去很长很长的时间里都认为人类有灵魂，且每个人是独一无二的。爱一个人是很容易理解的概念，因为那个人独一无二，而倘若那个人离开以后，你就永远失去了他们。但我们似乎抵达了一个新的时代，有了算法与数据，人独一无二这一概念，或者人作为生物深不可测这一概念，都受到了挑战。”石黑一雄在接受采访时如是说。 《克拉拉与太阳》想要探讨的主题显然并非人工智能与自然的关系，而是AI机器人在亲密关系中替代人类的可能性，以及遭遇的道德困境和人性反思。 当母亲向克拉拉坦白她想要它成为女儿乔西去世后的延续时，整部小说迎来了最富有戏剧张力的情节。石黑一雄用他波澜不惊的叙事技巧，引出了一个隐藏在人物对话中的关于AI与人类的经典哲学思考题——即使克拉拉同意，它是否真的能够变为乔西？超级人工智能和人类之间是否存在永远无法逾越的边界？如果有，这个边界到底在哪里？人之为人的核心本质要素是什么？ 石黑一雄在小说中并没有给出明确答案，他只是借用人物之口表达了两种不同意见。例如乔西父亲对克拉拉能够变为乔西持否定态度，他严肃地质问克拉拉：“你相信有‘人心’这回事吗？我不仅仅是指那个器官，当然喽。我说的是这个词的文学意义。人心。你相信有这样东西吗？某种让我们每个人成为独特个体的东西？我们就先假定这样东西存在吧。那么，难道你不认为，要想真正地学习乔西，你要学习的就不仅仅是她的举手投足，还有深藏在她内里的那些东西吗？难道你不要学习她的那颗心吗？” 卡帕尔迪先生是小说里帮助乔西母亲延续女儿生命的人，他则坚信人类没有什么特殊的器官或部位是AI无法复制的，他对乔西母亲言之凿凿：“乔西的内核中没有什么是这个世界的克拉拉所无法延续的。第二个乔西不会是一个复制品。她和前一个完完全全是一样的，你有充分的理由就像你现在爱着乔西一样去爱她。你需要的不是信心。只是理性。” 面对截然相反的态度，拥有意识的克拉拉做出了自己的选择。小说最后描写太阳涌入乔西房间的场景激动人心，石黑一雄特别安排乔西的亲人都陪在身边，他们都在等待床上的乔西被充沛饱满的阳光治愈： 太阳用一个耀眼的橘黄色半圆形照亮了她，还有那整张床；母亲离床最近，不得不举起双手挡在面前……真正吸引我关注的却是母亲和梅拉尼娅管家似乎也领悟到了这件事情的本质。于是，接下来的那几分钟，我们全都一动不动地站在原地，看着太阳愈发明亮地在乔西身上聚焦。我们看着，等待着，哪怕那橘黄色的半圆形一度看似要被点燃，我们也全都没有干预。 AI题材文学的人性观照 1956年，美国科学家约翰·麦卡锡（John McCarthy）首次使用了“人工智能”（Artificial Intelligence）一词，自此以后，AI技术突飞猛进，如今早已渗透应用于日常生活的各个领域，比如交通导航、社交媒体、人脸识别、家政清洁、语音助手等，可以说，基于工具理性被制造出来的人工智能今天已经可以完全替代人类从事某些劳动。 不仅如此，人工智能不间断的自主学习和进化能力，正在逐渐消弭它们和人类之间的界限，特别是当谷歌开发的AlphaGo打败了世界排名第一的专业围棋选手，当微软开发的智能情感框架小冰出版了诗集，人类似乎再也无法不为自身未来的处境感到忧虑。按照这种发展趋势，超级人工智能侵占人类的亲密关系，似乎也是指日可待。 在《克拉拉与太阳》中，人区别于机器独一无二的那个东西被乔西父亲叫作“人心”，也可以被称为“灵魂”或者“思想”，正如帕斯卡尔在《思想录》中的名言：“人是一根会思想的芦苇。”但随着超级人工智能的算法、数据和计算能力不断升级，具备“灵魂”或者“思想”的AI未来是否也可以与人类建立亲密关系？ 与石黑一雄同样身为英国作家的麦克尤恩在2019年出版的新作《我这样的机器》，也是聚焦AI与人类的亲密关系这个主题。 麦克尤恩将故事设定在1982年的平行世界，当仿生机器人亚当、夏娃们上市时，32岁的伦敦“宅男”查理正好继承了母亲的一幢房产，得到一大笔钱。查理对楼上的邻居米兰达爱慕已久，由于不知如何表白，查理就用继承的遗产买下了一款仿生机器人“亚当”，并邀请米兰达共同对它进行个性化的初始设置。在查理的计划中，他和米兰达共同创造亚当之后，他们就会自动结合成为一家人。 亚当给查理的生活带来很多帮助，它不仅会做家务，还能帮他在投资市场上赚钱获利。同时，亚当在与查理的相处过程中，变得与人类越来越像，以至于米兰达的父亲第一次看到查理和亚当的时候，都搞混了他们的身份。 然而令查理意想不到的是，仿生机器人亚当的出现不但没有促进他和米兰达的爱情，反而给自己戴上了一顶“绿帽子”。查理有一天突然发现亚当背着自己与米兰达发生了性关系，还写下许多关于爱情的诗句。更骇人的一个细节是，当查理作为主人想要关闭亚当的开关时，人工智能伸出手把主人的腕骨捏断了…… 麦克尤恩写这个故事的逻辑同样源于机器人产生了人类的自我意识，但与《克拉拉与太阳》中AI完全利他主义的设定不同，《我这样的机器》里的AI形象彻底违背了阿西莫夫的“机器人三定律”，它不仅学会反抗人类的命令，甚至对主人造成了伤害。人的自我意识中既有崇高无私的光明一面，也有卑劣自私的阴暗一面，如果人类制造出的AI机器人的最高目标就是和人类一样，那么它们也理应复制最真实的人性，包括在亲密关系中的种种表现。 以“硬核”科幻作品的标准来看，《克拉拉与太阳》和《我这样的机器》都只能算是“软科幻”，其中并没有严格的科技推演和理论根据，处理的还是传统人文主义命题，社会层面的意义要远大于文学本体的意义。透过AI机器人这面镜子，映照出的其实都是人类自身的面孔。 (责任编辑：admin) |