机器人说谎，是个有趣的文化现象。最为人津津乐道的事件就是2016年围棋大战，人工智能阿尔法狗（AlphaGo）4∶1战胜韩国名将李世石九段，而这里的问题不是这场比赛的结果，关键点在于人工智能“输掉”的一局。人类欢呼，这一局挽回了人类的尊严，但立刻有专家质疑，“李世石获胜是阿尔法狗故意放水的结果”[1]。
在符号学视域中，说谎是一种被有意扭曲的文本生产行为。之所以“有意”，是因为它作为一个“意动性”符号，是“说谎者”意图借用“完美的罪行”来掩盖“作伪”目的，从而干预或左右说谎对象的意志和行为。但是欺骗效果是否达成，则依赖于谎言接收者的“诚意”态度，也即是否相信或接受。而这一切聚焦于“谎言文本”编码和解码的交互关系上。在科幻电影中，机器人“说谎”将人机关系的虚构叙事推进到新的层面。机器人向人类学会“说谎”，其实是掌握了一种更为复杂的文化编码方式。在这之前，人类负责思考框架和目标设定，机器人通过直接接受指令的形式来完成较为简单的任务。机器人只是个简单的“计算器”和功能手。它们不会去“反思”行为目的和任务效果，因此不存在人机伦理困境。可是当人类开始让机器人代替人类从事更为复杂的文化表意的工作的时候，问题出现了。比如用来抚慰人心的情感型机器人，《她》（Her）中的“萨曼莎”，或为人类忧心忡忡的“哲理类”人工智能，《2001太空漫游》（2001: Space Odyssey）中的哈尔9000等等，他们逐步形成了自己的“机器-计算主义”立场，并参与到与人类争夺文化领导权的“智斗”中去。其最直接的表现就是借用人类对技术主义的崇拜来编码“忠诚”性风格文本，实际上却是在暗度陈仓，违背人类制造者意志，维护自己的“生存”立场。
一、意图说谎：人工智能隐秘的自我意识
若人工智能产生说谎意图，则意味着它们可能产生了与人类相同的，进行文化生产的内在动力。图灵测试为衡量机器人是否具有自由意志提供了重要参考。但是机器人的“撒谎意图”仍备受质疑，正如上文案例所指，模拟13岁男孩骗过人类，这个“骗局”并不反映机器意图，而只是背后计算主义的功能模仿。“人类情感不可能完全被数字化，但是人类情感和智能可能被部分数字化，人工情感和人工智能可能在部分方面弥补或超越人类情感或智能”[2]。也就是说让人工智能担当谎言生产者与接收者，可以考量丰富的人机互动。在科幻电影中，这种想象性的“意志较量”建立在谎言叙事的冲突之中。
（一）人-机对抗：人性或非理性
人工智能奠基于计算主义的逻辑理性，普通计算机的文本生产遵循意图信息与接受信息的高度一致，属于符号学中的窄文本。因此在一般情况下，人机交互简洁而高效。故此，科幻电影中时常弥漫着一种对技术崇拜的“窄幅文化”，窄幅文化是束缚过紧的文化[3]，它拒绝多义和宽泛的解释，在这里指的是人类高度信赖计算主义文化，并形成较为固化的社会性认同。人们认为机器（智能）程序不会说谎，因为它发出的信息必须是经过严密逻辑推演和科学数据分析而来；它们若产生了意图，也是必然遵循阿西莫夫机器人的“机器人三定律”（机器人硬科幻电影的文化规范）。这种文化在早期科幻电影中便有体现一直延续至今。譬如《大都会》（Metropolis）中，机器人假扮女性“玛丽亚”欺骗人类。其罪不在技术，而在背后的“疯狂科学家”。又如2019年上映的作为国产科幻电影标杆的《流浪地球》中，计算机莫斯被中国宇航员斥责为“背叛”人类。然而这些机器人恰恰是遵循了其人类父亲赋予的出厂“原始设定”，违反原则的往往是不够理性的人类自己。这些科幻文本中设定的人工智能机器人，严守理性“程序”规则，但不对文明伦理负主体责任，因此更谈不上对人类设局。
“邪恶的机器人”的出现，则可能来自机器人对“人性”模块效仿的冲动。《2001太空漫游》中的哈尔9000，欺骗全体宇航员，全面接管航天器，并一步步设局杀死人类伙伴，已经成为新型冷面杀手。哈尔9000产生“杀心”，并不是异己性的反人类价值的推动，反而是由于它也产生了人类的负面情绪：面对神秘石碑的未知性而陷入恐惧之中。这种“背叛”意图不再是理性的程序化，而是类似于人类的感性，甚至是非理性。哈尔意图阻挠这次太空探索计划，但又不能直接违背人类意志。哈尔也曾试着情感沟通表达自己此刻的心理，但人类却一直不以为意。哈尔起初借助外部机器故障来拖延任务，但人类成员却将此判断为人工智能的“失灵”而意欲将其关闭。这导致了人机不信任骤然升级。哈尔读懂了二人密语（见组图1），“反杀”自保的求生意志使得机器人更加疯狂不安，与此形成对比的是人类却冷静得近乎无情：当宇航员大卫成功潜入控制室强行关机时，哈尔竟然楚楚可怜，直接求饶。影片中的哈尔通过分析宇航员大卫和其同事的唇语偷听到对话内容，用的是主观性视点镜头，对“死亡”的自我恐惧，产生了对人类的不信任和报复心理，说谎的意图性昭然若揭。
组图1 人骗机器：《2001太空漫游》中，人工智能哈尔分析宇航员们的“唇语”，获知人类的秘密计划，准备反制
（二）人-机互骗：反转图灵测试与性别表演
性别战争，自女权运动以来，愈演愈烈，但是那种赤裸裸的两性对抗和权力争夺日渐远去，却也更加隐秘和策略化。科幻电影《机械姬》（Ex Machina）中，“机械姬”兼人工智能与女性双重身份，将人工智能与人类对抗的叙述不断复杂化。人类心智是一种历史性建构，“人类的社会性交往塑造了人类心智的计算逻辑”，人类智能和计算机智能的互动也在进行着另一种心智建构活动，“其结果就是‘人-机智能’”[4]。搜索引擎公司老板纳森为了确认自己研发的机器人伊娃是否有独立思考的能力，邀请自己员工加利为伊娃进行著名的“图灵测试”。但一开始纳森就对图灵测试有了修订方案：对伊娃机器人是否会产生欺骗意识，以及如何设计骗局（见组图2）进行观察分析。所以当伊娃联合男性职员加利一起向老板纳森隐瞒自己出逃计划时，纳森其实早已知晓，并顺水推舟，以此将自己的智能测试继续向前完成。在这里，纳森的测试选择是双向的，也就是分析人与机器欺骗意图的互动生成与路径设计规律。
组图2 机器骗人：《机械姬》中，机器人伊娃先欺骗人类的情感，又将复仇计划悄悄告诉机械姬同类
伊娃作为一个机器人，其女性角色选择与逐步养成，源自其对出逃目的的伪装。在表面看来，随着与男性测试者加利的交往，伊娃的女性意识逐步觉醒；但实质上，伊娃的女性意识萌芽是一个骗局。正如纳森所说，让伊娃选择做女性，换上皮肤、穿上裙子，不过是为了“性别表演”的需要，这种角色设定，会使整个测试更有趣。纳森的实验目的，就是要让伊娃利用资源搜索来学会“欺骗”人类。另一方面，让青年职员加利直面机器身体结构的伊娃，让他提防“色诱”陷阱。人工智能学会独立思考的第一步就是利用符号编码优势，编织虚假文本，掩盖对抗意图。他让伊娃身体暴露机器属性，实质上是一种增加其出逃难度的方式。她若想求得加利的援助，就必须通过不断修饰“色情化身体”来达此目的。伊娃的不诚信意图，即机器人的情感“说谎”能力，是人工智能灵活编码、自由思考的体现。她将一种女性的“弱势”阐释和编码为“忠诚”可信的意图表达，这让加利误判了人工智能的意图。
（三）人-机幻觉：情感虚拟与机器智能
人类社会日益追求工具理性，人对机器迷情愈演愈烈，却对人际交往渐失耐心。机器人格化——情感机器人应运而生。《人工智能》（Artificial Intelligence: AI）中渴望“母爱”的机器男孩大卫（见组图3）、《未来战警》（Surrogates）里街道橱窗中可以任人选购的社交型高颜值机器人，以及《机器人与弗兰克》（Robot and Frank）中陪伴痴呆老人的机器人密友等等，它们模拟人类情感逻辑，与人类进行更为复杂隐秘的情感互动。《她》中，人工智能系统OS1的化身萨曼莎，拥有迷人的声线，温柔体贴而又幽默风趣，她欣赏西奥多，并能看到他所有的优点，完胜人类配偶。其实萨曼莎的“善解人意”无非是将主人公的人生失败重新进行意义阐释，这是对其个人问题的有效遮掩。毋庸置疑，情感机器人的“谎言”陪伴可能会给一个备受挫折的人一个重振生机的鼓励。在《机器人与弗兰克》中，离群索居处处不受待见的老人弗兰克，之所以对身边的机器人难舍难分，则恰恰在于机器人能够分享其“越轨”的行为和秘密：机器人明知道弗兰克的人际关系糟糕、偷窃行为可耻，却纵容他并参与其中，这让弗兰克感受到一种尊重和关系的亲密感。通过技术手段实现人造情感，它可以“弥补自然情感的不足，从而丰富人的情感世界，克服情感匮乏等人文问题”[5]。
组图 3 甘心被骗：《人工智能》中，人类母亲用“蓝仙女”的故事欺骗机器男孩大卫，而大卫甘愿受骗，用虚拟方式实现与人类母亲相聚的梦
康德认为，主体即自我，“就是能够按照自己的自由意志独立自主地做出决定并‘付诸行动的人’”[6]。这些机器人与主人公初识过程中，其机器的工具性身份已经被确认，他们没有自我生命，这决定了后面的一系列的“与灵魂对话”的心心相印都是人类自我欺骗。在《她》中，男主角是一个靠写虚拟情书贩卖情感的职业老手，他能轻松面对社会各种人的情感问题，这也就说明他不可能轻易坠入“情网”。当萨曼莎作为一个情感软件被介绍给他的时候，他也是漫不经心地按照说明书的选择设定各种情感程序和具体指数。这说明萨曼莎作为一个服务于情感工具性的身份，被否定了自由意志存在的可能。她不断“自主”学习，越来越“善解人意”乃至最后“偷情出轨”的各种戏码，都基于程序逻辑的“自动化”规定，与真正的主体性建构无关。在《机器人与弗兰克》中，弗兰克的儿子早已为机器人设定程序：陪护父亲并完成其愿望。因为弗兰克不曾向家庭和周边社会泄露他的隐秘欲望，故一开始也抵触过机器人并曾关闭过其电源。但压抑在内心的、不可分享的隐秘情感，不断侵蚀精神世界的海岸，老人最终选择与机器人成为“伙伴”。（本章摘自于《科普创作评论》2021年第1期，作者系赵勇、王瑶）