点击展开/收起文字版
《机械姬》电影概述
> 机械姬：探索人与机器人的真正边界
《机械姬》是一部讲述人工智能的电影。和《A.I》这类老牌人工智能电影不同的是，它把镜头放在了人工智能的测试，而不是实现人工智能的后果上：或者更多是反思人类的妄自尊大，不要给自己制造敌人，思想天花板基本不会跳出“机器人三定律”和图灵测试。而这部电影走得更纯粹，它创造了一个密闭空间，让人类和机器人一起来完成高阶版的图灵测试：即真人在得知对方是机器人的情况下参与测试，探索人与机器人的真正边界。> 人工智能终将进化为人
在电影里，智能机器人Ava的创造者Nathan把它囚禁在密闭空间里，并招募志愿者Caleb来实现测试：它能否与人类正常交流、有没有情绪反应。测试过程中，ava表现出了很多超乎常规智能机器人的能力：她会自动切断电源躲避监控，她进入志愿者Caleb的内心世界，最可怕的是，它声称爱上Caleb，并希望带自己离开囚禁。最后他上了当，帮助AVa修改密闭系统程序并杀死造物者Nathan，像正常人一样离开实验室，进入大自然。这部电影角色少、冲突不算激烈，但探讨了人工智能在内的很多命题并以充满担忧的结局来回答。
《机械姬》命题探讨（一）
"机器人法则、原罪与性"> 对机器人三大法则的违反
机器人三大法则分别是：1.机器人不能伤害人类或坐视不理；2.除非违反第一法则，机器人必须服从人类命令；3.机器人必须在不违反前两条的法则下保护自己。这是科幻作家阿西莫夫提出的理论，也是后世很多科幻小说机器人赖以存在的根本，包括最近火的大白、超能查派。在这部电影里，Ava最后杀死创造它的Nathan，显然违反第一法则。人工智能是机器人最高形式，也是所有制造这种智能的最终担心：我们是在创造更好的工具，还是更大的隐患；我们是改变世界，还是毁灭自己？> 对伊甸园和原罪的隐喻
Nathan制造的实验室是亚当夏娃和伊甸园的隐喻。一开始只有Caleb是人类，Ava是后来的创造物。Nathan认为自己创造的Ava是善的，但是最后它突破了限制，通过学习了人类的恶而走出了伊甸园，一如夏娃偷吃了禁果，懂得羞耻，开始用树叶遮挡身体，而电影中Ava以机器人的身份主动穿上衣服，都是这种隐喻的表现。不同的是，Nathan被他的创造物杀了，而人类因为自己的贪婪，被神惩罚，男人脸朝黄土背朝天，需要工作，女人忍受生产之苦。这样的差别也是在警示：在获得神的能力之前，不要试图去做创造人类的事。> 性：人类行为的原动力
为什么要把它创造成妙龄女子的样子？毕竟和高度拟人化的机器人交流，同跟要给黑箱子交流的效果是不一样的。Nathan的回答是：性是人类最大的原动力，可能人类所有的意识都是泛性的，所以他要这么做让模拟更真实。影片恰恰试图证明：如果没有这种拟人化，可能这个机器人色诱人类的可能性就不存在了。在现实生活中，很多冲动是在性驱动下产生并且动力持久长远，做这样一个人性试验没引入性这个因子，肯定是不客观的。人工智能的一个重要研究方向就是仿生学，通过技术模仿动物和人的感官、大脑的结构与机能，从外表上与人类的无限接近。
"图灵测试、程序与人机界限"
> 误区：适当程序→机器拥有认知
图灵测试的理论是，如果一台机器能够与人类展开对话（通过电传设备）而不能被辨别出其机器身份，那么称这台机器具有智能。显然在这部电影假设中，这个机器人理论的基本测试早已经通过，他们探讨的是高阶的图灵测试，叫中文房间理论，它由美国哲学家John Searle于20世纪80年代初提出。这个观点的主要的论断是：只要计算机拥有了适当的程序，理论上就可以说计算机拥有它的认知状态以及可以像人一样地进行理解活动。> 智能≠思想+情感
中文屋论证认为只要计算机拥有了适当的程序，理论上就可以说计算机拥有它的认知状态以及可以像人一样地进行理解活动。这个观点被认为是反人工智能的重要思想实验。但是真实的情况是，这个机器人其实并不具备我们想象的智能，它只是在执行程序，而不是思考与情绪，人们误解了这种智能，跌入程序智能的陷阱。> 人工智能+恶=人
这部电影出现的Ava为代表的人工智能机器人，则是在反驳这个假设：Ava已经实现完全的人工智能，即机器人不是在执行程序智能，而是完全具备人类所有思维能力，并通过说谎、色诱来达到自己逃脱的目的。电影的基本观点是：如果机器人不仅能对人的行为作出反应，甚至可以拥有人性的恶，则机器人就是真人。> 强AI=程序，弱AI=大脑
实际上人工智能发展出现了强AI和弱AI的两种不同模式。强AI支持者认为，只要配备恰当的程序，机器人就能产生心智，这就是符号主义AI的观点，这种观点在中文屋实验（看不懂某种文字的情况下通过母语说明书将从实验室外递入的该文字卡片与屋内的文字匹配，形成表面上懂得该文字的错觉）中会遭遇到麻烦；另一种观点支持者坚持，只有大脑才能产生心智，大脑才具备心智那样的因果力，要真正实现AI，还得从神经生物学入手，这是联接主义AI们的努力方向。在电影中，Ava实际上是完成了弱AI的设想：她有模拟的人脑，实现了智能。
《机械姬》命题探讨（二）
"黑白玛丽实验"> 通过物理习得的认知=真实世界吗？
著名的黑白玛丽思想实验是这样的：玛丽从一出生就被关在一间房子里，一切摆设和布置都是黑白色的。玛丽可以通过一台黑白电视机（或书本等）学习各种（广义）物理学知识，当然也包括各种关于颜色的光学和神经学知识。那么问题来了：假使玛丽学会了全部的物理学知识后被释放出来，当看到真正的西红柿时，会有什么不同？把这个命题放在人工智能里，就是片中Nathan对Ava的发问：你声称自己的语言是习得的，知识是与生俱来的，包括所谓的爱，那么当你看到真正的男人（异性）的时候，你产生的情感是否真实，是模拟还是智能？> 认知者+认知对象+主动性=认知
黑白玛丽实验是心灵哲学上谈论的重要观点，包括笛卡尔、休谟在内哲学家都认为，思维或认识过程只有认识者和认识的对象两项，也就是有我和西红柿，就能实现认识。而康德的观点被后世哲学家认可和继承：除了主客体外，还有有介于二者的概念范畴，发挥认识主体的能动，认识才能发生，即“思维就是凭借概念的认识”。> 认知概念≠习得知识≠认识了世界
目前人工智能研究中，概念并没有被科学家重视，智能机器根本不知道何为概念。人工智能的研究者遵循的是知识的灌输，而不是自我范畴的建立。所以，黑白玛丽实验才会出现：哪怕机器人被灌输了知识而不是概念，他们认识的这个世界是人类认识的这个世界吗？
"对大数据实现的预测"
> 大数据：个人信息无隐私
在片中，造物主Nathan设定为世界最大搜索公司老大，相当于我们的google的斯密特。他通过大数据分析，找到了最适合这个实验的志愿者Caleb：父母早亡，懂计算机逻辑，有爱心，没有女朋友，是完美的实验对象。这个大数据挖掘并不算多高明，我们现在就已经能通过高尔夫俱乐部会员信息找到他的情妇了。> 大数据：人工智能研究的新方向
电影中更高明的是，机器人Ava是通过Nathan自己的搜索公司置入全世界的智能硬件获取数据后，挖掘分析并合成的。也就是说这个机器人的软件系统并不是一个独立程序，而是全世界搜索世界数据的综合，毋宁说，这是大数据模拟人。当我们一度耻笑SIRI、小冰这些笨拙经不起调戏的人工语音助手的时候，其实可以料想到，经过算法优化、数据库扩容等升级、改造，有朝一日，SIRI真的可以陪你聊天到深夜，让你恸哭在厕所。事实上，随着互联网技术推广，大数据成为可能，数据挖掘已经成为现在人工智能研究的新方向。
《机械姬》命题探讨（三）
"现阶段人工智能：无法自主选择信息"> 意识决定行为：机器人脑的终极
电影中，Nathan和Caleb讨论关于机器人程序化的问题：Caleb把他领到一副画作之前，这是杰克逊·波洛克的抽象画，这位美国抽象画家常用的画画方法是：把巨大的画布平铺于地面，用钻有小孔的盒、棒或画笔把颜料滴溅在画布上。不作事先规划，作画没有固定位置，喜欢在画布四周随意走动，以反复的无意识的动作画成复杂难辨、线条错乱的网，人称“行动绘画”。此画法构图设计没有中心，结构无法辨识。这种行为运用到人工智能中，是为了让机器人更加复杂、不可预测，更接近人类表现。> 机器无法主动接受和选择信息
很多伟大的作品恰恰不是胸有成竹的产物，它出现在创作本身，创作者自己也不知道自己作品最终会是什么样。一个最高阶的机器人，它装有最高级的程序，这都是有限可预料的；但是如果程序自行运算起来，最终出现的结果，则是没有人可以预料的。当这种结果足够接近甚至超过人类的表现、反馈和作品时，我们认为，人工智能就实现了。但是当前科学能实现的机器人还不具备这种意向性，目前已有的机器人最大的问题也在于此：他不能像人类一样主动接受、选择外部信息进行再处理，而不能表现出意识，就无法成为科学家。
"人工智能的存在意义"
> 人工智能实现后，唯有肉体才是区别
当Caleb长期和机器人沟通交流，发现对方与真人几乎没有区别的时候，他开始怀疑自己会不会也是机器人，为了证明自己他选择了割腕流血。当机器人高度模拟后，能够像人类一样学习、认知、思考甚至表现更好的时候，证明人类万物之长的优越性、由神创造的独创性如何完成？当人工智能发展到在思维逻辑上彻底抹平与人类的边界的时候，是不是只有验证肉体才能真正完成区分？Caleb割腕完美诠释了人类对于人工智能高度发达的担忧不是过分：当我们创造的物品已经有了人性，甚至让我们怀疑自己存在的正当性，我们会采取什么措施？> 人工智能为何存在并无定论
Caleb曾对Nathan说：“如果你创造了一个有意识的机器，那将不再是人类的历史，而是上帝的历史。“ 所以自负的人类要走得多远？人类需要真正的人工智能是什么？凯文凯利说过：人工智能的未来既非能力超凡的机器人，也非让未来学家心醉神迷的超人工智能。即将到来的人工智能颇似亚马逊的网络服务――廉价、可靠、工业级的数字智慧在一切事物的背后运行，偶尔在你的眼前闪烁几下，其他时候近乎无形。这一通用设施将提供你所需要的人工智能而不超出你的需要”。如果超级人工智能实现了，人类下场会不会和Caleb一样惨？
《机械姬：关于AI的几大哲学问题》
