《机械姬》关于AI的几个问题（转载）

《机械姬》是一部讲述人工智能的电影。和《A.I》这类老牌人工智能电影不同的是，它把镜头放在了人工智能的测试，而不是实现人工智能的后果上：或者更多是反思人类的妄自尊大，不要给自己制造敌人，思想天花板基本不会跳出“机器人三定律”和图灵测试。而这部电影走得更纯粹，它创造了一个密闭空间，让人类和机器人一起来完成高阶版的图灵测试:即真人在得知对方是机器人的情况下参与测试，探索人与机器人的真正边界。

在这部电影里，智能机器人Ava就是这个被测试者，创造它的Nathan把它囚禁在密闭空间里，并招募志愿者Caleb来实现测试：它能否与人类正常交流、有没有情绪反应。测试过程中，ava表现出了很多超乎常规智能机器人的能力：她会自动切断电源躲避监控，她进入志愿者Caleb的内心世界，最可怕的是，它声称爱上了Caleb，并希望带自己离开囚禁。最后他上了当，帮助AVa修改密闭系统程序，并杀死造物者Nathan，像正常人一样离开实验室，进入大自然。

这部电影角色少、冲突不算激烈，但探讨了人工智能在内的很多命题，并以充满担忧的结局来回答这些命题：
1. 是不是违反机器人三大法则？

机器人三大发法则分别是：机器人不能伤害人类或坐视不理；除非违反第一发展，机器人必须服从人类命令；机器人必须在不违反前两条的法则下保护自己。这是科幻作家阿西莫夫提出的理论，也是后世很多科幻小说机器人赖以存在的根本，包括最近火的大白、查派。在这部电影里，AVa最后杀死创造它的Nathan，显然违反第一法则。人工智能是机器人最高形式，也是所有制造这种智能的最终担心：我们是在创造更好的工具，还是更大的隐患；我们是改变世界，还是毁灭自己？
2. 人类的起源的隐喻。

Nathan制造的实验室位于原野，除了造物主形象的Caleb，只有一男一女，这是亚当夏娃和伊甸园的隐喻，一开始神只创造了男人，女人只是男人的一根肋骨。一开始也只有Caleb是人类，Ava是后来创造物。而Nathan认为自己创造的Ava是善的，但是最后它突破了限制，通过学习了人类的恶而走出了伊甸园，一如夏娃偷吃了禁果，懂得羞耻，开始用树叶遮挡身体，而电影中Ava以机器人的身份主动穿上衣服，都是这种隐喻的表现。不同的是，Nathan被他创造物杀了，而人类因为自己的贪婪，被神惩罚，男人脸朝黄土背朝天，需要工作，女人忍受生产之苦。这样的差别也是在警示：在获得神的能力之前，不要试图去做创造人类的事。

3. 通过图灵测试是区分机器人与人的标志吗？
图灵测试的理论是，如果一台机器能够与人类展开对话（通过电传设备）而不能被辨别出其机器身份，那么称这台机器具有智能？显然在这部电影假设中，这个机器人理论的基本测试早已经通过，他们探讨的是高阶的图灵测试，叫中文房间理论（the Chinese room argument），它由美国哲学家John Searle于20世纪80年代初提出。

这个观点的主要的论断是：只要计算机拥有了适当的程序，理论上就可以说计算机拥有它的认知状态以及可以像人一样地进行理解活动。但是真实的情况是，这个机器人其实并不具备我们想象的智能，它只是在执行程序，而不是思考与情绪，人们误解了这种智能，跌入程序智能的陷阱。中文屋论证被认为是反人工智能的重要思想实验。而这部电影出现的Ava为代表的人工智能机器人，则是在反驳这个假设：Ava已经实现完全的人工智能，即机器人不是在执行程序智能，而是完全具备人类所有思维能力，并通过说谎、色诱来达到自己逃脱的目的。电影的基本观点是：如果机器人不仅能对人的行为作出反应，甚至可以拥有人性的恶，则机器人就是真人。

实际上，人工智能发展到后来，出现了强AI和弱AI的两种不同模式。强AI支持者认为，只要配备恰当的程序，机器人就能产生心智，这就是符号主义AI的观点，这种观点在中文屋实验中会遭遇到麻烦。而另一种观点支持者坚持，只有大脑才能产生心智，大脑才具备心智那样的因果力，要真正实现AI，还得从神经生物学入手，这是联接主义AI们的努力方向。在电影中，Ava实际上是完成了联接主义AI的设想，她有模拟的人脑，实现了智能。

4. 少了性还有意识吗？

影片中，Caleb和nathan对话：为什么要把它创造成妙龄女子的样子？是为了让这个实验更容易成功吗？毕竟和高度拟人化的机器人交流，同跟要给黑箱子交流的效果是不一样的。Nathan的回答是，性是人类最大的原动力，可能人类所有的意识都是泛性的，所以他要这么做，让模拟更真实。这个观点有些弗洛伊德，但影片恰恰试图证明：如果没有这种拟人化，可能这个机器人色诱人类的可能性就不存在了。 在现实生活中，很多冲动是在性驱动下产生，并且动力持久长远，做这样一个人性试验没引入性这个因子，肯定是不客观的。人工智能的一个重要研究方向就是仿生学，通过技术模仿动物和人的感官、大脑的结构与机能，从外表上与人类的无限接近。

5. 黑白玛丽实验：我们如何感知？

这是片中程序员Caleb讲述的故事，也是著名的黑白玛丽思想实验：玛丽从一出生就被关在一间房子里，一切摆设和布置都是黑白色的。玛丽可以通过一台黑白电视机（或书本等）学习各种（广义）物理学知识，当然也包括各种关于颜色的光学和神经学知识。那么问题来了：假使玛丽学会了全部的物理学知识后被释放出来，当看到真正的西红柿时，会有什么不同？

黑白玛丽实验是心灵哲学上谈论的重要观点。在认知上，包括笛卡尔、休谟在内哲学家都认为，思维或认识过程只有认识者和认识的对象两项。也就是有我、西红柿，就能实现认识。而康德的观点被后世哲学家认可和继承：除了主客体外，还有有介于二者的概念范畴，发挥认识主体的能动，认识才能发生，即“思维就是凭借概念的认识”。目前人工智能研究中，概念并没有被科学家重视，智能机器根本不知道何为概念。人工智能的研究者遵循的是知识的灌输，而不是自我范畴的建立。所以，黑白玛丽实验才会出现：哪怕机器人被灌输了知识而不是概念，他们认识的这个世界是人类认识的这个世界吗？他们看到的西红柿是不是西红柿？

关于这个思想实验，物理学的解释得会更顺畅些：颜色是由光与视网膜作用产生的，而知识只产生于大脑皮层，二者还不能等同。把这个命题放在人工智能里，就是片中Nathan对Ava的发问：你声称自己的语言是习得的，知识是与生俱来的，包括所谓的爱，那么当你看到真正的男人/异性的时候，你产生的情感是否真实，是模拟还是智能？

6. 大数据人能不能实现？

在片中，造物主Nathan设定为世界最大搜索公司老大，相当于我们的google的斯密特。他通过大数据分析，找到了最适合这个实验的志愿者Caleb：父母早亡，懂计算机逻辑，有爱心，没有女朋友，是完美的实验对象。这个大数据挖掘并不算多高明，我们现在就已经能通过高尔夫俱乐部会员信息找到他的情妇了。

但电影中更高明的是，机器人Ava是他通过自己的搜索公司置入全世界的智能硬件获取数据后，挖掘分析并合成的。也就是说，这个机器人的软件系统并不是一个独立程序，而是全世界搜索世界数据的综合，毋宁说，这是大数据模拟人，它可能解决绝大部分的问题。当我们一度耻笑SIRI、小冰这些笨拙经不起调戏的人工语音助手的时候，其实可以料想到，经过算法优化、数据库扩容等升级、改造，有朝一日，SIRI真的可以陪你聊天到深夜，让你恸哭在厕所。事实上，随着互联网技术推广，大数据成为可能，数据挖掘已经成为现在人工智能研究的新方向。

7. 机器人能不能成为艺术家？

电影中，Nathan和Caleb讨论关于机器人程序化的问题：caleb把他领到一副画作之前，这是杰克逊·波洛克的抽象画，这位美国抽象画家常用的画画方法是：把巨大的画布平铺于地面，用钻有小孔的盒、棒或画笔把颜料滴溅在画布上。不作事先规划，作画没有固定位置，喜欢在画布四周随意走动，以反复的无意识的动作画成复杂难辨、线条错乱的网，人称“行动绘画”。此画法构图设计没有中心，结构无法辨识。

这种行为运用到人工智能中，是为了让机器人更加复杂、不可预测，更接近人类表现。而对人类本身而言，也是一种命题：很多伟大的作品恰恰不是胸有成竹的产物，它出现在创作本身，创作者自己也不知道自己作品最终会是什么样。一个最高阶的机器人，它装有最高级的程序，这都是有限可预料的；但是如果程序自行运算起来，最终出现的结果，则是没有人可以预料的。当这种结果足够接近甚至超过人类的表现、反馈和作品时，我们认为，人工智能就实现了。但是当前科学能实现的机器人还不具备这种意向性——赛尔提出：已有的机器人对符号的处理只 是句法的处理，而并不具有语义性。这些计算机仅仅只是句法机，而不是语义机。人的符号加工中有意向性的因素起作用，而计算机的 符号加工则没有。目前已有的机器人最大的问题也在于此：他不能像人类一样主动接受、选择外部信息进行再处理。不能表现出意识，就无法成为科学家。

8. 我该如何存在？

这个问题有些汪峰，恰恰是电影最让人惊悚的一幕：当Caleb长期和机器人沟通交流，发现对方与真人几乎没有区别的时候，他开始怀疑自己会不会也是机器人？为了证明自己，他选择了割腕流血。如何证明“我在”这个命题，哲学家们都给出过各种答案：苏格拉底的“认识自己”，亚里士多德的“认知即是所有人的特征”，以及是笛卡尔的“我思故我在”。但是像电影中表现那样，当机器人高度模拟后，能够像人类一样学习、认知、思考甚至表现更好的时候，证明人类万物之长的优越性、由神创造的独创性如何完成？当人工智能发展到在思维逻辑上彻底抹平与人类的边界的时候，是不是只有验证肉体才能真正完成区分？Caleb割腕给观众的震撼是巨大的，它完美诠释了人类对于人工智能高度发达的担忧不是过分：当我们创造的物品已经有了人性，甚至让我们怀疑自己存在的正当性，我们会采取什么措施？

在《圣经·旧约·创世记》第11章，有著名的巴别塔故事：当时人类联合起来兴建希望能通往天堂的高塔，这是人类试图接近神的动作。为了阻止人类的计划，上帝让人类说不同的语言，使人类相互之间不能沟通，计划因此失败，人类自此各散东西。创造智慧这件事，连上帝自己都细思恐极。Caleb曾对Nathan说：“如果你创造了一个有意识的机器，那将不再是人类的历史，而是上帝的历史。“ 所以，自负的人类要走得多远？人类需要真正的人工智能是什么？我们究竟是要最智能的仆人，还是最聪明的伴侣？凯文凯利说过：人工智能的未来既非能力超凡的机器人，也非让未来学家心醉神迷的超人工智能。即将到来的人工智能颇似亚马逊的网络服务――廉价、可靠、工业级的数字智慧在一切事物的背后运行，偶尔在你的眼前闪烁几下，其他时候近乎无形。这一通用设施将提供你所需要的人工智能而不超出你的需要”。如果超级人工智能实现了，人类下场会不会和Caleb、《A.I》、《我，机器人》里描述的一样惨？