电影中的哲学思辨系列2：theodore（西奥多）升级了自己的电脑操作系统，发现新版的os1只需要通过语音指令就可以完成所有的工作。而且“她”（萨曼莎samantha）具有性感的女性嗓音，可以和他聊天谈心，几乎做到了无微不至的全方位陪伴。而在现实中，西奥多一方面正在处理和妻子的离婚手续，另一方面又无法和真实的女性开始一段真正的亲密关系。终有一天他得知，萨曼莎仅仅是一个人工智能程序，她正在和几万人聊天，并和其中的几千人恋爱……

好莱坞的导演和编剧非常有想法，把最新科技的发展和非常传统的人类的永恒不变的主题捏在一起进行探讨。我们可以用两种不一样的路径来理解这部电影《her》，一个路径从情感线索去理解，这是一个很经典的披着科幻外衣的言情片。另外一个路向的理解，这是一个探讨人工智能和伦理的故事，但是它披上了一个言情片的外衣。

我想在这部电影中探讨的题目是——谁才算作是人？

表面上看，这个片子讲述的故事是一个宅男爱上了操作系统。西奥多，这个男主角处在了整个人生的低谷——准备离婚，人际交往匮乏，朋友很少，每天下班之后，孤独的一个人待在家里。西奥多所处的人生阶段是现代人窘迫生活局面的缩影。在这个时候他突然爱上了操作系统，他们的确是非常接近。操作系统除了没有身体之外，其实情感本身非常真实。可能十年前来讲这个故事，绝大多数人对这个主题会难以理解。但是现在智能手机十分普及，iphone上有siri，我们经常可以跟siri发生一些谈话。win10里有语音助理cortana，也可以发生一些对话。在这些经验上，人机互动甚至爱上操作系统，就不会显得那么荒谬。

我们回到这个问题：宅男为什么会爱上操作系统？

我在复旦第一次上这个课的时候，我问过一些复旦的同学，他们都是年纪比较小，大概二十岁出头左右。我说，不管你是男的还是女的，假设今天有这样的操作系统，你愿不愿意拥有它？绝大多数人都说愿意。一般男用户选择女声操作系统，女用户会选择男声。

在电影当中，给samantha配音的是scarlett johansson ，她的声音被称为好莱坞最性感的声音。宅男爱上的这个操作系统非常优秀，他赋予这个操作系统非常好的一些性能，不像siri或者cortana那样笨。安装第一天，之前工作当中帮别人写的信，包括来往的邮件，samantha帮他全部整理好，井井有条。另外她的回答让人丝毫感觉不到她是一个人工智能，她的每次回答都让人觉得非常得体，甚至让人觉得很开心跟她对话。但是当真相大白于天下时，西奥多就必须面对赤裸裸的事实——到底她是真的在乎自己，这个实在的人，还是她背后那套智能算法，可以随时从她巨大的语词库中调出一两句让他觉得很暖心的话，或者一两个让他觉得很开心的段子。这到底是不是一份真实的情感？这已经超出了我们平日的人跟人之间的交往关系。

我们未来的生活越来越接近于个体化和原子化的生活，绝大多数人，都可能都愿意乐见os或者samantha这样非常聪明和体贴的操作系统。在未来，又有几个人会拒绝使用这样的操作系统？

我把这部影片看成是一部披着言情片外衣的哲学片。人工智能——artificial intelligence，这是最近一两年变得重大的话题。我们用什么来定义人工智能？它用智能的行动者来定义人工智能。实际上一个关键概念在于：什么是智能？

现代人工智能会研究什么问题？——推理、分析、学习、计划、自然语言进程（交流）、感知、情绪等等。samantha完成的最重要的突破是自然语言进程，跟她对话，完全感觉不到她是一个机器或者一个程序。

对人而言，我们有这样一种自信，我们觉得人是这个宇宙当中唯一具有高等智能的生物，我们会相信有一些高级灵长类动物也很聪明，但是达不到像人这样的高度人工智能。我们相信会有一些外星人在什么地方，他们可能比人更聪明。但是至今为止，我们觉得人是这个宇宙当中唯一具有智能的生物，或者存在。所谓人工智能，是我们这样一种智能生物再造一种东西出来，它们跟我们具有一种同等，或者可能超出我们的智能水平。

最近为什么人工智能变成很重要的话题？因为未来最可能把人类自身毁掉的可能就是人工智能。人工智能是人造出来的。它的智能一旦超过人类，那么人就变得很尴尬，如果继续用它，因为它很聪明，这个比人还聪明的智能可能反过来会辖制人，甚至威胁到人的生活，这就变得很矛盾。

科学家们在探讨，会不会有一天出现一个门槛，他们把这个门槛称为singularity，一个奇点，一旦人工智能迈过这个奇点以后，它就成为不可逆的——人再也没有办法管控它，它不可能乖乖听人类的话。据说10-20年之内会出现这样的singularity，这个拐点即将到来。

在这个大背景下再重看那些科幻片，都不再仅仅是酷炫的特技，而是探讨人类未来和人类本质的哲学研究。《人工智能》、《我，机器人》、《机械危情》都是这样的影片。

什么是智能（intelligence）？至今为止我们还能够有这样的自信，假定只有人是宇宙当中唯一具有智能存在的生物，有没有可能有另外一种生物，或者机器人存在着，它获得类似于人的智能。

智能是不是人独有？用人的大脑，我们觉得近代的生理学解剖学产生之后，人的智能集中在一斤多一点，两斤不到的蛋白质里面，但是我们现在并不清楚两斤不到的蛋白质和一块豆腐区别在哪里，除了它有一些沟壑和回路。脑神经有多少神经元？为什么人有学习功能？

人并不是与生俱来他的智能就像计算机一样，计算机买来的时候，它的性能最好，但是人出生的时候绝对是最笨的。小孩子在规训和培养之后，在特定的时段才能产生出相应的人的能力，比如语言能力，必须在五岁之前。大脑有一些很奇怪的能力。

如果我们把电脑拆开，观察上面的主板，主板上插了各种各样的东西，有一个带风扇的叫cpu，就是中央处理器，有的是内存，有的是硬盘，有的是显卡，有的是声卡，有的是输入输出设备，拔掉任何一个，电脑就没法用。但是人脑不同，我们在很多医学的外伤案例中得知，哪怕失去1/3个脑，将近1/2个脑，有些人也能恢复。就算我们现在大概知道可以把智能集中到两斤不到的蛋白质里面，那到底什么是智能？我们用一种生理科学的还原论式的研究方法，还是没有办法回答什么是智能的问题？或者智能是不是人所特有？

伴随最近几年电脑的普及，以及电脑对人工智能的追求，在哲学当中产生一个分支，叫人工智能哲学。这个人工智能哲学本身有一个很强的近代哲学系统，再往上追是和语言哲学（linguistic philosophy）、心灵哲学（philosophy of mind）有关系。这两个linguistic philosophy和philosophy of mind的背景其实都是传统的近代哲学当中的认识论。人工智能哲学，就是来回答人工智能一些基本的形而上学问题。

什么是智能？我们做到怎样的能力我们可以称为机器或者这个程序是具有人工智能？

人工智能和近代哲学的关系，必须从笛卡儿讲起。笛卡儿是17世纪的一个哲学家，也是近代欧洲哲学的开创式的人物。他在17世纪写过这样一本书，叫《谈谈方法》。这本书当中，提出这样的一段话：“我们知道人的技巧可以做出各种各样的自动机，即自己动作的机器，用的只是几个零件与动物身上大量的骨骼、肌肉、神经、动脉、静脉等等相比实在很少很少。所以我们把这个身体看作成一台神造的机器，安排的十分巧妙，做出的动作十分惊人，人所能发明的任何机器都不能与它相比。”人造的机器，一个钟一个表很精密，很精准，但是没有办法和人自身来比较。“我们完全可以想象一台机器，构造能够吐出几个字来，甚至能够吐出某些字来回答我们，搬弄它某些身体机器，它可以回答一些问题。例如在某处一按，它就可以说出我们要它说的要求，在另一处一按，它就喊‘痛’之类，但是它绝不能把这些字排列成别的样式，适当回答人家向他说的意思，而这是最愚蠢的人都能办到的。”这是17世纪哲学家对机器的极限或者人类智能优越的判断。但这段话放在今天已经不成立了，因为有siri有cortana这样的人工智能，它们的对答已经可以顺畅进行，虽然不是完全恰当。

笛卡儿的说法里有一个基本的预设在里面，就是人可以造的机器可以非常精妙，但是达不到像上帝造的人那样完美。

这里就需要进一步探讨“自动机”？自动“auto－”，在古希腊语当中是自主的意思。我们知道最简单的自动机，比如布谷鸟钟，一个机械的钟挂在家里墙上，每到整点有一只鸟出来叫“布谷布谷”进行报时。它是钟表在制造的过程中设定的机关。它全部的可能性，就是到整点这只鸟出来再叫两下，不做别的事情，只能发“布谷布谷”的声音，不能发别的声音。

日本的机关人偶也是一样。日本当时的工匠非常聪明，可以做一个人偶，只要上发条，人偶就可以在扇面上用毛笔写一首诗。这完全是包含在机械构造里，但是始终只能写一首诗，不能多一个字，也不能少一个字。而且字的轨迹也是定好的，像刻出来的图章一样不能改变。八音盒也是，我们给它上完发条，它就可以有一个乐曲奏出，好的八音盒可以放好几首乐曲，但是它所有的可能性全部蕴含在带针带刺的鼓上。

但就像笛卡儿所看到的，所谓的自动机其实不是自动机，它的能量来源是外部的发条，它所有动作的可能，不管是布谷鸟钟出来一下，还是人偶在在扇面上写一首诗，它的全部可能性已经蕴含在它的机械构造里面。如果这个工匠不对它的机械构造进行改变，它不可能做别的事情，它也不可能给出一个很恰当的对外部环境的反映。

当年笛卡儿对机械构造的极限的理解，就是自动机。笛卡儿持二元论的立场，笛卡儿说，人跟机器的基本区别在哪里？——人会使用语言的，而语言不是与生俱来的，语言是习得的，而且每个人都具有创造新的词语的能力，这是机器不可能做到的。

像笛卡儿所理解的自动机，它全部的可能性已经包含在它的物理构造里面，换言之，机器是没有学习能力的，而人有学习能力，而且人的学习能力非常的惊人和可怕。在笛卡儿看来，人跟机器的两个最大的区别，是会使用能力、有学习能力。它都是心理的特殊能力，它属于心灵的，而不属于物理跟机械。

到了20世纪，有一个英国的哲学家艾耶尔，他在30年代的时候，写了《语言、真理和逻辑》一书，重新把笛卡儿的问题提了出来：人跟机器的区别在什么地方？

艾耶尔说：“有意识的人与无意识的机器之间的区别就在于可知觉的行为不同的类型的之间的区别，当我断定一个对象看起来是一个有意识的东西，其实并不是一个有意识的东西，而仅仅是一个傀儡或机器所能提出的唯一根据，是不能满足足以决定它有意识或者没有意识的经验检验。如果我们知道一个对象完全像一个有意识东西，按照定义所必须行动那样行动，那么我就知道这个对象是真正有意识的。”

尽管有些绕口，但是他提出了一个重要的标准：人跟机器的区别在于人有意识，机器没有意识。

此时探讨图灵就显得极有意义。图灵在整个人工智能发展史上是一个里程碑式的人物，犹如物理学中的牛顿。他在1950年写的《计算机器与智能》是人工智能里程碑式的作品。他在二战的时候，为英国军方服务，破解了德国的密码机恩尼格玛（enigma），这是他对人类另外一个贡献。

这里可以看另外一部影片《模仿游戏》，呈现的是图灵的人生片段。在二战的时候，德国人的数学能力非常强，他们的密码机恩尼格玛从数学上不可破解。于是英国军队调用英国智商最高的一批人来破解，图灵之外的人都未能破解，只有性格不同的图灵成功破解了这个密码机。在影片中也交代了图灵在战后的命运，非常悲惨。他是同性恋，被伴侣背叛并被告上法庭，法庭最后对他执行化学阉割。图灵不堪凌辱最后选择了自杀。

图灵的论文中提出了和艾耶尔一样的问题：要判断有没有意识，是人造还是真实的人，需要有一个经验检验。——这就是后来的图灵测试，这个测试在后来被称为“模仿游戏”。——如果有一台机器能够与人展开对话，通过一个电传设备，不是直接面对面，并且不能被辨别出是机器设备，我们就可以称这台机器具有智能。

这样一个模仿游戏会产生很多的问题。因为要通过这样的测试不是很困难，图灵50年代提出这样的测试标准，有很多人对他提出了质疑。当中最著名的质疑，来自美国加州大学伯克利分校的哲学家塞尔，他提出对这样一种人工智能的质疑。他在八零年写了论文《心灵、大脑与程序》当中，他提出很重要的论证，这个论证被称为“chinese room”，“中文屋”。

“中文屋”是一个思想实验。因为中文在很多西方人看来是很难理解的，他设定有一间房间，这间房间是封闭的，这个房间里有一个人，还放了很多中译英、英译中、英译英的工具书，这个人可以花很多时间在里面翻字典。房间外面的人说一句中文，房间里的人可以用封闭房间当中所有的工具书查出来这句中文的意思。这样虽然他不懂中文，却依然可以做出合适的回答。这样就可以通过图灵测试。

这并非意味着图灵测试的本身标准有问题，中文屋的论证是思想实验。这是一个弱的人工智能立场，房间里的人虽然不懂中文，但是通过中文屋当中所有的系统可以让人给出一个恰当的回答。塞尔的结论是：“只有一种机器可以思维，即大脑和那些与大脑具有相同因果能力的机器。”

塞尔所在的大学uc berkeley，在美国的湾区（bay area），离斯坦福和硅谷非常近。湾区的思想交流非常多。当年塞尔写出这个论文之后，直接对硅谷从事实践做人工智能的人产生极大的推动，也对他们本身的概念有个很大的澄清，这是做人工智能跟做哲学的产生一个交流和一个互动。科学，哲学和艺术，最后都会在探讨终极问题时相逢。

从笛卡儿，到艾耶尔，到图灵，到塞尔，人工智能的技术已经发生了突飞猛进的发展。2014年，图灵测试已经被打破，这个聊天程序被称为“尤金·古斯特曼”，2014年6月7号，这个尤金·古斯特曼通过了这个测试，尤金·古斯特曼是一个乌克兰的很年轻的程序员写的程序。有30%的裁判在五分钟之内没有辨别出来它是人还是机器。科幻小说离我们很近，已经变成现实。

当我们看科幻片时，不断出现的机器人正一步步从功能性的存在转变为情感的对象，伦理的边界，甚至人类自己的未来。

你和机器人会有真爱吗？——人工智能不仅仅是计算机科学家的功课，也不是it男独有的课题，人工智能和每个人的生存密切相关。科幻片中的情节，可能明天就降临在你我的身上。不知那时，我们自己是否能通过图灵测试。