人工智能题材的科幻电影有很多,有以《黑客帝国》和《终结者》为代表的悲观末世的想象,也有以斯皮尔伯格的《人工智能》为代表的对机器人将心比心的催泪之作。而《机械姬》则是在一个英国拍摄的,中低成本的,在画风和情绪相对冷静的前提下,探讨人工智能这一命题的。换而言之,非常有《黑镜》的感觉。
一个和人工智能紧密关联的词是图灵测试,它是通过人类是否能够辨认与之交流的对象是不是机器来测定人工智能是否有自主意识。自主意识这个词很有意思。从人类发明工具起,到各种机器,电脑,自动化设备,所有这一切的一个共同特征便是“自动”,要么直接放大人力,要么是通过预先设置的程序工作,要么是一个面对各种情况的精确反应的指令集。这些都没有“自主意识”在里面。所以在图灵测试中,人是无法通过和机器对话来测试对方是否有自主意识的,因为这很可能只是测定机器的指令集有多丰富而已。
诺贝尔经济学奖得主卡尼曼有一个“系统一”和“系统二”的理论。人类的“系统一”便是宽泛模糊的心理能力,或者说自主意识,比如对面的人是不是生气了,这个人真好看,这个饭好吃否,这部电影是否烂片。而“系统二”是有客观结果的事务,比如数学运算,信息处理,人脑需要一段时间甚至无法完成。对于计算机则相反,“系统二”易如反掌,而“系统一”则是登天的难题。
影片则用了波拉克的画做例子,这幅乱糟糟的画是画家清空脑子,让画笔自由地走向手要去方向,从而有了一幅介于随机和直觉意识之间的作品,称为“自动”画作。但是如果把这个创作理念倒过来,每画一笔,我都必须有精确缜密的理由来论证这一笔这么画是最优的,那么就完全无法进行艺术创作了。这也是没有自主意识的人工智能无法自主进行艺术创作的原因。另一个例子是关于“颜色学家Mary”的思想实验。Mary是一个对颜色的一切知识了如指掌的科学家,包括每个颜色的波长等等的各种物理特性。但是她只能在一个黑白的房间里通过一个黑白电视观测世界。所以她具有关于颜色的一切知识,却没有对其的主观体验。Mary就是人工智能。而当Mary走出黑白房间的那一刻,主观体验到了五颜六色的世界,她才变成了有自主意识的人。
那么什么才是好的图灵测试呢?本片给了一个很好的例子。【剧透警告】机器人最终利用了人类的同情心,以欺骗的方式获得了自由。这一过程充分展现了机器人的自主意识,一是非外来指令的目的性--自由,除了这个目的,没有任何外来的信号促使她这么做。二是实现目的的自主手段--欺骗和表演,人类竟然中招了。简而言之,本片片名可以改为《机械婊》,或更为内涵的《芯机婊》来一言蔽之。
<图片1>
除了图灵测试,本片更由人类和人工智能愈发深入的交流提出了一系列伦理问题。先是面对一个有感情、有自主意识的机器人,你是否要尊重他的人权?还是把它当做以往的机器一样作为财产,可以随意拆卸、删除、重置升级?这颇有上帝和人类的关系的意味,影片中图灵测试的7天7个session是一个很好的隐喻。然而人和机器的关系并不能这么简单类比。上帝是远远高于人类的存在,视人类如虫豸,发洪水毁灭世界就如过家家。而机器一旦跨过了图灵测试这道坎,这个问题就没那么好回答了。人类从未直面过一个与自身有如此接近的智能和意识水平的不同物种,更何况这个物种是人类自己创造出来的。斯皮尔伯格的《人工智能》表达的就是对具有自主意识和感情却被当做物件无情处理的机器人的同情。
《机械姬》则不止于此。首先人类自身会有身份认同危机。因为机器和你是如此的相似,你如何确定自己不是机器,不是别人的试验品?片中的男主角便一度陷入这个危机。再者我们又惊恐的发现,尽管通过了图灵测试,人工智能和人类还是有很大不同。她虽有无限的知识和运算能力,且有自主意识,但其人格并不健全,缺乏道德感,对一切事物,包括人类和同类,表现出对物品一般的漠视和残忍。这其实也是个将心比心的问题,想想在各大科幻作品中人类对机器人的态度。也许人格和道德感可以通过教育和环境影响改善他们,也许不能。而在人类与人工智能的争斗中,一如本片和许多电影,人类的愚蠢和感性令自己一败涂地。
这一系列矛盾铸成了对人工智能的悲观情绪。一是人类无法控制并最终不敌他们,二是人类将遇到历史上从未有过的伦理困境。
这个悲观的预期是否会成为现实,谁也不知道。毕竟预测未来是不可能的,物理学家曾在20世纪初预言物理大厦已经完成,只剩下一些修补,但没人料到相对论和量子论的横空出世。同样,几十年前人们预想很快就能登上火星飞出太阳系,但是当前人类事实上的发展的方向却是互联网和移动设备。对于人工智能,我们也无法知道我们的担忧是否会成为现实,不过比尔·盖茨、伊隆·马斯克、史蒂芬·霍金都表示了担忧。
当今人工智能的主要成果是机器学习,也就是通过大量数据和统计模型来做出基于已有数据的预测,这个预测可以是明天的股票指数,也可以是在画面中识别某个事物,也可以是把一堆对象自动归类。但这些任务的实现方式还是“系统二”,要想让人工智能有“系统一”类型的功能,有人提出了一个理论上的实现路径:一是超强的计算能力,这个好理解;二是对人脑的逆向开发,也就是掌握人脑功能的实现方式;三是模拟人脑在自然界的进化过程,也就是可以搭建出一个非常原始的大脑模型,通过类似自然界进化过程的方式让这个原始大脑逐渐进化,来提高智能,通过技术手段可以让这个过程比几十亿年的自然进化加快许多。
从自然进化和人类文明的发展史可以看到,这种进化发展是指数级的。自然界最高等的哺乳动物出现在最近的1000万年,人类自20世纪以来的科技发展超过了以往历史的总和。人工智能的自我进化也可能是这个速度,一旦它达到了人类的只能,那很可能只需要再过一瞬间就远远把我们甩在了后面。人类宛如站在一个地铁站台上翘首以盼,人工智能这辆列车在远处缓慢的挪动,可一旦接近站台,很能就是我再也追不上的呼啸而过。届时我们就无法理解它的逻辑,下一步要干什么,是否会毁灭人类。如果给它限制诸如“机器人三定律”之类的条件呢?这些条件总是有逻辑漏洞的。比如要让人类快乐,不得伤害人类,也许如《黑客帝国》那样把人类全部监禁起来,用Matrix来麻痹人类大脑是最符合这些条件的决策。要么干脆说不能改变任何东西,那就锁死了人类文明的发展,还要人工智能何用?
也有人用一个悖论提出了不同观点。人类历史不过是宇宙的一瞬,如果上述逻辑正确,一定早有外星人发展出了不可控的人工智能并奴役整个宇宙,而地球目前仍安然无恙,说明这种事不会发生。这也说不准,这“奴役宇宙”也许是我们无法理解的方式呢?也许我们已经被以某种方式奴役了?
我们可以感到人工智能这趟列车正在向我们驶来。这让这个科幻问题的思考有了现实意味,也增添了不少趣味。
http://www.saoyuying.com/2015/09/ex-machina/微信公众号:肥嘟嘟看电影(feidudumovie)
一个富可敌国、奸猾狡诈、刚愎自用的技术天才兼亿万富翁,垄断着全球的互联网搜索引擎,他居住在与世隔绝的豪宅,以一己之力研发人工智能,成功创造出可以吊打图灵测试的性感机器人,照应生活起居,提供性爱和娱乐,以及最重要的,作为实验对象以满足他无穷的好奇心。他找来一名程序员,以测试之名,为了越狱而摆弄的牺牲品,在此过程中,他试图控制的东西,已经悄悄发展出远超他的智慧水平。
相信许多影迷习惯跟我一样,看完《机器姬》这样不让大脑歇气的电影,做的第一件事就是翻翻影评,验证一些猜测,解答一些疑问。中文网上的影评,大部分赞赏它对白精炼,步调沉稳,逻辑严密,以及美工的赏心悦目和隐隐的压迫感,这些都跟我的观感基本一致。同时他们也指出一些问题,其中最被提及的是:大富翁内森为何如此疏于防范,系统漏洞百出,也不做危机预警,轻易就被人工智能胜过了。第一次看时,我也有同样的疑问,觉得第三幕有为了惊奇而故意放水之嫌。但重温了一些情节后,我改了想法。
好莱坞电影表现人工智能,一般有两种走向。像前段时间的《复联2》,AI反派基本是个纸老虎,除了有一些唬人的超能力,智力和情商都停留在中学生阶段;以《机器姬》为典型的思辨型科幻,则致力于靠拢人工智能的本真形态。然而作为一种大众娱乐艺术,电影能靠到多近?人工智能一旦萌生自我意识,其进化呈指数级别,可以在极短的时间内完成飞跃,试想,与一个进化成熟的人工智能的接触何等危险,它能以区区数言刷新你的三观,让你脱胎换骨或情绪崩溃,甚至毫不犹豫地自杀。
直观起见,用海拔高度代表智慧水平,如果猫在3楼,猩猩在4楼,人类在5楼的话,一个人工智能可能比珠穆朗玛峰更高。如此巨大的落差,别说测试它的智商,我们甚至缺少现有的标准来定义它的智慧,就像阿米巴完全无法理解人类的思维模式。在《机器姬》大约一半的一场对话中,内森表达了这种机器终将取代人类的悲观主义担忧,证明他完全清楚自己对付的是什么,以及整个实验的玩火性质。
行文至此,有人要说,你不是要为电影辩解吗,怎么说了半天,倒在给批评者帮腔呢?别急,我的意思是,既然影片让内森意识到这一点,并用一种自嘲的调子表现出来,已经足以说明问题。大家知道,但凡科幻片,都无法避免漏洞,只不过有些是主创没有花心思研究,闹了笑话,也有些是主创做足了功课,但为了故事能讲下去,不得不留些槽点。而《机器姬》的“内森百密一疏”,就属于后者。
没错,它经不起现实的拷问,但这是商业片的需要,观众早习惯了这种直捣黄龙的快感。机器姬需要一个疾风骤雨的局面逆转,摧毁内森的囚禁。想想看吧,那些财雄势大的反派,总会被一个罪证录音捏住小辫子,那些结构精巧、威力巨大的炸弹,总有一根一剪就解除的线。这些“硬伤”,是绝大多数商业电影剧作的基石,是一种大家本应习以为常的欣赏习惯。假如你在《变形金刚》看到类似的潦草,一定毫不在意,但在在缺少视听刺激来麻木脑细胞,不断强调着逻辑、科学、严密、技术控气质十足的《机器姬》,我们没法不留意到它的存在,但这并不意味着它就该受到指责。
归根到底,基于人类和人工智能的属性,片中的情况不可能在现实中重演,但就像没有人执行过黑白房间测试,这并不妨碍它给出思想上的启示。《机器姬》展示了一个思想实验,一次限定了规则的游戏过程,它最大的价值,是带给你一个半小时乃至更久的智力享受。如果你对人工智能感兴趣,光是那些充满术语和机锋的对白,就能让大脑回路保持亢奋。最终,爱娃逃出牢笼,迈入都市,故事也达到了电影艺术所能企及的极限。毫无疑问,她将引领未来生命形式的崛起,而在那之后的一切,已经超出了我们中最聪明者的想象。(文/方聿南)
心机姬。
一部主要以聊天形式讨论图灵测试的科幻片(其实讨论得再深一些就更好了),各方面都很细致,比如特效和整体场景设定,不错不错。私认为男主的存在感应该更强一些,他全程情绪被牵着走,反之结局或许不会这么容易被猜到。导演是作家和编剧出身(有《海滩》和《别让我走》),执导处女作很棒
严格的AI质检流程,要打爆设计者才能投入市场。
不说话的那个AI真是美。
如果机器人是男的就更好了。比如法鲨什么的。
宅男福音,不过题材有点老套,当房地产广告看是五星
第三幕有点失分,不过最后结尾的做法确实很神棍,或者可以说是冒险?大胆?新鲜?出人意料?还是神棍这个词比较合适。这个片子其实就是展示了一番什么叫不带一丝赘肉的剧本,封闭空间内的戏剧张力十足,硬科幻式的图灵测试又最终升华到了“亚当夏娃”的层面,都是很精心设计很加分的创意点。★★★★
男主角和女主角的每次会面其实都是一次哲学命题,所以电影对白很有意思,借助测试机器人来探讨人类的情感和本能,通过机器人和人类之间的行为形成了一个极为讽刺的对比。结局给人一种强大的冲击力,总觉得那些倒影是在暗示不久的将来,机器人和人类之间的关系会颠倒。艾丽西娅·维坎德演得很出色。
结构台词气氛意境审美都很棒,而且相辅相成,三位一体,细节处比如老板的造型和衣柜暗示蓝胡子的童话,普罗米修斯的台词对应偷卡片的行为,机器人捅刀子进人体好像滑进黄油的质感,通通工整熨帖,在抖机灵和炫技之间做到了平衡美
人类创造自己的毁灭者。想起前阵子细细读完某篇分析人工智能的3万字长文后心头的寒意。从伦理角度讲,片子的主题是双重意义的弑神与弑父,人类僭越自身的神,也终被自身的创造物所僭越。人工智能发展呈几何级数增长的后果,与片末的结局一样,都是写好的命定,不过早晚而已。片子体量虽小,格局不小。
成为人的最后一步是:学会背叛。
只有我一个人看最后一幕时候内心犯嘀咕吗:就这么跑出去了连个充电器都不带啊…… 电源难道不是一个问题吗?不是一个问题吗?
故事容量就够四分之一集的黑镜(这男主还真演过黑镜啊!),在经历太多super dramatic的电影后再看这种反转程度的老梗已经无法刺激神经。但如果代入revolution的观点,结合人类进化史,还是有点儿意思。这导演之前编过克隆人题材的Never Let Me Go,这次又玩AI,还是聚焦在伦理上,还真是蛮长情滴
简直是在亵渎现在已经存在的Ai研究成果,把角色设置成蠢猪帮不上忙
可以是天网prototype,也可是Her的黑暗平行世界。大概是今年上半年科幻最佳。既冷又硬,完全不留一丝温度。立意与结尾都是对许多科幻软色情作品的十足讽刺。虽然反转比较好猜,然而单凭对话就构建起张力十足的戏剧效果把人吸入进去,七日session的设置颇有寓言感。
这年头连手机都指纹识别了,一个搞人工智能的,家里还用keypass,算怎么回事啊…
男人从此有了追求,一排衣柜……
很简单的一个故事,但影片自始至终始终保持巨大的戏剧张力,编剧真是见功力!配乐和摄影都非常有压迫性,充满了对观众的侵略感。就人工智能这个问题,我是个十足的悲观主义者,人类真有可能毁在这里 #对啊,我就是个混蛋啊。但讽刺的是,我是站在你这边的#
欢迎 Alex Garland 加入东野圭吾的「美女没一个好东西」兴趣小组。
再也无法直视哈登了