查看原文
其他

豆瓣8.9,有能力但不负责任,才是危险的

思故渊 看理想 2022-11-02


最近的口碑影视作品里,关于科幻,或者准确说,关于“赛博朋克”题材的作品堪称密集,不管是前段时间的话题动画《赛博朋克:边缘行者》,或者正在热播拥有不少讨论的美剧《边缘世界》,以及我们今天想聊一聊的口碑动画:《万神殿》(Pantheon)。

虽然都打上了赛博朋克的标签,它们的主题也大都涉及如下议题:网络、大公司、人工智能、意识上传,但《万神殿》还是其中非常独特的一部。

过往那些可以认为是“赛博朋克”的经典视觉要素,在这部作品里非常罕见,不再只有那些红红蓝蓝的午夜霓虹灯,也没有像《攻壳机动队》那样,机械义肢快速折叠展开露出一个炮口。

《万神殿》是现代的“赛博朋克”,它的最新表现形式,是冷静的白色日光灯之下反射着闪闪银光的透明玻璃和铝原色合金。一切都干净,整洁,极简,一丝不苟。

*💡 本文涉及剧透,请谨慎阅读


01.

朋克的本质,是“个人对抗系统”

 

“朋克”(Punk)这个词本来略带贬义,大致意思是“小流氓”;上世纪七十年代,“朋克运动”兴起,诞生出一大批著名的乐队和唱片专辑,它是一种音乐界的叛逆运动,主旨是反对已经存在的、过分“精致”的流行音乐形式。朋克的典型特征是刻意粗糙,后来大家熟悉的许多音乐制作形式,诸如三和弦,刻意的 Lo-fi(低保真录音),完全DIY,自制唱片交由独立唱片公司发行等等都在那时发端。


这里就不将百科里关于朋克运动的介绍文字再贴一遍了,先聊一些最基本的对“朋克”的介绍,主要是想引入一个最核心的概念,这是无论我们在朋克这个词之前加了多少奇奇怪怪的前缀,都不会改变的:朋克的意思,就是“个人对抗系统”


当威廉·吉布森和菲利普·迪克写出科幻小说《整垮珂萝米》和《仿生人会梦见电子羊吗?》,将“赛博朋克”这个类型做了定义之后,变得如此风靡而被广泛接受,恰恰是因为赛博朋克不仅是保留更是强化了朋克的“个人对抗系统”的意涵。


“赛博”的前缀Cyber原本来自于维纳所发明的控制论(Cybernetics),而维纳发明的这个词则来自于古希腊语中的κυβερνήτης,意思是“控制”“掌握”。而控制论本身被发明出来就是基于:随着技术的发展,人类能够发明出越来越复杂的机械和系统,那么如何分析其结构,控制这些系统的运行,调节其运行状态,就成了一项专门的单独的学科。


所以,赛博的本源,就是“对系统的控制”,而朋克,则意味着“对系统的反抗”。那么,当赛博和朋克合在一起,这种矛盾便凸现出来。赛博朋克比朋克更“朋克”。


在那个时代的作品里,威廉·吉布森在《神经漫游者》里塑造的千叶城,雷德利·斯科特在《银翼杀手》里塑造的那个洛杉矶,就成了我们对赛博朋克的一个固定想象。


《赛博朋克:边缘行者》


故事永远发生在雨夜,红红蓝蓝的霓虹灯将一切都渲染成一种跳动的紫色;穿着各种奇装异服,身体被改造成奇形怪状的人在街上走动。国家和政府要么已经不存在,要么就变得无足轻重,警察和医院都私有化,他们都为大公司工作,这个公司的名字或者叫荒坂(《赛博朋克:边缘行者》),或者叫泰瑞尔(《银翼杀手》)。


而我们的主角,则像是这个极致的自由资本主义生态里寻找缝隙的老鼠,怀揣着一夜暴富的梦想来到这个光怪陆离的地方。如果他不是主角,那么下场大概率会成为下水道里的尸块。


这种想象变得如此固定,以至于到了今天,我们对于赛博朋克的想象仍然没有脱离40年前《银翼杀手》的范畴。刚播出的动画《赛博朋克:边缘行者》就非常典型:它的一切基本视觉和故事元素都能够在四十年前的赛博朋克作品中找到。


然而,在20世纪80年代,当威廉·吉布森写下“千叶城里伤心人”的时候,互联网还是一个雏形,个人电脑对于普通大众而言还是个稀罕物件,没有人想象得出智能手机这种东西,更要命的是威廉·吉布森自己也对电脑网络这些技术没什么了解,他写小说纯凭想象。


这对于科幻小说家而言属于正常现象,但是如果我们过了四十年回头再来看“赛博朋克”这个词,它实际可以说早就死了,退化成手机拍照app里的一个滤镜名称——只要将照片调成红蓝色霓虹灯照耀下的紫色,就有人会说“哇好赛博朋克”。


现在,脑后插管技术并不存在,也没有人会把自己的真胳膊卸了去换一条能够弹出刀片的机械手。原初的赛博朋克对技术的预言早已失败。但它的精神,个人对抗系统传承了下来,以一种符合现代的方式重新展现,这就是《万神殿》。

 

02.

一个更真实也更现代的赛博朋克


《万神殿》这部动画,我首先想聊的并不是别的,而是其中的反派,科技大公司Logorhythms(字符律动)在挪威修建的一个巨型数据中心。在动画里,这个数据中心的外形,就是一个巨大的黑色正方体,矗立在挪威的极地山脉之间。



这个科技公司的创始人史蒂芬·霍尔斯特罗姆(Stephen Holstrom)的形象,显然是在致敬苹果公司的创始人史蒂夫·乔布斯;从圆框眼镜,到络腮胡,到地中海发型,到羊毛衫加牛仔裤的衣品,到患癌英年早逝,再到史蒂芬这个名字,几乎可以认为是像素级复刻。


极地数据中心Logorhythms的造型,也是典型的乔布斯的美学风格:尤其是他对于“对称”和基本几何形状的喜爱。乔布斯早年离开苹果创办的NeXT电脑,以及后来他回归苹果之后推出的Power Mac G4 Cube,都使用了这种非常纯粹的正方体外形。


苹果新总部Apple Park也是乔布斯生前定制下的设计,整个形状是完美的同心圆。从纯粹建筑或者功能逻辑的角度来说,把如此巨大的一座办公楼设计成一个纯粹圆环,未必是最高效的设计,但这完全是乔布斯意志和美学的彰显。


公司的名字叫做Logorhythms。这个词很显然来自于Logarithm,也就是“对数”;然而,我们还可以有另一种解法:将这个词拆成“Logos”和“Rhythm”。


Rhythm的词义,是“节奏”。Logos很难翻译,有一种音译叫“逻各斯”,一般古希腊用语中是“话语”的意思;在古希腊哲学中,逻各斯表示支配万物的规律和原理;而在《圣经》之中,《约翰福音》的第一句话:太初有道,道与神同在,道就是神。而在这里的“道”的原始词汇,就是Logos。


所以可以这样认为,Logorhythms名字的含义,就是“道的节奏”,意指规律本身。创始人史蒂芬(或者说《万神殿》的创作团队)之所以起这样一个名字,是希望公司能够去做上帝的工作,发现世界的根本性规律,这毫无疑问是一种僭越。从这个名字,我们就可以立刻发现这与旧时代的赛博朋克在精神上的巨大差异。


《万神殿》中虚构的公司叫做Logorhythms,而现实中的科技公司,有的叫做苹果(灵感来源于砸中牛顿的那颗苹果),有的叫做Google(灵感来源于Googol,这个词代表10^100这个大数),有的叫做Meta(来自于Metaverse,超元域)。


总之,这些公司的名字本身就代表了一种意识形态,一种超越普通商业、金钱和资本主义的形而上学的精神。而旧时代的赛博朋克构想的大公司的名字,泰瑞尔,荒坂,军用科技——都是那些一眼即知、要么挂着创始人姓氏要么是描述其商业领域的名字。这些名字都简单,直白,毫无想象力。


传统意义上赛博朋克的核心想象,实际上是一种发展到极致的自由资本主义体制。赛博朋克在上世纪八十年代的兴起,与1981年美国前总统里根上台开始大力推广“去监管化”“私有化”“减税”的新自由主义经济政策同时期,应该不是巧合。


在《神经漫游者》或者《银翼杀手》等作品的世界里,一切都被私有化了,包括政府;大公司成为了事实上的统治者,而这些统治者可不会做任何赔钱的生意,你享受的一切服务都是要花钱的。所谓的“高科技,低生活”,实际上就是描述的在这样一个没有任何监管、社会治理、公共政策的霍布斯世界(“所有人与所有人的战争的世界”)中,社会演化的路径,只能是一个有着明确的阶级隔离的高科技种姓社会。


在动画《边缘行者》里,露西也对大卫说:“夜之城里的传奇只有死人”,就是这个道理。普通人想要向上突破阶级隔离的办法,只有死路一条。


然而这并不意味着要给Logorhythms这样的新派大公司唱赞歌。固然在这条时间线上,政府并没有退场,但是新自由主义也并没有死去而是更加发展壮大了。大公司代替国家成为新的统治实体这个意象,并不能说是错误的,而是不以赛博朋克当初想象的那种方式来展现。


更贴合现实,也更现代的景象,恰恰是《万神殿》这样的:大公司很乐于将社会公共治理这项任务交由政府,它介入治理的方式,是通过技术控制了信息。《万神殿》里,在Logorhythms之外第一个将意识上传投入实用领域的公司是Alliance,动画设定里这是印度最大的电信网络公司,显然也是有意的设定。


八十年代赛博朋克刚出现的时候,互联网还只是一个新生的婴儿;而如今互联网已经变成了每个人赖以为生的空气。在这样一个信息爆炸的时代,谁控制了信息,谁就能控制一切。无处不在的推荐算法彻底地塑造了所有人对于世界的认知,而这些推荐算法则都是由许多大公司的程序员在一个完全不透明的黑箱中发展出来的。



在《万神殿》中,意识上传,然后自我膨胀成为一种能够毁灭世界的力量,实际上也只是这些黑箱中的推荐算法的一个自然的逻辑延伸:大公司们控制世界,但是不需要为此负责。手里握有的武器有着毁灭性的力量,但它们甚至自己都意识不到这一点


就像Logorhythms的工程师们认为,意识上传是一件好事,自信甚至自负到自己能够控制这些上传的意识。这种有能力但是并不负责的状态,才是最危险的。


《万神殿》里有一条副线,某种程度上比上传智能的那条主故事线要更有趣。Logorhythms创始人史蒂芬知道自己癌症将死,认为能将自己的道路维持下去的除了自己别无他人,于是决定把自己克隆成Caspian,直到克隆体成长为另一个自己,将“数字永生”这件事情彻底解决。


这实际上就是赛博朋克的“个人对抗系统”的一个最微型迷你的版本,Caspian的一举一动都在公司的严密监控之下,他的家庭和亲密关系都是找来的演员,目标是完整的复制当年史蒂芬的一切生长轨迹。


现代版本的“赛博朋克”,没有谁比Caspian这条线更典型了:他身处一个福柯式的全景监狱之中,似乎没有任何东西会限制到他,然而他周遭的一切都是系统控制下的变量。而这些大公司如此控制这样的一个个体,和他们控制整个大众没有什么本质区别。


这里就出现了一个吊诡的悖论:既然史蒂芬傲慢到认为,只有另一个自己才能解决现在他自己遇到的问题,那么为什么会认为,另一个自己没有聪明到看不穿自己的生活是一个骗局?实际上Caspian最后也发现了真相,而他也正如他的原版一样傲慢和不负责任。


从头到尾,Logorhythms做的这一切,无论是意识上传的技术开发,还是克隆创始人并且完全复现出他本人,或是最终意识到这样会出巨大的问题试图补救,都是公司内部的少数几个精英做出的决策,跟一般大众没有任何关系。这也不禁让人头皮发麻。在我们真实的这个世界里,如果真的有一个或者数个大公司的秘密实验室中,真的保存着超级人工智能的原型的话,会是什么景象?

 

03.

技术解决一切的“奇点主义”

 

再次回到Logorhythms的名字。它的灵感来源之一,是“对数”,而数学上与对数相对的概念,就是“指数”。“上传的人类意识成为神灵”这一基本创意,毫无疑问来自于奇点理论。这同样是上世纪八十年代科幻作家兼计算机科学家弗诺·文奇提出的理论。


奇点理论是什么意思呢?奇点理论来自于对人类技术发展历史的观察:人类的技术演进是一个加速的过程。从农业社会到工业社会,用了几千年的时间;从工业社会到信息社会,仅仅是一百多年。


我们拥有的知识越来越多,我们生产知识的速度也越来越快。这是一条指数发展曲线。那么就会出现一个时间点,知识生产的速度变成无限大,这称之为“技术爆炸”。而这样一个时间点,很可能会在短短几十年之内就发生,弗诺·文奇把它称之为技术奇点。


认同奇点理论的人,也被称之为奇点主义者,他们认为,这个具体的时间点,就是真正的强人工智能诞生的时间。强人工智能诞生之后,就会自我进化,提高自己的智能水平,最终达到神一样的境界。所以,奇点来临也被叫做“超人巨变”。



2011年,国内有一本热门书籍出版,雷·库兹韦尔所著的《奇点临近》。任何思潮的兴起都与当时的社会经济形态有很大的关系。2010年代时对“奇点”“人工智能”的热炒,既是移动互联网兴起,AI技术崭露头角的体现,也是08年之后火热局面的一种反映。一言以蔽之,技术乐观主义。


那个时期的技术乐观主义者们对技术发展和经济发展有着一样的误解:认为指数增长会永远持续下去,认为摩尔定律在计算机以外的行业也能够应用。而实际上技术增长更多的情况下都是S型曲线:到达了一个层次之后回报就会递减。当时有人吐槽过,如果汽车行业如半导体行业那样遵循摩尔定律,那么现在的汽车早就能够超音速了。


过了十年之后我们回看,就会发现当时寄予厚望的AI技术也的确走进了一个瓶颈期。实际上这在历史上早就有过了:七八十年代以专家系统为代表的符号主义AI技术就是这么退出历史舞台的。现如今,以深度学习神经网络为代表的新一代连接主义(connectionism)的AI技术,也仍然没有看到任何有可能产生通用人工智能(AGI,artificial general intelligence)的迹象,甚至连自动驾驶这种看似简单的领域都无法很好的解决。


至于上传的人类意识就能够自己扩张,飞速进化成为神灵,另一位著名科幻作家特德·姜(他写作的《你一生的故事》改编为电影《降临》)对此有一个很好的吐槽:假如将一个程序员锁在一个房间里一百万年,他就能够解决哥德巴赫猜想了?这是没有科学依据的。智能提升是一种层次上的提升,不是单纯在时间和空间上的堆砌。


从这点上来说,“奇点主义”并不是一种理性的,有坚实的科学依据的推测,而更接近于一种宗教信仰。宗教信仰往往会宣布一个“审判日”,在那之后神就会降临,赏善罚恶,带领信徒进入美丽新世界。


奇点主义同样如此:奇点来临,我们目前的世界的所有问题就都会消失。好的可能性,是那个新的奇点之神轻而易举地解决了所有这些问题;坏的可能性,则是世界毁灭,这些问题也就不再成为问题。


《万神殿》的原著是科幻作家刘宇昆写作的一系列短篇小说,这些短篇同样成文于2014至2015年,也带着那个年代还有的对于奇点,对于技术的乐观想象。当然,作为虚构作品,它不需要保证自己有科学依据,意识上传也是一个早已有之的科幻主题。更重要的是,它如何处理这个主题。


AI界有一个著名的思想实验叫“曲别针假说”:假设人类发展出了一个强人工智能,给它一个任务,就是制造曲别针,它会怎么做?最后的结局,可能是这个强AI用尽一切手段制造曲别针,最后毁灭了人类和地球,把整个地球上的物质都用来制造曲别针,然后是整个太阳系,银河系,宇宙。



这个思想实验的意思是说,想要让一个强AI理解什么是“善”是很困难的,就算是无害的目的都可能会导致非常可怕的结局。回到《万神殿》,实际上“意识上传”就是一种让AI能够理解什么是“善”的手段:虚拟意识仍然要有人的主体性,要有爱人的能力,要有羁绊。如果丧失了这种主体性,这种羁绊,那么这个新的神灵就没有必要再关心人类了。


到最后,Caspian决定将权柄交由平凡的程序员David而不是其他意识,不是因为他是能力最强的,而是他是最善良的那一位,他能够意识到这种权柄是一种可怕的东西,才不会轻易地使用它。


到了动画的最后你可能会意识到,故事并没有结束,而是刚刚开始。被凄惨地上传了意识的Chanda认为自己是一个新物种,希望能够与其他被上传的意识联合起来,打倒已经视他们为威胁或者奴隶的旧人类。


不同人类种族之间的冲突,这在历史上发生过很多次,最后的下场往往是拥有强大的新技术的种族赢了,而那些不掌握力量的种族直接灭绝——对此尼安德特人和印第安人肯定深有感触。


在虚构作品中,这种冲突也是一个很典型的主题了:比如美漫《X战警》中的变种人,或者动画高达系列的NewType。高达给出的方案是“互相理解”——大家只要能够精神交流一番,或者坐下来谈谈,矛盾就能解决了,这跟《万神殿》里说只要有爱、有感情、有羁绊,就能解决问题,似乎没有什么本质区别。


这是一种好的解决方案吗?很难说。这与上文所说,AI只有深刻地理解了“善”,才能不危害到人类,都是一种希望,用一句美国话来说,叫wishful thinking(一厢情愿的幻想)。


当然,《万神殿》毕竟只是一部动画,它不负责提供解决方案。

 

尾声.


拉拉杂杂谈了一大堆,基本上都没有对《万神殿》这部动画本身做出什么评论,在这里,我更想谈的是它所反映出来的一些时代精神(Zeitgeist):赛博朋克已死,赛博朋克万岁。


2010年代对于奇点,对于技术的乐观想象;以及我们面对很多矛盾没有任何解决办法,只能回到最基本的人与人的关系,回到一对简单的父亲和女儿的爱上来。



人类真的有这么独特,人类的爱真的有如此的重要性吗?这可未必。在这里可以联想到另一部小说,乌贼的《诡秘之主》,当非凡者接近序列的上层,他想要保持自己的人性不被神性吞噬,就必须要有一个“锚”,这个“锚”就是他和平凡的普通大众之间的纽带。


人类或许并不那么独特,但是我们毕竟是人,也只是人。


往期回顾

好久没看到这样极致的残酷与浪漫

《爱死机》第三季了,越看越空虚


图:《万神殿》

撰文:思故渊

编辑:苏小七

监制:猫爷


转载请微信后台回复“转载”
商业合作或投稿xingyj@vistopia.com.cn

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存