大分离
2018-03-02 20:00:00
今日领读要点:如果科学发现和科技发展将人类分为两类,一类是绝大多数无用的普通人,另一类是一小部分经过升级的超人类,又或者各种事情的决定权已经完全从人类手中转移到具备高度智能的算法,在这两种情况下,自由主义都将崩溃。
大分离
17:00

编者   |    东篱

 主播  |  沈小树

音频.gif

9.gif

「 这 是 好 书 共 读 陪 你 共 读 的 第 46 本 书 」


亲爱的好书共读栏目书友们。很高兴遇见你。


昨天的共读里,我们简单回顾了近来的科学发现对自由主义哲学有何伤害,今天我们则接着来审视这些发现对实际生活有何影响。


下面开始今天的共读:第9章 大分离

本次推荐阅读时间为20分钟左右,覆盖原书的第275页到第316页。



大分离


自由主义推崇自由市场和民主选举,是因为自由主义相信每个人都独一无二、各有价值,而且每个人的自由选择就是权威的本源。但在21世纪,有三项“务实”的发展,可能会让这种信念成为明日黄花:


1.人类将会失去在经济和军事上的用途,因此经济和政治制度将不再继续认同人类有太多价值。


2.社会系统仍然认为人类整体有其价值,但个人则无价值。


3.社会系统仍然会认为某些独特的个人有其价值,但这些人会是一群超人类的精英阶层,而不是一般大众。


让我们仔细审视这三个威胁。


第一,科技发展将使人类不再具备经济和军事上的用途:这一点虽然不会从哲学层面推翻自由主义,但在实际生活中,很难想象民主制度、自由市场和其他自由主义制度如何能承受这记打击。


到了21世纪,不论男女,大多数人都可能不再具有军事和经济上的价值。两次世界大战投入大量人力的时代已经过去,21世纪最先进的军队,主要靠的是尖端科技。


经济领域也有相同情形,能够举起锤子或按下按钮的能力已经不如以往有价值。这也就危害了自由主义和资本主义之间重要的合作关系。


到了21世纪,自由主义的影响力将会大不如前。随着大众在经济上不再重要,仅靠伦理道德,是否足以保护人权和自由?无法从中获得经济利益后,精英阶层和政府还会认定每个人都有价值吗?一场重大革命一触即发。“智能”即将开始与“意识”脱钩,人类因此面临失去经济价值的危险。


智能和意识,究竟哪个才真正重要?在两者仍然携手同行时,讨论两者的价值孰高孰低,大概只会是哲学家的有趣消遣。但在21世纪,这正成为一个急迫的政治和经济问题。至少对军队和企业来说,答案再简单不过:智能是必要的,但意识可有可无。


举例来说,如果是有血肉之躯的出租车司机,个人有意识的体验绝对比毫无感觉的自动驾驶汽车丰富。出租车司机可以一边在首尔繁忙的街道上开车,一边享受音乐。他抬头望见星空,思考着宇宙的奥秘,内心因敬畏豁然开朗。而看到自己的小宝宝跨出第一步,他的眼睛也可能充满喜悦的泪水。只不过,这一切都不是社会系统需要出租车司机具备的特质。社会系统需要的只是把人从A点运到B点,而且要最快、最安全、成本最低。就这一点而言,自动驾驶汽车很快就能做得比人类司机更好,就算它不能享受音乐,也不会因为存在的奥秘而深感敬畏,又有什么关系呢?


21世纪经济学最重要的问题,可能就是多余的人能有什么功用。一旦拥有高度智能而本身没有意识的算法接手几乎一切工作,而且能比有意识的人类做得更好时,人类还能做什么?


确实,目前还有许多事情是有机算法比非有机算法做得更好,也有专家反复声称,有些事情非有机算法“永远”都无法做到。但事实证明,通常这里的“永远”都不超过一二十年。


那么,人要做什么呢?常有人说,艺术是我们最终的圣殿(而且是人类独有的)。等到计算机取代了医生、司机、教师甚至地主和房东时,会不会所有人都成为艺术家?然而,并没有理由让人相信艺术创作是片能完全不受算法影响的净土。人类是哪来的信心,认为计算机谱曲永远无法超越人类?


戴维·柯普是加州大学圣克鲁兹分校的音乐学教授,也是古典音乐界极具争议的人物。柯普写了一些计算机程序,能够谱出协奏曲、合唱曲、交响乐和歌剧。他写出的第一个程序名为EMI,专门模仿巴赫的风格。


EMI成功之后,柯普又继续写出了更复杂的新程序:安妮(Annie)。EMI谱曲是根据预定的规则,而安妮则是基于机器学习,会随着外界新的音乐输入,不断变化发展音乐风格。就连柯普也不知道安妮接下来会谱出什么作品。


由于我们无法预知2030年或2040年的就业形势,现在也就不知道该如何教育下一代。等到孩子长到40岁,他们在学校学的一切知识可能都已经过时。传统上,人生主要分为两大时期:学习期,再加上之后的工作期。但这种传统模式很快就会彻底过时,想要不被淘汰只有一条路:一辈子不断学习,不断打造全新的自己。只不过,许多人,甚至是大多数人,大概都做不到这一点。


尼克·伯斯特隆姆等专家和思想家就提出警告,认为人类大概还承受不住这样的退化,因为一旦人工智能超越人类智能,可能就会直接消灭人类。人工智能这么做的理由,一是可能担心人类反扑、拔掉它的插头,二是要追求某种我们现在还难以想象的目标。毕竟,等到整个人工智能系统比人类更聪明时,要再控制系统动机,实在有如天方夜谭。


自由主义面临的第二个威胁:社会系统未来可能仍然需要人类,但并不需要个人。人类还是会继续写音乐、教物理、做投资,但社会系统会比他们更了解他们自己,也会为他们做大多数重要决定。也就是说,社会系统将会剥夺个人的权威和自由。


在19世纪和20世纪,由于没有任何外部算法能够有效监测个人,因此个人主义仍然是一种很实用的选择。虽然国家和市场可能都很想做到这一点,但当时缺少必要的科技。不论是克格勃还是美国联邦调查局都无法完全掌握我的生物特征、基因组和大脑,而且就算特工偷听我每次打的电话、监视我在街头和其他人的每次互动,也没有足够的运算能力来分析这些数据。因此就20世纪的科技而言,自由主义说得并没错,没有人能比我更了解我自己。于是,人类有充分的理由认为自己是个自主的系统,听从的是自己内在的声音,而不是什么权威的命令。


但到了21世纪,科技已经让外部算法有能力“比我更了解我自己”。一旦如此,个人主义就即将崩溃,权威也将从个人转向由算法构成的网络。人类不会再认为自己是自主的个体,不再依据自己的期望度日,而是习惯把人类整体看作一种生化机制的集合体,由电子算法网络实时监测和指挥。要发生这种情况,算法甚至不需要能够完全了解我而且绝不出错,只要比我自己更了解我、犯的错更少,就已足够。到了这个程度,合理的做法就是把越来越多的选择和人生大事都交给算法来为我做决定。


我们就必须改变想法,不要认为人类都是不可分割的个体,不要坚信每个人都有自由意志,能决定什么是好、什么是美、什么是生命的意义。从以前到现在,人类都是自主实体,由叙事自我叙写的故事所操纵。但在未来,每个人都将会是整个巨型全球网络的一部分。


自由主义将叙事自我奉为圭臬,不论在投票站、超市还是婚姻中,都让叙事自我来做决定。最近几个世纪以来,这种做法很有道理,因为虽然叙事自我相信的常常是各种虚构和幻想的故事,但我们确实没有更好的替代方案。然而,一旦有了能够替代的系统,真正比叙事自我更了解我们自己,这时再把权力留在叙事自我的手中,就只能说是愚蠢的做法。


自由主义面临的第三个威胁在于:有些人仍然会不可或缺,算法系统也难以了解,而且会形成一个人数极少的特权精英阶层,由升级后的人类组成。这些超人类将会拥有前所未有的能力及创造力,让他们能够做出许多世上最重要的决定。他们会为算法系统执行关键的服务,而算法系统既无法了解也无法管控这些人。然而,大多数人并不会升级,于是也就成了一种新的低等阶级,同时受到计算机算法和新兴的超人类的控制主导。


纵观历史,富人享有许多社会和政治优势,但和穷人之间从未出现真正重大的生物差距。中世纪贵族曾号称自己的血管里流着高贵的蓝色血液,印度婆罗门也坚称自己比其他种姓更聪明,但这一切都只是胡说。然而在未来,我们可能真的会看到这一天,在升级后的上层阶级与其他社会阶级之间,其身体和认知能力真正出现重大差距。


面对这种情境,科学家的标准答案是:20世纪也有许多医疗突破是从富人开始,但最后全体人类都同样受益,所以其实是有助于缩小而非扩大社会差距。举例来说,疫苗和抗生素最早只有西方国家的上层阶级能够享有,但现在它们改善了全球所有人的生活。


但要希望这种过程在21世纪重演,可能只是一厢情愿。原因有二:


第一,医学的概念正在经历巨大变革。20世纪的医学旨在治愈病人,但21世纪的医学则逐渐走向要让健康的人再升级。

第二,就算会有许多医疗突破,我们仍然无法肯定穷人到了2070年一定能享有比今天更好的医疗保健,因为国家体制和精英阶层可能根本不想再为穷人提供医疗保健。


在20世纪,因为穷人有军事和经济价值,精英阶层必须为穷人解决问题;但到了21世纪,精英阶层最有效(虽然十分无情)的策略,很可能是干脆切断百无一用的三等车厢,只让头等车厢继续前进。


人类在20世纪的伟大成就:克服饥荒、瘟疫和战争,都是为了让所有人享有富足、健康与和平。至于21世纪的新议题:获得永生、幸福快乐、化身为神,也同样希望为全人类服务。然而,由于这些计划的目的在于超越而非维持基本要求,最后就可能创造出新的超人类阶级,砍断自由主义本源;超人类看待一般人,就会像是19世纪欧洲人看待非洲人的情况。


如果科学发现和科技发展将人类分为两类,一类是绝大多数无用的普通人,另一类是一小部分经过升级的超人类,又或者各种事情的决定权已经完全从人类手中转移到具备高度智能的算法,在这两种情况下,自由主义都将崩溃。什么样的新宗教或意识形态,能够填补这样的缺口,并且指导我们如神一般的后代?

编辑:小书

书友们记得签到打卡

坚持阅读,遇见更好的自己



好书共读-进阶.jpg
09

今天你读书了吗?

今天阅读后你收获了什么?

又想要有怎样的进步?

建议将自己的阅读心得分享至下方【随笔区】

想要提高看书效率?

加入我们,成为好书共读进阶成员。

每周分享一份思考后写下的200字读书笔记

坚持必有进步,期待遇见更好的你。


The more you read, the more chance


50
未来简史
作者:(以色列)尤瓦尔·赫拉利|译者:林俊宏
热门随笔
show popup