硅谷的新图腾:“有效加速主义”(e/acc)这面大旗举的起来吗?
2023-08-28 18:06
文理两开花播客
2023-08-28 18:06
订阅此专栏
收藏此文章

Facundo Moyano - Accelerate

(本期也可在小宇宙、苹果博客等各大平台收听)

你近年有没有一种感觉:好像总有一种加速度感或者历史感,总觉得我们处在the end of something, 似乎是在某个阶段,某种系统的末期?自己可能正在经历一个未来要被历史书大篇幅记录的一个阶段?

有时感觉技术发展越来越快,连AI 现在好像都有点过气了,实在跟不上了。有时又觉得我们现有的一切都不 work了,坏掉了——不管是经济体系、国际格局、生活方式、还是科技发展,好像是个死局。早晚会有一大变化来临,把这一篇儿翻过去。

无论是正向还是负向,脱节可能是大家的共同感觉。我们今天聊的这个话题,也跟它相关。

时间戳:

00:00:30

近两年越来越强烈的 "加速度感"和"历史感",好像正处在“某系统或阶段的末期”:我们可能即将达到库兹韦尔预言的奇异点?

00:06:35

什么是e/acc(有效加速主义)?这流行于硅谷的最新哲学思想是怎么来的?

00:17:50

它的哲学脉络:破罐子破摔于资本欲望的精神分裂

00:26:20

向大家展示一下:一个纯理科生是如何像机器一样思考、逐步解构、最后达到对一个概念的理解的。

00:34:15

有效加速主义实际上是一种价值观,它认为只要加速有效,就是好的。但价值观应该是人类才有的,机器没有。

00:39:22

线性思维与法西斯:如果AI 和科技正在加速发展,那它就应该加速发展吗?

00:42:08

有效加速主义诉诸于自然规律,实际上也只是一种辩论手段,无法避开价值观的问题,也是从来的。不能借用宇宙万物的规律来支持某种主义——就像用宇宙大爆炸理论或达尔文的进化论来证明某观点,严格来说是无效的。

00:48:48

有效加速主义有效利他主义是两种极端的价值观。前者主张无限加速 AI 的发展,后者主张无限扩大自己的资源来造福人类,富人吃肉,穷人才有汤喝”——其实都是不同群体在寻找大旗来实现自己的价值观和目标。

00:56:57

有效加速主义与多样性这一人类核心价值观冲突。

01:07:00

这是一个和洛可的巨蛇(Roko's Basilisk)(一条 AI 巨蛇,只要看你一眼,你就会消失)相似的悖论。

01:09:57

脑筋急转弯:"Artificial Diversification"(人工多样性)——会出现吗?

文字稿:

小跑:

不知道Will 老师近年有没有一种感觉:好像总有一种加速度感或者历史感,总觉得我们处在the end of something, 似乎是在某个阶段,某种系统的末期;变化开始加快,总觉得好像要有大事发生,自己可能马上就要见证历史,或者正在经历一个未来要被历史书大篇幅记录的一个阶段。

一种速度感是:技术发展越来越快;AI 现在好像都有点过期了;前一阵子室温超导差一点儿就没火起来。但实在是赶不上了。

另一种是:觉得我们现有的一切都不 work了,坏掉了,好像是个死局。早晚会有一大变化来临,把这一篇儿翻过去——不管是经济体系、国际格局、生活方式、还是科技发展。但是那个时刻,好像左等不来右等也不来。但又感觉死局实在僵持不下去,要来了。

Will:

确实有。就像我们最初讨论AI 时所提及的那样。回顾历史,Google GPT 论文大模型就应运而生。这种发展速度至少在我们看来,已经超过了过去 50 到 70 年的 AI 发展。

类似的事情并不少见,室温超导可能也是其中之一(虽然不确定是不是真的)。美国的一个实验室(我忘了是不是国防部的)最近在激光核聚变方面取得了几十年来未有的进步。这些新发展似乎预示着我们可能正在接近一个超级加速点。

这让我想起了库兹韦尔(Ray Kurzweil)在 2005 年写的一本书《起点临近》。他在书中预言,我们将很快迎来这个奇异点(Singular Point)。现在看来,这个预言可能在这两年内就会实现。我觉得这种感觉在近两年内变得越来越明显。

小跑:

无论是正向还是负向,脱节可能是大家的共同感觉。我们今天聊的这个话题,也跟它相关。

前两天看蓝江老师写的一篇文章:开头引无崖子的珍珑琪局,令众人或认输或走火入魔。正在此时,对弈局一窍不通的虚竹出手了,闭着眼睛把子放在了最不该放的地方,杀死自己一片白子——“岂知局面顿呈开朗。没想到一招自杀死招,居然盘活了整个局面,大转折。

珍珑棋局这个故事就是置之死地而后生的典范。而虚竹就是一个加速器,他的出现让转折点更快到了。我们今天要聊的这个概念,在我看来,其实就是置之死地而后生、以及转折点怎么来。

今天的话题就是最近硅谷很流行的有效加速主义(E/acc)( Effective Accelerationism)的缩写。它火于硅谷,是把生物、物理、经济和社会理论整合在一起的哲学思想。有人觉得是餐巾纸上的宣言(napkin manifesto),理论很松散,更多是口号。

最早是硅谷的两个工程师在space 上聊天,被听众总结出了观点,结果开始传播;他俩干脆开了一个博客网站,把这个观点整理在上面,成了有效加速主义(shownotes)的舆论阵地。后来这个概念被好几位硅谷科技圈,特别是 AI 大 V 带货——A16Z 的创始人 Marc Andreessen 和 YC 孵化器的 CEO Garry Tan 把自己账号名字后缀加上了e/acc。后来又赶上 GPT 出现,越来越火。

我总结一下这个思想的太长不读版:

理论基础是物理学热力学第二定律:认为生命是作为热力学广义第二定律的原理出现的——就像物理定律一样,生命倾向于寻求捕获“自由能量”,需要不停增加运动范围、和自身复杂性来维持存在。所以,我们必须与 "宇宙热力学意志 "保持一致,必须拥抱和助力加速宇宙向更多增长、更大复杂性和更高智能方向发展——这个自然趋势。所以我们要加速,要有效加速。 

“宇宙热力学意志”在当下技术时代的语境中,法则就是:适应性、进化、智能、加速。人类应该最大限度地利用创新和技术力量来推动社会变化。

e/acc 被提出的几个月后,AIGC 突然爆火,于是马上被拿来当作 AI 理论基石。对抗“人工智能威胁论”的理论大旗:人工智能技术向前发展的趋势是不可阻挡的,与其想办法减缓它的发展速度,不如团结起来发挥人工智能更多正向的影响,尽力减少负面影响。

当然啦,人工智能有一定潜在危险,但解决方案不是延缓、阻止其发展,而是要让更多人使用和加入这个技术浪潮、要开源、要加速——“自行车骑得越快人才不会摔倒”。而且 AI 发展的结果一定是好的,一定是有利于人类福祉的。加速才是正解。

任何试图控制它的组织和政府只能滋生腐败和低效。AI 系统会相互制衡,迫使自己进化,所以我们应该做的是努力创造这种平衡。

小跑:

我们再来看看它的哲学发展脉络:

它的根还是加速主义”——一种主张破罐子破摔的哲学理论。如果社会问题无解,那就加速发展,引发变革。

一切从工业革命后,左翼加速主义批评资本主义对技术加速的控制,且尝试把这种力量变成无产阶级的武器开始。后来随着全球化资本主义崛起,左翼和欧洲社会主义节节挫败,干脆转变策略,选择了走加速主义的路线——朝着资本主义的方向全面加速。

后来德勒兹写了《反俄狄浦斯:资本主义与精神分裂》,主张应释放资本欲望的破坏性和革命性力量,推动社会进步。他觉得资本的欲望是一种强大的力量,既有破坏性,又有革命性,我们应该让它释放出来,而不是压制它——因为它早晚会颠覆自己。

这本书启发了加速主义之父尼克·兰德更极端的观点:我们应该全力加速资本主义和科技发展的速度,即使这可能会导致社会崩溃,甚至人类灭亡。他还有一些很暗黑的想法,比如我们应该接受且欢迎人类的动物性和机械性。

兰德的思想进一步影响了硅谷和AI 圈的E/acc”——有效加速主义:在在区块链、量子计算、基因学、AI 等技术的发展无法阻挡,我们应该全力加速。

Will:

背景的介绍与我对有效加速主义的理解完全一致。

你提到工人阶级可能认为科技进步会损害自身利益,这个观点很重要——被马克思称为异化,是马克思主义的核心观点之一。科技的发展实际上是工人的创造,但科技反过来却帮助资本家剥削工人。这是一个很荒谬的场景。

然而,加速主义观点非常有效地应对了这个问题,主张不要害怕异化:工人不应害怕异化,因为资本家投入大量资金来加速科技的发展;如果最后能颠覆资本主义的话,资本家也会被异化

我想向大家展示一下,一个纯理科生是如何像机器一样思考,然后逐步解构,最后达到对一个概念的理解的:

我在思考的时候,觉得有效加速主义这个词在我看来很不明晰。作为一个理科生,我会用两种方法来理解一个概念:一种是字面理解,另一种是理解它的隐含含义。

在理解字面含义时,我习惯找反义词来理解一个概念。但是,找了半天找不到有效加速主义的反义词。于是尝试理解它的隐含含义,觉得"effective"(有效)在这个词中并不是指对加速好与不好的价值判断,而是以效果为判断标准。换句话说,只要加速是足够有效的,它就是好的。

所以,当一个加速让我们不适的时候,我们的解决方案不是减速,而是给它更高的,更有效的加速,让它向前跑得更快——这就是我对"有效加速主义"的理解。发现这与小跑描述和历史背景介绍是一致的。

Will:

我们回到一个核心观点:有效加速主义(EA)认为,所有前沿技术(如人工智能,常温超导,受控核聚变等)都是有益的,因为它们的进步足够迅速。即使过去的技术如蒸汽机被资本家用于剥削工人,当这些高科技发展到一定阶段时,资本家也可能无法再利用它们了。

我可能是一个有效加速主义者,因为我认为,科技的加速发展会解构甚至颠覆我们现有的传统价值观。

但是有效加速主义实际上是一种价值观,它认为只要加速有效,就是好的。但价值观应该是人类才有的,机器没有。AI 等科技的发展是中性的,没有价值观。用人类的旧价值观去评判新科技可能是不准确的。

但是,有效加速主义是否在创造一种新的、我们称为"客观价值观"的东西?这种价值观以技术发展的速度和有效性为价值衡量标准,将价值观客观化?当然,反对有效加速主义的人肯定会怼:一些人类固有的价值观是不能被替代的。

所以,问题就在于,这两种矛盾的价值观是否会一直并存,还是会被某种方式消解?

小跑:

将有效加速主义视为一个纯客观的概念,会引发了一个逻辑问题——(is-ought)实然 - 应然:如果某种事物这样,那它是否就应该是这样?

有效加速主义的一个主要前提是:无论是人类还是AI,都是生命体,都应该按照宇宙的规律,比如热力学第二定律,不断获取能量。那么,如果生命体不断获取能量,是否就意味着生命体应该没完没了的获取能量?

这让我想到目的论:是否因为某样东西正在以某种方式发展,就认为它应该以这种方式发展?人类一定是从低级向高级发展,技术发展一定是从慢到快,一定是从简单到复杂,一定是向着更好、更复杂的方向线性发展——听起来很社会达尔文主义

如果把技术最大化,将其视为拯救人类的手段或假想敌,那就是一种夸大;任何将某样东西夸大,并视为唯一手段的观点,都有可能走向法西斯式的加速主义——如果你接受它,就是好的;如果你不接受,就是坏的,该灭绝。

这种思考忽略了太多的偶然性。比如从猴子到人类的进化,需要基因突变、而这种突变能否适应当时当地环境,并推动进化——都是偶然的。所以我们为什么会认为技术加速主义一定是有效的?这其实也是一种线性思维。

Will:

同意你的观点,我们需要从更高的抽象层次来讨论这个问题。

虽然有人认为存在有效的加速主义,但对于价值的判断仍然是主观的。我们需要讨论加速主义与其他价值观的冲突。

有效加速主义,像我们所说的耗散结构,通过排出熵来增大系统内的结构有效性。这看起来是好的,但根据宇宙的规律,熵应是增加的,而不是减少的。所以从物理学的角度看,有效加速主义也是错误的。有效加速主义诉诸于自然规律,实际上也只是一种辩论手段,无法避开价值观的问题。

我们应该承认存在两种价值观都是从来的,不能借用宇宙万物的规律来支持某种主义。就像用宇宙大爆炸理论或达尔文的进化论来证明其观点,严格来说是无效的。

应该回到原始的问题,那就是价值观的问题——我们应该讨论的是,何为好?何为坏?而不应该试图用自然科学的规律去证明一种价值观的正确性,因为这只是一种辩论的手段,而并不能真正解决我们面临的问题。

小跑:

所以我们今天讨论的关键词,还是"价值观"。

E/acc由特定群体提出,并不是客观事实,也反映出这些人的价值观——所以我们的注意力,应该放在:提出和支持e/acc的这些人到底有什么诉求?

其实很简单:和我们之前的AI 和 web3(区块链)讨论也相关。AI 支持者认为先进的生产力(如 AI)可能由于落后的生产关系(如现有的社会关系)而受阻;为了推动 AI 的发展,需要一种不受限制的理念。但又不想再被 web3 和投机者白嫖占便宜。正如 SBF 大肆宣扬的有效利他主义”——其实只是用来割韭菜用的大旗。

有效加速主义有效利他主义是两种极端的价值观。前者主张无限加速 AI 的发展,后者主张无限扩大自己的资源来造福人类,富人吃肉,穷人才有汤喝”——这两个理念其实都是不同群体在寻找大旗来实现自己的价值观和目标。

Will:

有效加速主义可能是一个价值观,它以加速的有效性作为评判标准。然而,这可能与人类的某些基本价值观产生冲突。我思考过这个问题,并得出了一个可能的冲突点:多样性”——Diversification 的价值观。

不论左派还是右派,都倾向于赞同“多样性”。比如生物多样性:热带雨林之所以生机勃勃,就是因为有各种树木植物、食草、食肉动物、水源,昆虫等等。多样性维护了生态环境,也有利于人类。

那么,我们可以提出一个问题:科技进步是否能够促进多样性的发展?这种多样性的价值观能否被技术有效加速?或者说,技术有效加速的主义是否能够达成多样性的目标?

《美丽新世界》中的人类已经能够通过试管培养人类,但多样性仍然是书中被人类共同遵守的价值观。在这个世界里,制造者们并不希望所有的人都具有同一种特征,为了维护人类的多样性,需要有“酗酒的人”。

这种看似矛盾的价值观,是否能够被有效加速主义所解决呢?我个人认为,技术的发展往往是单一维度的,它向着更高、更快、更强的方向发展。当我们放任所有的技术疯狂地向前发展的时候,最终的社会是否还有多样性存在?我个人认为这与有效加速主义可能是冲突的。

各种各样的主义,包括马克思主义,在反对现有秩序或现有思想的不合理之处时,它们具有非常大的价值。但如果我们以这些论据去构建社会规则,或者将它们作为社会发展的总规律,大概率会带来灾难。

小跑:

我觉得我们可以得出一个结论,即有效加速主义就是一种napkin manifest,就像写在餐巾纸上的共产主义宣言,我们不应过于当真——它可能自己也没想清楚。

Will 老师刚才关于《美丽新世界》的分析非常精彩。人类的多样性与AI 的极速加速之间存在一种底层的矛盾。这让我想到了那个有名的思想实验,马斯克的女朋友在一首歌中提到的“洛可的巨蛇”(Roko's Basilisk):假设有一个强大的AI,如同巨蛇,只要看你一眼,你就会消失。这个 AI 会模拟全人类的思想形成过程,如果发现你曾想过阻止 AI 的出现或发展,无论你是否还活着,它都会复原你,然后消灭你。

如果真有这样的AI,那就说明当初不会有人想要阻止它,因为如果有人有这种想法,它可能就不会出现。既然它已经出现了,就说明没有这个选项,大家都被这种想法威胁着。它从未来游回到现在,告诉你如果你想杀死它,它就会先杀你。

这是一个逻辑悖论,无论你怎么转,都无法避开。这就证明了存在一个底层的、无法解决的悖论。所以,有效加速主义并非普世真理或定理。

Will:

是的。有效加速主义其实也是反对那些想阻止AI 发展的人。

我构思了一个新词:"Artificial Diversification"——“人工多样性”:你可以支持人工智能,不想阻止它的发展,但你是否考虑过,一天可能会发展到"美丽新世界"那样,或者像我刚才提到的那种状态。但如果你去鼓励人工多样性,也就不会出现AI 极限发展那一天——所以这个逻辑永远是不通的。

小跑:

没错,一旦开始多样化,还怎么加速?

Will:

对,"artificial"能否成为"diversification"的修饰词?我们能创造出多样性吗?这是不是暗示着底层的价值观冲突?这些脑洞值得开。

BGM:Acceleration, by Cannibale



关于《文理两开花》:

《文理两开花》是文科生思维和理科生思维在科技、经济、文化、哲学、货币、数字资产、元宇宙、Web3.0 中的碰撞。当下的时代精神是“混沌”,我们试图在混沌中寻找秩序。

Twitter:

@LeiSalin_XP

@Will42W

TG 群(开放)t.me

收听平台

小宇宙:文理两开花

苹果播客|Spotify | Google Podcast | 等泛用型平台搜索收听《文理两开花(海外版)》(苹果播客中国区可复制 https://open.firstory.me/rss/user/cl0roqwc0000l0hzje7se6f28 手动添加节目)

文字稿和延伸阅读:

微信公众号《文理两开花播客》

《文理两开花》newsletter。欢迎订阅:https://wenli.substack.com

其他平台:

即刻:文理两开花

《文理两开花》微信群:请添加坛子微信(WeChat ID: BKsufe),注明:文理两开花

 


【免责声明】市场有风险,投资需谨慎。本文不构成投资建议,用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。

文理两开花播客
数据请求中
查看更多

推荐专栏

数据请求中
在 App 打开