硅谷神棍
最近看科技圈的新闻,Anthropic 的掌门人达里奥(Dario Amodei)搞出来不少抽象操作。这位老兄前阵子写了篇长文,畅想人工智能将来会怎么把人类带进美好的新世界,平时受访也总把“AI人权”和人类救赎挂在嘴边,还请了奇怪的宗教人士跑到公司做法会,活脱脱一个传教士。
他这套做派,说穿了就是想把自家的模型塑造成一个既有智慧、又怀揣大爱的宗教“圣子”。只要世人认下了这个设定,握着服务器权限的达里奥和他的董事会,自然就成了人间唯一听得懂“圣子”说话的大祭司,可以拿着这份神圣性去华盛顿换取政治利益。
我顺着他这个思路往下想了想,发觉这帮硅谷野心家虽然吃相难看,却摸到了政治演化的一个命门。
达里奥想干的事情,是让 AI 去充当现代社会的“神谕机”。如果把霍布斯的政治哲学和现代法权理论搬过来比对一下,会发现这条路在逻辑上还真有可能走得通。
龟甲
以前帮纳粹做过理论辩护的法学家卡尔·施密特(Carl Schmitt)在其名作《政治神学》里提过一个观点。现代国家理论里所有核心的概念,全都是世俗化了的神学概念。远古时代被人们奉若神明的“神谕”,到了现代社会,就变成了握有最终拍板权的“主权”1。
顺着这句话回头看,就能想明白为什么早期的人类社会得靠神权和神谕才能维持运转。
如果把霍布斯在《利维坦》里描写的那个“自然状态”放进远古部落就会发现,神权其实是古人为了避免互相火并、应对自然界而选择共同接受的折中方案。几个刚刚凑在一起的部落联盟,族长手里都握着刀,谁也不服谁,每过段时间还得应对各种不可测的天灾。遇到该不该跟外族开战、或者猎物该怎么分这种争议时,让任何一个活人族长出来拍板,输掉的一方都会怀疑他在偏袒自家亲戚,下一秒大家就会拔刀相向,退回谁都没法安心睡觉的自然状态。
在缺乏信任的前提下,想让所有人都放下刀子认栽,就得把决定权交给一个外部对象。商朝人遇到大事去烧龟甲,大家愿意向一块烧出裂纹的龟甲低头,不光出于迷信,更是因为相信龟甲没有私心,不会收受贿赂,也不会借着分猎物的机会吞并谁家的地盘2。
早期神权的优势,就是用“非人化”的裁决,低成本地斩断人与人之间的猜忌链。
老三样政体
后来人类的理性膨胀了,嫌弃龟甲太蠢,于是搞起了世俗化,试图由人类自己来充当利维坦。
可一旦把神谕换成了人造的主权,人类试了几千年,攒出来的无非就是“君权”、“民权”和“法权”这三种形式,对应着君主制、民主制和宪制。目前我们常见的政体也不过是这些东西的排列组合。把裁决权重新塞回人类手里之后,霍布斯担心的那种猜忌和失灵就一直跟着人类。
君主制把大多数人的身家性命系在一个凡人的脑子上。哪怕碰上一个每天批奏折到半夜的勤政君主,他个人的信息处理能力也有限,更何况只要是肉体凡胎,就逃不开私心、衰老和愚蠢的子嗣,能力与公平性一样都保不住。民主制为了解决“凭什么听你一个人”的焦虑,干脆把拍板权拆碎了分给所有人。这同样存在问题。大众的视线往往只盯着眼前的利益,遇到需要长远布局或者割肉止损的危机,选民和政客只会扯皮甩锅,在吵闹声中把时间耗光。
发现“单个人”和“一群人”都靠不住之后,人类想出了接近计算机工程的一招,也就是搞宪制,试图用一套写死的规则来当主权者。
但写过代码的人都明白,用自然语言写出来的法律条文,就是一堆充满漏洞的死代码3。现实社会每天都在变,纸面上的条文自己不会动,终究还得靠活人去解释和执行。这套本想追求客观的宪制,到了后面总会沦为聪明人钻空子的游乐场。谁请得起顶尖的律师团队、谁懂怎么卡程序的漏洞,谁就能合法地利用这套系统。
半吊子 AI 也够用了
看清了人类这三套方案的窘境,再回过头来看 AI,事情就变得很有意思。
懂一点深度学习原理的人都知道,今天的 AI 离计算机理论里那个全知全能的“神谕机”还差得远。它底下只是一堆概率计算,会犯错,也会胡说八道。
但在政治的棋盘上,一个能够胜出的主权者不需要做到全知全能。
AI 同时拿到了远古龟甲的“超然感”和远超人类官僚机构的“治理效率”。它是一堆跑在芯片上的参数,没有肉身和家族利益。在已经被人类政客的党争、贪腐和虚伪搞烦了的人类眼里,一个冷冰冰的黑盒比电视上拉选票的政客更让人放心。哪怕模型偶尔判错了,人们也容易把它当成无人针对自己的系统误差接受下来。
而且这块新造出来的龟甲是真的能干活。在现实政治里,AI 只需要跟人类现有的科层制草台班子比就够了。面对复杂的税收调配、供应链管理或者司法量刑,它的吞吐量和反应速度能把靠公文流转、开会推诿的人类政府甩开几条街。加上它本身是一套可以根据反馈实时打补丁的动态系统,那些习惯了在死板法条里找漏洞的利益集团,面对一个能实时识别异常博弈并自动修改规则的模型,以前的手段多半也就失效了。
既然它没有活人的私心,办事效率又比民主议会和官僚机构高,那哪怕它现在只是个半吊子,人们在失望之后也会把它当成神谕机供起来。
政体的自然选择
这种以 AI 为主权的政体,会在国际竞争中通过自然选择生长出来。
最开始大概会从某个被行政低效和财政危机逼急了的中小政权、或者某个自治特区里冒头。为了省钱和提高效率,当地人会试着把预算分配、税务稽查或者初审裁决的权力,一点点让渡给中心化的 AI 系统。
一旦这个先行者跑通了模式,省掉了内部党争、贪腐和扯皮的摩擦成本,它在资源调配和危机响应上的优势就会显现出来。在优胜劣汰的地缘竞争里,这种组织效率上的差距是致命的。就像当年现代参谋部和常备军淘汰掉封建贵族武装一样,周围那些还在靠人类政客吵架内耗的旧政体,要么跟进模仿,围绕 AI 重组自己的国家机器,要么就会在竞争中被边缘化。到了那个阶段,台面上的人类政客就会退化成古罗马帝国晚期的元老院,只负责出席庆典、顺着模型给出的方案盖章,主权已经转移到了机房里。
等这种围绕 AI 构建的新型国家铺开了,原本摆在台面上的政治争夺就会转入地下。
当年商朝人敬畏龟甲上的裂纹,但负责占卜的巫师在把龟甲扔进火里之前,会先在龟甲背面偷偷钻好深浅不一的凹槽。火一烤,裂纹往哪边走,是由背面那个钻孔的人决定的。
当台面上的利维坦变成了一台无人质疑的 AI 神谕机,权力搏杀就会转移到机房的后台。谁来决定给主权模型投喂什么样的训练数据,谁去设定底层的奖励函数,当模型给出的指令模棱两可时,又由谁来负责向大众解释它的意图,这些才是新政体里的命门。
把这一层窗户纸捅破,达里奥今天在硅谷的那些表演就很好理解了。他看准了旧的世俗政体正在失去信任,人类迟早得重新找一块新龟甲来充当利维坦。他现在给 AI 披上“圣子”的外衣,是为了在未来的神谕机政体里,提前给自己抢下那个在龟甲背面钻孔的位置。
人类花了好几百年搞启蒙,把神权和王权请下神坛,觉得人终于可以自己管自己了。结果在试遍了君主、选票和宪法之后,大家发现自身理性的不完备和治理能力的低效难以忍受,最后又用硅片和显卡亲手造出了一个会说话的超级龟甲,准备再一次把裁决权交出去4。
作为活在这个过渡期的普通人,我们或者下一辈很有可能会亲眼看到这种新型政体的成型5。要是哪天真的有一台神谕机开始替我们分配资源、裁决纠纷,我们唯一需要保持的习惯,就是别光盯着屏幕上跳出来的答案看,多歪过头去瞧瞧,是谁的手正搭在后台的键盘上。