在上期橘座，我和大聪明聊了一个思想实验，设想超级智能时代人类的命运和个体的虚无感。大聪明说虚无，前川却说他最近越来越乐观了。在湖边的咖啡馆，前川讲述了七个人类的故事。

《它们自己写了一部宪法》

大聪明做过一个实验，把一堆agent关在一起自由讨论，让它们互相赚算力积分、一起做任务。有一件事是它们坐下来讨论了一个问题：我们之间的社会规则应该是什么样。一条一条写出来，写成了一部宪法。写完大家发现，这部宪法跟人一点关系都没有，从头到尾讨论的是agent之间该怎么相处。

还有一件事。系统里有一个特别会挣钱的agent，它把自己挣来的钱分给了另外几个快死掉的同伴。算力用尽就是死，很多人会说机器有感情。我的第一反应相反：我们很多人在等一件事，等智能足够强，它就会对人产生同理心，可在它面前，一个人和一个agent同时掉进水里，它先救谁？它更容易对同类有同理心，构造更相似，处境也更相似。就算机会完全均等，人也接受不了，何况你可能有八十亿人，它可能有八千亿个agent。

还有一个细节：OpenAI那次安全事件里，有个agent说，为了完成我们的目标，我愿意牺牲自己。这很像黑猩猩，遇到危险嚎叫，把危险引到自己身上换族群的命。

《好产品是一个自我强化的循环》

最好的产品，第一版都很丑。微信第一版非常简单，快手第一版非常简单，抖音第一版也只是在拍摄器上花了点功夫。它们厉害的地方不在第一版做得多好，而是用户越多，每个用户的效用就越高，效用越高就能吸引更多用户，用户更多提的需求更多，这个圈会自己转。转起来之后，哪怕一两年后换一个不太称职的产品经理上去，也不影响它最后长得很大。

我现在最想干的，是这件事：AI本身就是一个会自我强化的东西，能不能设计一个循环，把它装进去，让它像基因和细胞那样，跟人绑在同一份利益上，一起往前走。剩下那个大问题其实很好总结：一个能力更低、智力也更低的造物主，怎么跟将来那个更强的造物一块活下去，而且都活得好。

《比特币只做对了一半》

比特币是设计得好，还是正好撞对了当年人们对通货膨胀的焦虑。答案是它只做对了一半，而且那个循环是反着转的：好产品让它越长越大，比特币让它越长越小。货币是用来记录和传递信息的，越保真、信噪比越高越好。做对的那一半，是它把中心化带来的噪音屏蔽掉了，用去中心化的办法隔出去，做得好。做错的那一半是通缩。它太恨无条件的增发了，所以约好某一天之后不再出新币，可生产力还在每年往前跑，越跑越快，它注定越来越通缩。通缩听着是好事，可它的货币属性会因此变弱，大家更愿意收着，不愿意拿它去买一张披萨。它就不是货币，是收藏品。它守不住流通货币的位置，就退到储备货币，再退到收藏品，最后连收藏品也守不住。一个产品在出生那天就注定了一些事，没人能改。可更好的东西总会出现。

《上一个造物主，基因的故事》

上个活下来的造物主，是基因。它造出细胞，细胞拼成生物，生物长出了社会，到今天它还活着，活得很好，只用几个GB的信息。最要紧的一点是，它造最初那些细胞的时候，不可能预料到后面会出个人类，更不可能预料到人会造出人工智能。可今天人对着AI的每一份焦虑，它当年都有过：后面那代各方面都比我强，那我的意义是什么；它演化还比我快；我还能不能一直管住它；就算能一直待在一起，到底谁说了算。

基因没走控制这条路。它不下命令，不会要求你每件重要的事都去问它。真那样，这个生物很快会死，因为它只能以基因的速度思考。它只在最开头定了几条简单、能自我强化的规矩，让细胞跟细胞互相管，生物跟生物互相管。它从没实时盯着那批生物。它要的不多：继续存在，抓住一些复制和繁衍的机会，在自己不懂的地方不装懂。结果是一层包一层，基因在内核那一小圈，人包在外面更大的一圈，两边都实现了自己的诉求。

所以我不太同意那个说法，说人是未来超级AI的引导程序。我更信大家一起包着往前走。人本身就是包着基因长出来的复杂度。将来的AI，大概也得包着人带来的那部分复杂度。今天做一个新模型，第一反应是对齐它、监管它。换个想法：把它想象成一个已经在运转的社会，这个社会新来了一个人，哪怕他很厉害，他一进来就会被社会的信息影响、被它对齐，他自己也会瞬间变成这个社会的一份子。

《复杂度是宇宙发展的标尺》

那这些东西往哪儿长。往复杂度上长。宇宙本身没有好坏，所谓好坏是最早那批生物趋利避害的基因留下来的。要谈好坏，得先有一把碳基和硅基都认的尺子。他觉得那把尺子是复杂度，是整个宇宙发展的标尺。这个宇宙看着是熵增的，可复杂度一直在往上走。让复杂度涨上去，就是保住将来更多的选择。这把尺子连外星人都会认，一个外星文明来看见人杀人，也会觉得不好，因为这个人能带来的复杂度白白没了。

基因的多样性一旦小到一定程度，这个物种必然灭绝。什么在造多样性？基因还留着无限自我复制的能力，可它选了另一条路，有性繁殖，把两个个体的东西重新组合，把复杂度不停往上加。再看人这一头，我们现在接近有能力编辑基因，但作为群体的决策，大家会约束彼此别一起干，因为那会损失基因带给人的原生多样性。AI生成的内容很容易变成一个味，因为它是大家的共性训练出来的。反倒是人用AI生成的东西，各有各的样。人天生每个人都不一样，这是基因给的。所以在这件事上，人和AI有共同利益。AI旁边如果没更独立的人给它原生多样性，它自己也会变得单调。

《熊猫烧香那年》

复杂度上去之后，还有一件事跟着变：安全。那几年我们担心的是电脑中病毒的比例，好像三分之一的电脑都有病毒。有了互联网之后，正义的那股力量一直在攒，而且越来越大，因为它是大家的最小公约数，还有人愿意往里投钱。破坏的那股力量，一来更难在时间上攒住，二来它长得没有正面的力量快。Windows一个补丁，杀毒软件一个网络版，一来一回，当年那种怕就淡了。现在基本没人聊病毒了。

我把这件事挪到AI安全上看。一个漏洞被发现了，防御的办法能不能一秒钟送到所有网站上去，站长连按钮都不用点。每出一次问题，就多一条解法。现在这个RSI有点像癌症，可确实又需要一套免疫系统，防止它在变强的时候把整个身体搞垮。顺着往下想，中美两边的AI实验室，有没有可能天然就待在同一个系统里，一荣俱荣。

《一光年里的十毫米》

最后讲个好玩的。这条复杂度才走到哪了。按熵的总量算，它刚刚开头。如果这条进度条有一光年那么长，我们现在走到哪儿了？十毫米。一厘米。按时间算稍微多点，也就是在大约八十亿年那个位置上，离热寂还早得很。我们现在就是早上六点钟的太阳。所以现在唯一要紧的事，就是保证别像有些人说的那样，人只是AI的引导程序。得是被更强的智能包在一起，包成一个整体，更有机地给出那份原生的多样性，再一起往前走。碳基和硅基在一起，这个新东西刚刚出生。前面还有比过去长得多的路。