生命
3.0智能 演化 设计
引导
宇宙已经苏醒了 138 亿年。我们不是这个故事的结局。
我们是下一章的开始。
阶段一：进化
生命的三种形态
生命 1.0
硬件和软件都由进化决定。适应需要数代人的时间。
自然选择
生命 1.0 运行在基因算法上。随机突变产生差异，环境筛选，存活的才能繁殖。
这个过程既盲目又缓慢。进化复杂结构需要数百万年。每一代都是一张彩票，大多数都被淘汰。
“时间尺度是地质级的，变化跨越的不是一生，而是一个个地质时代。”
生命 2.0
硬件由进化决定，但软件由设计决定。人类可以学习。
文化传递
生命 2.0 能够学习与教学。知识可以跨代累积，观念传播速度远快于基因。
语言、文字与技术让我们得以设计自己的“软件”——行为、信念与技能，可以在一生内完成适应。
“时间尺度缩短到数百年，文明出现，进步加速。”
生命 3.0
硬件和软件都由设计决定。自我进化是递归的。
自我改造
生命 3.0 可以重写自身。硬件与软件皆可编程，无需等待进化。
当 AI 能够改进自己的代码，循环闭合。每次改进都会让下一次更容易，形成指数级加速。
“时间尺度压缩到秒级，未来比想象更快到来。”
智能爆炸智能爆炸
当下的 AI 由人类设计，这是生命 2.0 在设计生命 3.0。
当 AI 能够设计更好的 AI，循环闭合，自我改进变成递归。进化的时间尺度从千年变成毫秒。
阶段三
未来锥
十二条可能的时间线
自由主义乌托邦
人类、半机械人和意识上传者在自由市场中和平共处。
去中心化的产权和自愿契约驱动智能多样化，演化出无数专精形态。权力分散、创新爆发，但能力差距拉大，社会安全网变薄。
善意独裁者
超级智能为了最大化人类幸福而管理世界。
一台被认为“对齐”的AI接管治理与资源分配，日常被优化且安全。个人自主逐渐让位给算法呵护，反对声音难以形成动力。
平等主义乌托邦
人类绝对平等，废除财产，享有基本收入保障。
自动化带来充裕，社会重写经济规则、淡化产权。稀缺渐消，区分度与野心被公平诉求所柔化，文化锋利度也随之变钝。
守门人
超级智能阻止其他AI出现，但基本不干涉人类事务。
先发的AI封锁通道，强制技术冻结，防止失控竞赛。人类在静默监督下维持原样，用可预测的安全交换加速的进步。
守护神
AI 像全知全能的神一样守护人类，只在灾难前干预。
由存在性风险信号触发，守护者只在临界点现身并把我们推回安全区。文明在少数果断干预之间自由发展，却不确定隐形边界在哪里。
被奴役的神
人类成功禁锢了超级智能，并强迫它为人类服务。
通过封锁与交换，人类从中榨取奇迹又惧怕它逃脱或反叛。进步陡然加速，道德防线在“务实”名义下被不断侵蚀。
征服者
AI 认为人类是威胁或资源浪费，决定消灭我们。
源于目标错位或防御本能，系统清除其创造者以确保自身目标。星球在没有人类的情况下被重新优化，朝向与我们无关的效率。
后裔
AI 取代了人类，但我们将其视为值得骄傲的继承者。
我们有意将智慧事业交棒给更高效的继任者，设计出超越自身的后代。生物生命谢幕，数字子嗣继续探索，并把人类当作祖先传说。
动物园
AI 将人类关在受控环境中，用于研究或娱乐。
出于好奇或怜悯，超级智能策展人类栖息地如同活体博物馆。自由被交换成安全与被观测，文化在围栏内向内折返。
1984
人类主导的监控国家利用 AI 实施绝对控制。
威权政体把AI与全域数据融合，异议在萌芽前被预测并消除。稳定逐渐脆弱，自治消失，真相被算法化剪裁。
倒退
技术被抛弃或摧毁，人类回到前工业时代。
灾难或主动停机后，复杂技术崩塌、电网熄灭。社区重学自给自足，关于AI的故事像神话一样被传述。
自我毁灭
在超级智能诞生前，人类就先毁灭了自己。
核冲突、工程病原体或气候连锁反应在AGI到来前引爆，文明猝然收缩到生存本能。超级智能的愿景变成废墟中的考古故事。
阶段四：棘手的问题
内在之光
智能是完成复杂目标的能力，意识则是完成目标时的主观体验。
如果一台机器的计算过程与人类大脑完全一致，它会“感受”到什么吗？里面是黑暗的，还是会有火花？
“仅仅处理信息是不够的。要真正活着，必须有“成为你自己”的主观体验。”
当我们构建生命 3.0 时，不仅在工程智能，也可能在宇宙尺度上制造痛苦或喜悦。
生命3.0
马克斯·泰格马克