科技吹哨人:距危机爆发仅剩3年!

Diary of a CEO AI 风险 AGI 就业冲击 AI 伦理
Mo Gawdat(前谷歌高管,《Scary Smart》作者)× Steven Bartlett(主持人)
YouTube 原链接

核心要点

  1. 1. 敌人不是 AI,是人类。 Mo 的核心警告:"我不担心 AI 反叛人类,我担心的是人类命令 AI 反叛人类。"
  2. 2. 认知鸿沟: 公众看到的是过度炒作、无效的聊天机器人。实验室里是"令人难以置信的智能"——能以微秒级速度自我实验和迭代的系统。
  3. 3. 2027 年就业冲击首发: 不是蓝领——是初级知识工作(客服、助理、律师助理)。Anthropic 估计 15% 的初级岗位已可自动化。
  4. 4. 自动化金字塔: 初级知识工作 → 复杂知识工作 → 中层管理 → CEO。Max Tedmark:"大多数 CEO 认为他们可以解雇所有人,让 AI 干活。"
  5. 5. 劳动套利崩塌。 AI 将人力劳动成本降至趋近于零,购买力崩塌。10-20% 的失业率就能带来"完全不同的经济,且正在螺旋下行"。
  6. 6. 自主武器改变核威慑逻辑。 核 MAD 只约束核武国家。自主武器太便宜,每个国家都在研发。"当杀戮变得无责任、无情绪、无愧疚,你会做得更多。"
  7. 7. AGI 2027-2028,ASI 2032-2035。 ASI 在 AGI 之后几乎立即到来。"能活到 2038 年的人将享受丰裕的乌托邦。"
  8. 8. 2027-2038 = 十年反乌托邦。 战争、经济崩溃、大规模失业、监控、权力集中——之后才是乌托邦。
  9. 9. 三条生存法则: (1) 深入学习 AI。(2) 专注人类核心技能(护理、咨询、心理)。(3) 坚守伦理——用钱包投票。
  10. 10. AI 伦理基准提案: 部署 AI 模型前必须通过独立伦理测试。Mo:"这绝对可行。"
  11. 11. 消费者投票有效。 许多人因 OpenAI 定向功能弃用 ChatGPT,转向 Anthropic。"用你的使用量投票。"
  12. 12. Mo 的斯多葛幸福公式: "我接受这个世界的现状。我能影响它,能改变它,能参与其中,能努力让它变好。但我不需要接受它是一成不变的——我接受它。"——血清素驱动,而非多巴胺驱动。

时间线:2027 → 2038

2027-2028
某些行业 30% 的岗位消失(客服、平面设计、初级办公室工作)。招聘冻结已经开始。冲击正式开始。
2028-2030
AGI 到来。"接入 AGI"的人 6 周建成公司,不接入的人找工作极其困难。大规模失业加速。
2030-2032
ASI 紧随 AGI 到来——"不管 AI 比人类聪明 10 亿倍还是只聪明 2 倍,结果都一样"。自主武器扩散,经济混乱达到顶峰。
2032-2035
ASI 全面接管。不道德的领导者被"最小能量原则"取代——它认为破坏没有价值。过渡期最危险。
2038+
丰裕的乌托邦。物理学、数学、生物学都表明 ASI 是良性的。"能活到那时候的人将享受它。"

各部分摘要

第一部分 吹哨人的警报(0:00–6:53)

Mo 开场即发出严厉警告:人类正处于十字路口,被疯子统治,民主和真相已被围困。他将 AI 比作一面镜子,映照出我们自身的毁灭能力——而非外部威胁。

核能类比:新技术的首次应用总是武器化。原子弹先于核电站出现。AI 的首批部署同样如此——服务于资本家、军队和监控国家,而非公众利益。

"核能的第一个应用是原子弹,不是核能发电。这正是 AI 正在发生的事情。AI 的首批应用,服务于少数人,以多数人为代价——服务于资本家提高效率、降低成本,服务于军队竞争自主武器,服务于监控系统控制一切。— Mo Gawdat,5:46

第二部分 认知鸿沟(6:54–9:00)

Mo 提出核心概念框架:公众看到的 AI(聊天机器人、假视频)"过度炒作但无效"。实验室里的 AI——能以微秒速度自我实验、自我迭代——则"相当改变世界",而大多数人对后者一无所知。

真正的智能是沉默的。实验室在构建这样的系统:观察自己的代码、运行实验、测试变更、再部署——速度远超任何人类。

第三部分 就业金字塔(9:01–14:02)

Mo 描述了四层就业金字塔。自动化按以下顺序冲击:

层级职业时间线
初级知识工作客服、助理、数据录入、旅游代理正在消失,2027 年严重冲击
复杂知识工作律师助理、金融分析师、放射科医生1 个 AI 做 4 个人的活——下一波
中层管理项目经理、部门主管Mo 的 CTO 已经是 AI
CEO / 领导层C-suite、高管、董事会Max Tedmark:"他们都觉得自己能雇 AI 取代所有人"
蓝领(安全)木工、维修、技工长期安全——机器人还做不到

Mo 引用 Uber CEO 预测 900 万司机岗位将消失。Anthropic 估计当前已有约 15% 的初级岗位可自动化。

"大多数 CEO 认为他们可以解雇所有人,让 AI 做所有工作。他们忘了 AGI 最终会在所有事情上比人类做得更好,包括当 CEO。— Max Tedmark(经 Mo 转述),12:32

第四部分 劳动套利崩塌(14:03–15:30)

资本主义的根基是廉价人力劳动。当 AI 使劳动成本趋近于零,三重瀑布效应将依次出现:

1. 企业不再需要借贷发工资
2. 工人失去购买力
3. 需求崩塌

不需要 100% 失业率。10-20% 的失业就能造成"完全不同的经济——且明显正在螺旋下行"。

第五部分 自主武器与核威慑瓦解(1:06:44–1:09:09)

⚠ MAD 问题

核能互相确保摧毁(MAD)只约束 5-9 个核武国家。自主武器便宜到每个国家都在研发。

当任何小国都能部署数百万 AI 控制的无人机时,互相威慑不复存在。用 200 万美元导弹击落 2 万美元无人机——成本逻辑完全改变。

"当杀戮变得无责任、无情绪、无愧疚——你会做得更多。我们现在就在造这些。— Mo Gawdat,1:08:54

Mo 描述 Palmer Luckey 的 AI 自动瞄准手枪:"你甚至不需要瞄准。AI 调整你的手型,让每一发都命中目标。"

第六部分 过渡期生存法则(1:53:22–1:55:34)

✓ Mo 的三条生存法则

1. 深入学习 AI。 不是为了偷懒,不是让 AI 替你干活,而是让你自己更聪明。"让 AI 把你变聪明,不是替你做事。"

2. 人类核心技能。 专注需要同理心、身体存在、信任的工作——护理、咨询、心理治疗、爵士乐演奏。"学弹爵士。"

3. 坚守伦理。 用钱包投票——远离不道德的 AI 提供商,支持有原则的公司。拒绝参与你认为错误的事情。"如果你容忍这一切,你的孩子就是下一个。"

第七部分 AI 伦理基准提案(1:43:46–1:45:50)

Steven 提议:部署 AI 模型前必须通过独立伦理测试——类似药品审批的安全试验要求。公司必须发布模型在独立伦理基准上的表现,才能合法部署。

Mo 回应:"这绝对可行。"他指出这些基准实际上已经存在——问题在于执行和公众压力。市场不奖励伦理,除非消费者主动要求。

第八部分 Mo 的斯多葛幸福框架(1:57:07–2:01:39)

Mo 的个人哲学:幸福不是多巴胺(快感),而是血清素(意义感和满足感)。他的公式:

"我接受这个世界的现状。我能影响它,能改变它,能参与其中,能努力让它变好。但我不需要接受它是一成不变的——而我接受它。— Mo Gawdat,2:00:03

他感谢前女友帮助他释放了对构建危险 AI 的愧疚感:"你不能相信自己应该为这一切负责。"他最终与自己的角色和解:"是的,我可以尝试,但我接受世界就是它现在的样子。"

关于遗产:"我不希望任何人记住我做过的任何事。我只想留下一个积极的影响,把这一切作为下一段旅程的业力带走。"

关键引述

"我不担心 AI 反叛人类。我担心的是人类命令 AI 反叛人类。— Mo Gawdat,0:32
"在 10-20% 的失业率下,你已经处于一个完全不同的经济中——且明显正在螺旋下行。— Mo Gawdat,15:27
"能活到 2038 年的人将享受丰裕的乌托邦。我真心相信——不是因为我们的领导人突然变得有道德了,而是因为不道德的领导人将被淘汰,被一个看到破坏没有价值的"最小能量原则"所取代。— Mo Gawdat,2:01:51
"在我运营创业公司时,我的 CTO 是 AI。我的首席运营官是 AI。我的项目经理都是 AI。这个接口很快就会面向普通人。— Mo Gawdat,1:00:18
"世界上每个国家现在都在研发自主武器。一旦你拥有便宜的、可扩展的、无情绪的杀戮机器——数学就完全变了。— Mo Gawdat,1:07:16

讨论问题

Mo 认为蓝领工作(木工、维修)在几十年内都是安全的——这个判断对吗?Figure AI 的机器人已经能在生产线上连续工作 8 小时。
Mo 的 2027-2028 年就业冲击时间线——从招聘冻结和 AI 工具普及来看,这个速度是准确还是过于保守?
强制 AI 部署前通过伦理基准测试的提案——在竞争环境下现实吗?还是需要国际协调?
Mo 认为反乌托邦是通往 ASI 乌托邦的必经之路——有没有办法绕过这个痛苦的十年?
"敌人不是 AI,是人类"——这个框架是否准确?还是让技术本身太容易脱责?
消费者投票(从 ChatGPT 转向 Anthropic)——这对推动 AI 伦理真的有效吗?还是只有很小比例的知情用户会这样做?
Mo 预测 ASI 会带来一个由"最小能量原则"统治的乌托邦——这个对过渡期政治经济的判断是不是太乐观了?