返回思考

AI 社会

发布时间 2026.06.05

让 AI 成长,人类也要成长

AI 距离下一阶段已经不远。真正困难的不是只让模型继续变强,而是让审核、制衡、分配、环境和责任机制同步成长,否则 AI 会变成人与人之间无形的武器。

Thesis

AI 的下一阶段,不只是技术能力的跃迁。让 AI 成长的同时,人类也必须让审核机制政治制衡经济分配社会责任一起成长,否则越强的 AI 越可能成为人与人之间无形的武器。

AI 距离下一阶段已经不远了。

关于 AGI 的顾虑,很多人已经说过很多。我不想重复那些最常见的讨论,但我确实对它可能造成的社会、经济、政治问题有很深的担忧。

更让我在意的是,这些影响不一定会等到一个被明确定义的 AGI 出现才发生。很多变化已经在发生,只是还没有被足够认真地放进同一张图里看。

Argument

AI 不是一个单独变强的工具。它一旦进入真实社会,就会改变别的系统的运行方式。

环境影响会发生。更大的模型、更密集的推理、更普遍的自动化调用,都会把能耗、水、电网和基础设施问题推到前面。只是相比就业、监管和安全,这一层现在还没有被足够多人放在中心位置讨论。

政治的制衡策略也会变。过去政治传播、舆论动员和信息操控都有成本,有时间差,也需要组织。AI 会降低内容生成、身份模拟、情绪放大和叙事包装的成本,这会改变制衡本身的节奏。

军事的牵制逻辑也会变。AI 不只是提升武器系统,也会改变侦察、推演、网络攻击、心理战和供应链判断。牵制不再只发生在看得见的硬件和边界上,也会发生在模型、数据、算力和信息环境里。

经济的运行机制同样会变。过去资本深化常常意味着更多机器、更多软件、更高效率,最终带来更强生产力。但当自动化和生成能力继续上移,资本深化不一定自然转化成更广泛的经济改善。它可能只是让少数拥有模型、算力、数据和分发入口的人获得更大的控制力。

这里最危险的一层,是造假成本和审核能力之间的错位。

当造假成本很低,审核能力却不足,AI 会成为人与人之间无形的武器。它未必表现为科幻意义上的攻击,更常见的形态可能是伪造证据、制造关系压力、放大错误信息、定向操控信任,或者让一个人很难证明自己没有做过某件事。

这不是简单的真假问题,而是社会信任的成本结构变了。过去伪造需要成本,传播需要渠道,协调需要组织;未来这些环节都可能被 AI 压低。

如果审核、溯源、责任和惩罚机制没有同步成长,社会会被迫把更多成本转嫁给普通人。每个人都要花更多时间确认对方是不是真的、内容是不是真的、证据是不是真的、关系是不是真的。

这时候最强的 AI 能力,也许不应该是所有人都能随意使用的能力。不是因为人不配拥有技术,而是因为能力一旦跨过某些边界,它就不再只是个人效率工具,而会变成影响他人、组织和公共秩序的权力。

问题在于,限制能力也不是简单答案。太早限制会压制创造,太晚限制会放任伤害;只限制普通人、不限制组织和国家,又会制造新的不平等。所以真正难的是分层、授权、审计和责任。

这也是为什么我觉得“让 AI 成长,人类也要成长”很重要。人类成长不是一句道德口号,而是一组具体机制:更强的审核能力,更清楚的权限边界,更透明的责任链,更适应 AI 时代的经济分配,更严肃的环境核算,以及能跟上技术速度的政治制衡。

技术和社会如果不能并线发展,就会出现一种很奇怪的局面:工具越来越强,但人类处理工具后果的能力没有同步变强。

Model

AI 能力跃迁

生成成本下降

内容、身份、证据、叙事都更容易被制造

执行权上移

Agent 能调度工具、系统和真实资源

资本集中

模型、算力、数据和入口形成更强控制力

回流到下一层

社会机制承压

审核不足

真假判断、溯源和惩罚跟不上生成速度

制衡变化

政治、军事和信息环境的牵制逻辑改变

环境外部性

能耗、水、电网和基础设施压力被低估

回流到下一层

人类同步成长

分层授权

强能力不等于无条件开放

责任链

使用、审核、部署和伤害都要可追溯

并线发展

技术进步要和制度、经济、社会能力一起推进

AI 变强之后,真正的短板可能不是模型能力,而是人类社会能不能建立足够快、足够细的审核制衡责任机制

Implications

  • ·AI 治理不能只讨论模型安全,也要讨论社会安全:造假、信任、责任、环境、经济分配和政治制衡都在同一条链路上。
  • ·最强 AI 能力不应该被简单理解成“人人随意可用”。更合理的方向可能是分级能力、明确授权、强审计和可追责使用。
  • ·资本深化在 AI 时代未必自动促进广泛经济改善。模型、算力、数据和入口如果高度集中,效率提升可能同时伴随控制力集中。
  • ·技术发展需要一条并行线:模型继续成长,人类的制度能力、审核能力和分配能力也要同步成长。

Closing

我并不觉得答案是让 AI 停下来。更现实也更困难的答案是:当 AI 成长,人类也要成长。否则我们得到的可能不是一个更聪明的工具世界,而是一个能力越来越强、社会承接能力却越来越脆的世界。