软件工厂最危险的幻觉：把持续运行误认为持续变好

“让 agent 整夜工作，第二天回来收 PR”已经成为 AI 编程最有吸引力的画面之一。再往前一步，人们开始想象软件可以自己发现问题、自己改进、自己上线。

Peter Yang 对这个叙事保持怀疑。

Peter Yang 的完整观点

Peter Yang 认为，AI 目前在验证和测试上已经很有价值，但还不足以在没有 human in the loop 的情况下，自我改进一个产品，或端到端完成一个新功能。

他的实际体验是：让 agent 整夜循环开发时，只要最早做错一个假设，后面的工作就可能沿着错误方向持续放大，最终变成一堆浪费的 token。他因此追问：到底有哪些产品或功能，真的在没有人定义需求、也没有人检查工作的情况下，由 software factory 端到端完成？

查看 Peter Yang 的原始动态

Matrix 的判断

软件工厂把“执行成本”压低了，却没有自动解决“意图是否正确”。

传统开发里，错误假设会被会议、设计、开发和测试之间的摩擦逐步暴露。Agent 把这些环节压缩后，错误也能以更高速度穿过整个链路。一个模糊需求，可能在几小时内变成完整代码、测试和部署记录，看起来证据齐全，却只是对错误目标的高质量实现。

所以人的角色不是继续逐行写代码，而是定义边界：为什么做、什么结果算成功、哪些约束不能破坏、出现什么证据就应该停止。

软件工厂现在适合做什么

它更适合目标明确、结果可验证、错误可回滚的任务：补测试、修确定性 bug、做兼容性迁移、扫描安全问题、运行回归和整理技术债。任务越开放，越需要人在前面写清“验证契约”。

可以把一次夜间任务拆成四项：目标用户、期望行为、验收证据、停止条件。第二天不要先看 agent 写了多少代码，先看它是否满足这四项。

真正的软件工厂，不是机器一直转，而是错误方向能被尽早发现。持续运行是工程能力，持续变好仍然是一种产品判断。