Simon Willison关于AI编程拐点、agent工程模式等9点总结

我从 @simonw 那里学到的最重要几点：

1. 2025年11月是AI编程的转折点。GPT 5.1和Claude Opus 4.5跨越了一个门槛，使得编码代理从“大多有效”变为“几乎总是按你想要的去做”。那些在假期里捣鼓的软件工程师意识到这项技术已经变得真正可靠。

2. 职业生涯中期的工程师最脆弱——不是初级，也不是高级。AI通过让有经验的工程师利用数十年的模式识别能力来放大他们。它也极大地帮助新工程师入职。Cloudflare和Shopify各雇了一千名实习生，因为AI将入职时间从一个月缩短到一周。但那些尚未积累深厚专业知识、并且已经捕捉到初级优势的中期工程师处于最不稳定的位置。

3. AI疲劳是真实且被低估的。Simon并行运行四个编码代理，到上午11点就精神疲惫。他获得了更多时间，但大脑因指导多个自主工作者的强度而耗尽。有些工程师为了保持代理运行而失眠。这可能只是一个新奇问题，但潜在动态——管理AI在减少劳动的同时增加了认知负荷——是一个真正的紧张点。好公司会管理预期，而不是无限期地期望5倍产出。

4. 现在代码很便宜。这个简单的想法有深远的影响。曾经花费大部分时间的事情——写代码——现在花费最少。瓶颈已经转移到其他一切：决定构建什么、证明想法有效、获取用户反馈。由于原型设计几乎免费，Simon在刚开始时经常为每个功能构建三个版本。

5. “黑暗工厂”是目前正在进行的最激进的AI辅助开发实验。一家名为StrongDM的公司制定了一项政策：没人写代码，没人读代码。相反，他们运行一群AI模拟的最终用户（每周7天、每天24小时）——成千上万的假员工提出“给我访问Jira”之类的请求——每天花费1万美元的token成本。他们甚至让编码代理从API文档构建了Slack、Jira和Okta的模拟版本，以便在没有速率限制的情况下进行测试。

6. “红/绿TDD”是单一最高杠杆的代理工程模式。让编码代理先写测试，观察它们失败，然后写实现，再观察它们通过，会产生实质更好的结果。五个字的提示“使用红/绿TDD”编码了整个工作流程，因为代理能识别这个术语。

7. “囤积你知道怎么做的东西”是Simon另一个喜欢的代理工程模式。Simon维护着一个包含193个小HTML/JavaScript工具的GitHub仓库，以及另一个编码代理实验的独立研究仓库。每一个都记录了一种技术、一个概念证明或他测试过的库。当新问题出现时，他可以把Claude Code指向过去的项目并说“结合这两种方法”。

8. “致命三重奏”使AI代理安全从根本上未解决。每当AI代理能够访问私有数据、暴露于不受信任的内容（如传入电子邮件）以及能够外部发送数据（如回复电子邮件）时，你就有了致命三重奏。提示注入——不受信任文本中的恶意指令覆盖代理预期行为——无法可靠地防止。Simon三年来每六个月预测一次AI安全的“挑战者灾难”。还没发生，但他非常确定会发生。

9. 每个项目从薄模板开始，而不是长指令文件。编码代理在匹配现有模式方面非常出色。一个带有你首选缩进和样式的测试文件比几段书面指令更有效。Simon每个项目都以一个包含一个测试（字面上测试1+1=2）的模板开始，按他的首选样式布局。代理会学习它，并在整个代码库中遵循约定。这更便宜，而且更多。