Surge AI创始人分享10个关于AI效率、AGI、数据质量、训练AI等的深刻见解。

来自 @echen（Surge AI 创始人）的主要收获：

1. 我们很快将看到每名员工创造1亿美元收入的公司，因为AI让一切更加高效。Surge 在不到100人的情况下完全白手起家，4年内收入达到10亿美元。这将打破传统的硅谷VC剧本。

2. AGI 可能还需十年或更久。从完成任务的80%提升到90%，与达到99.9%截然不同——每一步都需要比前一步更长的时间。客观测试题比现实世界问题更容易优化。

3. 行业正在优化 AI 追求“多巴胺而非真相”，从而延迟了 AGI。Edwin 担心我们正在构建追逐参与度而非推动人类进步的 AI。像 LMArena 这样的流行排行榜奖励带有表情符号和格式的华丽回复，而不是准确性，迫使实验室优化肤浅的指标，使模型在实际任务中表现更差。

4. 创建高质量数据来训练 AI 需要品味。任何人都可以验证一首诗有八行并提到月亮。难的是识别那些让你惊讶、激发情感并教会你关于语言新知识的诗歌。这种主观、细微的质量定义区分了普通 AI 和卓越 AI。

5. 训练 AI 更像抚养孩子而不是标记照片。你不仅仅是在喂食信息；你还在教授价值观、创造力以及关于什么使事物美丽或真实的无数微妙之处。正确的问题不是“我们希望 AI 通过什么测试？”而是“我们希望培养什么样的实体？”优化目标的选择——参与度指标还是真正的人类繁荣——塑造了下游的一切。

6. AI 基准排名经常被操纵，并不反映现实价值。Edwin 不相信基准有两个原因：它们经常包含错误答案，并且测试的是定义明确的问题，而非混乱的现实世界。这就解释了为什么模型能获得国际数学奥林匹克金牌，却在解析 PDF 时遇到困难。实验室为了公关目的优化这些基准，即便这让模型在实际任务中表现更差。

7. AI 训练的下一个前沿是 RL 环境，模型通过实践学习。这些是现实场景的详细模拟——比如一个初创公司拥有 Gmail、Slack、代码仓库和数据库，突然 AWS 宕机。模型通过在这些环境中尝试任务并根据其完整方法获得奖励来学习，而不仅仅是最终答案。这模仿了人类在现实情境中通过试错学习的方式。

8. AI 辅助有一个隐藏成本：完美但无关紧要的精心制作。花30分钟用 AI 通过无数次迭代完善一封原本就很不错的邮件是一种陷阱。更深层的问题是，AI 应该最大化你与它相处的时间，还是帮助你完成任务并继续前进？最好的 AI 工具会知道何时说：“这已经够好了——直接发送吧。”

9. 建立成功的公司不需要改变你自己。Edwin 从未想过自己会创办公司，因为他假设自己必须成为“整天看财务报表的商人”。相反，他把 Surge 建成了一个研究实验室，亲自处理数据和数据分析。他的建议是：“你不需要成为别人。你只需构建出优秀到足以穿透所有噪音的东西，就能建立成功的公司。”

10. 硅谷剧本——不断 pivot、闪电式扩张、追逐炒作——并非成功的唯一路径。另一种选择：找到一个你相信的大想法，对其他一切说不，并在困难时继续构建。追逐潮流（加密货币，然后是 NFT，然后是 AI）会创造出缺乏一致性和使命的公司。构建一些只有凭借你独特的经验、兴趣和专长才能存在的东西。