Karpathy 分享理解 LLM 输出的技巧:写作、图表、网页与讲解视频
我们会花更多时间去理解语言模型的输出。一些想法、技巧和小窍门:
写作。我试过并且有效的一个方法:让你的 LLM 用 ASD-STE100 来解释某样东西。这是一种受控语言规范,最初是为航空航天维护文档开发的。LLM 对这门语言相当熟悉,而它带有对简洁写作风格的严格约束,我常常觉得这样读起来舒服得多。有时我会试着稍微放宽一点,比如要求「达到 ASD-STE100 的 80% 程度」,因为这个规范确实相当严苛。但还有更好的做法:
图表 / 图像。不要写文字,而是让你的 LLM 画一张图。这类内容往往更容易处理、解析和理解。但还有更好的做法:
网页。要求「用 HTML 输出」,就能得到一个漂亮、可交互的网页。LLM 在前端方面越来越强,能做出漂亮的体验、动画等等。但还有更好的做法:
讲解视频。我最看好的输出格式,是针对任意主题生成的完全定制 / 专属讲解视频。可以试试这样写:「针对 X 制作一个 3b1b 风格的视频讲解。用我的 ElevenLabs API key 做音频旁白。」(后者需要 API key,或者你也可以让你的 LLM 帮你找一些像样的、使用本地算力的免费替代方案。)这件事真的开始行得通了!
总结:
- 随着 LLM 变得更强,它们会越来越自主地承担跑腿的活儿,我们更多的会上升到抽象层面,变成监督与理解。
- 幸运的是,LLM 在这方面也能帮上忙:当智能和代码日益充裕,你可以要求生成大型、定制、用完即弃的软件产物(例如 web app、视频讲解),这在以前根本不可能有意义。在这条路上大胆推进,你会惊讶的。
写作。我试过并且有效的一个方法:让你的 LLM 用 ASD-STE100 来解释某样东西。这是一种受控语言规范,最初是为航空航天维护文档开发的。LLM 对这门语言相当熟悉,而它带有对简洁写作风格的严格约束,我常常觉得这样读起来舒服得多。有时我会试着稍微放宽一点,比如要求「达到 ASD-STE100 的 80% 程度」,因为这个规范确实相当严苛。但还有更好的做法:
图表 / 图像。不要写文字,而是让你的 LLM 画一张图。这类内容往往更容易处理、解析和理解。但还有更好的做法:
网页。要求「用 HTML 输出」,就能得到一个漂亮、可交互的网页。LLM 在前端方面越来越强,能做出漂亮的体验、动画等等。但还有更好的做法:
讲解视频。我最看好的输出格式,是针对任意主题生成的完全定制 / 专属讲解视频。可以试试这样写:「针对 X 制作一个 3b1b 风格的视频讲解。用我的 ElevenLabs API key 做音频旁白。」(后者需要 API key,或者你也可以让你的 LLM 帮你找一些像样的、使用本地算力的免费替代方案。)这件事真的开始行得通了!
总结:
- 随着 LLM 变得更强,它们会越来越自主地承担跑腿的活儿,我们更多的会上升到抽象层面,变成监督与理解。
- 幸运的是,LLM 在这方面也能帮上忙:当智能和代码日益充裕,你可以要求生成大型、定制、用完即弃的软件产物(例如 web app、视频讲解),这在以前根本不可能有意义。在这条路上大胆推进,你会惊讶的。