动态

Andrew Ng分享懒人提示法:快速粗提示,再根据输出调整。

Andrew Ng
与标准提示建议相反(即应给LLM成功所需的上下文),我有时发现偷懒并快速写出一个粗略、不精确的提示看看结果会更高效。关键是能否快速评估输出质量,从而决定是否提供更多上下文。本文分享何时以及如何使用“懒人提示”。

调试代码时,许多开发者将错误信息(有时长达数页)复制粘贴到LLM中,而无额外说明。多数LLM足够聪明,能理解你想让他们帮助理解和提出修复方案,因此无需明确告知。用简短的指令如“编辑这个:…”或“示例dotenv代码”(提醒如何编写使用Python的dotenv包的代码),LLM常能生成良好响应。此外,若响应有缺陷,希望你能发现问题并优化提示,例如引导LLM如何编辑你的文本。

另一方面,有时我会花30分钟精心编写两页提示,让AI系统帮我解决问题(如编写多页代码),否则需要更长时间。

我不会尝试懒人提示如果:(i) 我确信没有额外上下文LLM不可能提供好的解决方案。例如,给定部分程序规范,即使熟练的人类开发者能否理解你的需求?如果坚决要使用某PDF转文本软件(如我的团队LandingAI的Agentic Doc Extraction!),应在提示中说明,否则LLM很难猜到我的偏好。我也不会使用懒人提示如果(ii) 有问题的实现需要长时间检测。例如,判断输出是否正确唯一方式是费力运行代码检查功能,那么最好事先花时间提供上下文,提高LLM生成所需内容的几率。

顺便说,懒人提示是高级技巧。平均而言,我看到更多的人给LLM的上下文太少而非太多。只有当你学会如何提供足够上下文,然后刻意退一步看最少需要多少上下文仍能有效工作时,懒惰才是好技巧。另外,懒人提示仅适用于通过LLM的网页或应用界面快速迭代的场景,不适用于为重复调用API而编写的代码提示,因为不会检查每个输出并改进。

感谢Rohit Prsad(与我合作开源包aisuite)提出术语“懒人提示”。这与计算机科学中的惰性求值类似,即尽可能晚地调用函数,且仅当需要特定结果时。在懒人提示中,我们只在需要时添加细节。

原文:
https://deeplearning.ai/the-batch/issue-295/
...
动态Andrew Ng2025-04-03原文

相关内容