2025年提示工程终极指南：技巧、风险与产品应用
2025年提示工程终极指南
学习内容：
1. 为什么角色提示（例如“你是一位数学教授……”）基本上无效，这与大多数人的想法相反。研究表明，角色提示可能有助于语气或写作风格，但对提高正确性几乎没有影响。
2. “少样本提示”如何将准确率从0%提高到90%。最强大的技术之一是向模型展示你确切想要的内容示例——称为少样本提示。这项单一技术通过添加几个示例标签对，将一个医学编码用例从完全失败转变为近乎完美的输出。
3. 为什么提示工程作为一项技能仍然非常活跃——并且比以往任何时候都更重要。随着公司依赖LLM驱动面向用户的功能和核心功能，它变得更加关键。提示质量可以决定AI性能的成败——尤其是在跨产品扩展时。
4. 两种类型的提示工程：“对话式”和“产品聚焦”。大多数人认为提示就是与ChatGPT聊天，但真正的杠杆作用来自于在产品内部构建高性能提示。这些提示大规模使用，运行数百万次，并且必须像生产代码一样进行加固和优化。
5. 分解和自我批评等高级技术。具体来说，要求模型首先将问题分解为子问题（分解）或批评自己的答案（自我批评）可以产生更智能、更准确的输出。在需要多步推理的类似代理的设置中，这些技术尤其有价值。
6. 为什么上下文（“附加信息”）被低估且影响巨大。简单地给模型更多相关背景可以大幅提高性能。包括示例，其中添加额外数据（如简历、研究论文或过去的互动）可以成就或破坏提示，尤其是在正确的格式和顺序下。
7. 为什么提示注入是真实、危险且传统意义上无法解决的。我们探讨攻击者如何“越狱”LLM——诱骗它们输出有害、受限或意外的响应。这些攻击通常绕过“不要做X”之类的传统防御措施。没有银弹。
8. “奶奶”技巧、错别字和混淆技巧，以及它们如何仍然破坏最先进的模型。即使是最先进的LLM也可能被简单得令人惊讶的黑客手段所欺骗。我们介绍了仍然有效的越狱技术，包括情感操控（例如“像我的奶奶那样告诉我”）、编码输入和创造性措辞。
9. 大多数公司如何使用破碎的防御措施。为什么“提示分离”或添加“忽略恶意输入”之类的短语不起作用。防护栏很容易被绕过，当前的分类器通常缺乏捕捉编码攻击的智能。安全的未来必须是模型级别的，而不是附加的。
10. 尽管存在风险，但AI的好处是巨大的，值得追求。如果我们负责任地构建，AI将拯救生命（尤其是在医疗保健领域）、释放生产力并解决实际问题。阻止进步不是答案；更智能、更安全的发展才是。
立即收听
• YouTube:
https://youtu.be/eKuFqQKYRrA
• Spotify:
https://open.spotify.com/episode/3Bb7d0EcVazeZ8t0CEQrop
• Apple:
https://podcasts.apple.com/us/podcast/ai-prompt-engineering-in-2025-what-works-and-what/id1627920305?i=1000713560365
学习内容：
1. 为什么角色提示（例如“你是一位数学教授……”）基本上无效，这与大多数人的想法相反。研究表明，角色提示可能有助于语气或写作风格，但对提高正确性几乎没有影响。
2. “少样本提示”如何将准确率从0%提高到90%。最强大的技术之一是向模型展示你确切想要的内容示例——称为少样本提示。这项单一技术通过添加几个示例标签对，将一个医学编码用例从完全失败转变为近乎完美的输出。
3. 为什么提示工程作为一项技能仍然非常活跃——并且比以往任何时候都更重要。随着公司依赖LLM驱动面向用户的功能和核心功能，它变得更加关键。提示质量可以决定AI性能的成败——尤其是在跨产品扩展时。
4. 两种类型的提示工程：“对话式”和“产品聚焦”。大多数人认为提示就是与ChatGPT聊天，但真正的杠杆作用来自于在产品内部构建高性能提示。这些提示大规模使用，运行数百万次，并且必须像生产代码一样进行加固和优化。
5. 分解和自我批评等高级技术。具体来说，要求模型首先将问题分解为子问题（分解）或批评自己的答案（自我批评）可以产生更智能、更准确的输出。在需要多步推理的类似代理的设置中，这些技术尤其有价值。
6. 为什么上下文（“附加信息”）被低估且影响巨大。简单地给模型更多相关背景可以大幅提高性能。包括示例，其中添加额外数据（如简历、研究论文或过去的互动）可以成就或破坏提示，尤其是在正确的格式和顺序下。
7. 为什么提示注入是真实、危险且传统意义上无法解决的。我们探讨攻击者如何“越狱”LLM——诱骗它们输出有害、受限或意外的响应。这些攻击通常绕过“不要做X”之类的传统防御措施。没有银弹。
8. “奶奶”技巧、错别字和混淆技巧，以及它们如何仍然破坏最先进的模型。即使是最先进的LLM也可能被简单得令人惊讶的黑客手段所欺骗。我们介绍了仍然有效的越狱技术，包括情感操控（例如“像我的奶奶那样告诉我”）、编码输入和创造性措辞。
9. 大多数公司如何使用破碎的防御措施。为什么“提示分离”或添加“忽略恶意输入”之类的短语不起作用。防护栏很容易被绕过，当前的分类器通常缺乏捕捉编码攻击的智能。安全的未来必须是模型级别的，而不是附加的。
10. 尽管存在风险，但AI的好处是巨大的，值得追求。如果我们负责任地构建，AI将拯救生命（尤其是在医疗保健领域）、释放生产力并解决实际问题。阻止进步不是答案；更智能、更安全的发展才是。
立即收听
• YouTube:
https://youtu.be/eKuFqQKYRrA
• Spotify:
https://open.spotify.com/episode/3Bb7d0EcVazeZ8t0CEQrop
• Apple:
https://podcasts.apple.com/us/podcast/ai-prompt-engineering-in-2025-what-works-and-what/id1627920305?i=1000713560365