动态

新课程:AI Agent语义缓存,减少推理成本与延迟

新课程:AI Agent语义缓存,减少推理成本与延迟
Andrew Ng
新课程公告:《AI Agent 的语义缓存》,由 @tchutch94 和 @ilzhechev(来自 @Redisinc)教授。

语义缓存可以大幅降低 AI 应用的推理成本和延迟。如果有人问“如何退款?”另一个人后来问“我要退钱”,语义缓存能识别它们意思相同,从而使用缓存的响应,而不是再次调用模型。

本短课程将带你从零构建第一个语义缓存,到使用 Redis 的开源工具实现生产级系统。

你将掌握的技能:
- 从零构建语义缓存,然后使用 Redis SDK 实现生产特性
- 通过命中率、精确率、召回率和延迟衡量缓存性能
- 通过阈值调整、交叉编码器、LLM 验证和模糊匹配提高准确性

加入学习,降低你的智能体 AI 的成本并提高速度!
https://deeplearning.ai/short-courses/semantic-caching-for-ai-agents
动态Andrew Ng2025-11-19原文

相关内容