使用Haiku模型分析会话的技术细节与缓存机制
技术细节:
| 参数 | 值 |
|------|-----|
| 分析模型 | Haiku |
| 每 prompt 最大 token | 8,192 |
| 单次最多分析会话 | 50 个 |
| 转录大小限制 | 30,000 字符 |
| Facet 缓存 | |
| 隐私保护 | 本地处理 |
用 Haiku 是因为快且便宜。Facet 会缓存,所以第一次跑慢一点,之后只分析新会话。
| 参数 | 值 |
|------|-----|
| 分析模型 | Haiku |
| 每 prompt 最大 token | 8,192 |
| 单次最多分析会话 | 50 个 |
| 转录大小限制 | 30,000 字符 |
| Facet 缓存 | |
| 隐私保护 | 本地处理 |
用 Haiku 是因为快且便宜。Facet 会缓存,所以第一次跑慢一点,之后只分析新会话。