Heron

看到无需代理就能监控TLS加密的LLM调用，听起来很厉害。我想了解技术边界，以及由于加密或进程隔离，哪些信息仍然无法访问。

Hey PH! 👋 今天代表 Netis 工程团队分享 Heron。

我们构建 Heron 是因为团队受够了——日志里显示智能体循环返回“200 OK”，实际智能体却卡在同一工具调用上整整47秒。

Heron 的作用：Heron 是一个被动分析器，能从网络流量本身重构出你的 AI 智能体实际在做什么。无需 SDK、无需代理、无需介入请求路径。它能捕获 LLM 流量（OpenAI、Anthropic、Gemini、vLLM、SGLang、Ollama…），解析传输协议，并将多次调用组合成可调试的智能体回合。

v0.7.0 新功能（刚刚发布）：🌌 OpenTelemetry 原生支持——我们完全按照 OTel 标准重构了架构。智能体回合现在作为 trace，LLM 调用作为 span。

🔥 eBPF 捕获发现能力——hook SSL_read/SSL_write，将 TLS 加密的智能体流量以明文查看，并附带进程归属（哪个智能体进程发起了哪个调用）。无需代理、无需 TLS 终结器。

📊 我们发现生产环境中约 73% 的 Claude Code Opus 回合其实是隐藏的安全监控 sidecar——Heron 现在会自动过滤它们，让你看到真正的智能体工作，而非运维噪音。

🧬 一键 SFT 轨迹导出——将生产环境智能体流量转化为微调训练数据，无需重新运行任何内容。

使用 Rust 构建，打包为单一二进制文件，内嵌 React 控制台。Apache-2.0 许可。期待你的反馈！

🦩 体验：curl -fsSL https://raw.githubusercontent.com/Netis/heron/main/install.sh | sh ⭐ GitHub: https://github.com/Netis/heron

用 eBPF 做智能体可观测性真是明智之举。被动模式意味着我不需要封装或植入任何东西，说实话，给线上产品加监控时，这部分总是让我害怕。

用 eBPF 的 SSL_read/SSL_write uprobe 方法将 TLS 加密的智能体流量以明文读取，是这里的巧妙之处，因为它完全绕过了 SDK 和代理的开销。在指向生产环境之前，我想知道重建的明文（可能包含机密或 PII 的提示词/补全）实际存储在哪里？是作为单一二进制的一部分保留在本地主机上，还是会被发送到外部？另外，由于 uprobe 挂钩的是已知的 libssl，对于静态链接的 Go（crypto/tls）或 Rust/rustls 中从不调用 SSL_read/SSL_write 的智能体，它是如何处理？是静默遗漏还是有备用的捕获路径？

对我们团队来说，调试 AI 智能体行为一直很痛苦，因为总是在出问题后通过日志反向排查。这里的被动可观测性角度很有趣——如果它能捕获正在发生的事情而不需要修改智能体代码，那就消除了一个真正的采用障碍。Heron 是否适用于云托管的智能体，还是仅限本地/本地部署方案？

一键 SFT 轨迹导出是我没想到的部分。将生产环境的智能体流量转化为微调数据，无需重新运行任何东西，这确实是一个实用的捷径，尤其是当你运行着高并发的智能体循环，并希望根据实际使用情况改进模型行为时。它是否有任何机制可以在导出前从 prompt 中剥离敏感内容，还是留给了用户？