LLM可能调用未提供的工具，带来安全风险
Piotr发现了一件令人担忧的事情：如果你给LLM一个允许调用的工具列表，它可能会决定也调用你没有提供的工具！这影响了除@OpenAI之外的所有主要美国提供商。请务必检查LLM工具调用请求！（Lisette/Claudette会自动检查）
你会信任LLM来处理访问控制吗？主要AI实验室（Anthropic, xAI, Gemini）似乎在工具调用方面正是这样做的。而且这变得很棘手。让我解释一下🧵或阅读博客文章：https://t.co/cfyz0U4NA4