Ternary Bonsai 2 三值权重 27B 推理模型上线,<6GB 可在浏览器本地运行

RT @xenovacom: 新发布:Ternary Bonsai 2 刚刚上线 Hugging Face —— 一个采用三值权重的 27B 推理模型,专为 agent 时代打造 🤯

体积比 FP16 小 9 倍,同时保留 98.2% 的智能水平。

大小不到 6GB,甚至可以在浏览器里通过 WebGPU 100% 本地运行!自己试试吧 👇 https://t.co/lgo25fm0nX