Bonsai 27B通过1-bit量化压缩至3.8GB，浏览器本地运行

转推 @xenovacom: Bonsai 27B 刚刚永远改变了本地LLM游戏规则。

1-bit量化将其从54GB缩小到仅3.8GB（-93%），同时保留了90%的智能。这太疯狂了。

通过Fable 5和GPT 5.6 Sol编写的自定义WebGPU内核，该模型现在可以在你的浏览器中本地运行！https://t.co/I30M8u1qVW