Gradio 介绍将 Qwen-Image 2.1 的 9B 提示词改写器压缩到 0.8B,可在笔记本运行。
转发 @Gradio:Qwen-Image 2.1 要想画出最好的图,得先由一个 9B 的"提示词改写器"把你的请求扩写一番。它在 bf16 下占 20 GB,用 1700 个词作系统提示,并在作答前思考约 1600 个 token。
我们把它压缩到了 0.8B。现在它能装进一台笔记本里了。🧵 https://t.co/mtpljLUHYM
我们把它压缩到了 0.8B。现在它能装进一台笔记本里了。🧵 https://t.co/mtpljLUHYM