动态

TPU上微调Gemma 3用于医疗问答,训练仅0.7分钟,准确率持平但行为改善

Aashi Dutt
我在TPU上使用Keras和JAX构建了一个原生TPU的医疗问答微调流程。该项目在来自ChatDoctor的医疗对话数据上微调Gemma-3,并在MedMCQA上评估,使用更大的Gemma 4模型作为参考基线。关键结果:- TPU上微调Gemma 3 - 仅训练260万参数(LoRA) - 训练完成仅需0.7分钟 - MedMCQA准确率持平 - Gemma 4在相同评估切片上零样本表现更好 - 微调输出更直接、更注重安全(双赢)。最大收获:微调可以改善响应行为而不提升基准准确率。完整实验见链接。
动态Aashi Dutt2026-04-29原文

相关内容