普林斯顿团队发布全开源文生图模型i1
i1 是迄今最可复现的全开源文生图模型,用大规模消融实验弄清了好性能的来源,性能接近更大的仅开放权重模型。
普林斯顿团队发布 i1,一个从训练代码、数据到模型权重全部公开的文生图模型。团队用 300 多组对照实验(每次只改一个变量)和超过 70 万 TPU 小时(谷歌 AI 芯片运算时间)系统验证了模型与数据设计,最终在五项基准上平均领先此前最好的全开源模型 29.5 个百分点。
正文摘录
.jpg)  近来文生图模型发展迅速,但每篇工作多是独立地引入一整套模型、数据和训练设计,然后用私有的数据训出来了一个亮眼的模型。 由于缺少充分的消融实验、可复现的训练配方和可以复用的数据配方,研究者往往很难判断优异的模型表现究竟是来源于哪里:是更优质的训练数据,还是某个特定的模型或训练设计? 如果存在一个性能出色,同时从训练代码到训练数据完全公开可复现的模型的话,研究者们就可以在统一起点上做更多拓展和控制消融实验,从而更准确地分析、理解不同设计带来的实际影响。 最近,普林斯顿大学刘壮团队发布的 i1 模型就回应了这一需求。