基于正则化的JEPA模型与SOTA基础模型竞争,数据量减少90%
RT @randall_balestr: 基于正则化的JEPA(例如SIGReg)能否扩展并与SOTA基础模型(DINO)竞争?答案是:是的,且数据量减少10倍。
VISReg(SIGReg的轻微变体)与DINOv2-LVD142M竞争,仅需在inet22k上训练。
试试看:https://t.co/vBhrNAmFq6 https://t.co/XERFZEAE8t
VISReg(SIGReg的轻微变体)与DINOv2-LVD142M竞争,仅需在inet22k上训练。
试试看:https://t.co/vBhrNAmFq6 https://t.co/XERFZEAE8t