动态

ARC-AGI-3测试允许与禁止的API设置

François Chollet
快速提醒一下,用于ARC-AGI-3测试的接口中,哪些是可以的,哪些是不可以的:

1. 不可以:专门为破解基准测试而设计的接口,或包含基准格式/内容知识的接口。

2. 可以:并非为ARC-AGI-3开发且对所有API用户都可用的通用API设置。

过去,我们就如何最好地测试他们的模型,尤其是关于压缩问题,与OpenAI进行了多次反复沟通。我很高兴他们开始找到答案。

当然,如果每个提供商在测试模型时使用不同的设置,就会产生潜在的公平性问题。我的看法是,只要清晰报告设置和成本,这没问题。
动态François Chollet2026-07-30原文

相关内容