ARC-AGI-3测试允许与禁止的API设置
快速提醒一下,用于ARC-AGI-3测试的接口中,哪些是可以的,哪些是不可以的:
1. 不可以:专门为破解基准测试而设计的接口,或包含基准格式/内容知识的接口。
2. 可以:并非为ARC-AGI-3开发且对所有API用户都可用的通用API设置。
过去,我们就如何最好地测试他们的模型,尤其是关于压缩问题,与OpenAI进行了多次反复沟通。我很高兴他们开始找到答案。
当然,如果每个提供商在测试模型时使用不同的设置,就会产生潜在的公平性问题。我的看法是,只要清晰报告设置和成本,这没问题。
1. 不可以:专门为破解基准测试而设计的接口,或包含基准格式/内容知识的接口。
2. 可以:并非为ARC-AGI-3开发且对所有API用户都可用的通用API设置。
过去,我们就如何最好地测试他们的模型,尤其是关于压缩问题,与OpenAI进行了多次反复沟通。我很高兴他们开始找到答案。
当然,如果每个提供商在测试模型时使用不同的设置,就会产生潜在的公平性问题。我的看法是,只要清晰报告设置和成本,这没问题。