Anthropic试点让外部研究者研究AI平台数据，推动平台透明度。

自从共同创立Anthropic以来，我一直痴迷于对AI系统进行第三方测量的必要性。（这在我宣布Anthropic的推文中：https://t.co/eoyuAnAcQ3）。现在，我们正在试点一种方式，让外部研究人员和组织在保护用户隐私的同时，研究Claude等AI平台上发生的事情。\n\n这很重要，因为AI系统是巨大、复杂的社会技术事物，具有无数属性。认为AI实验室能够想出所有合适的方法来衡量和评估这些系统，是傲慢且明显错误的。因此，我们需要想办法外部化不仅是系统的属性，还有关于这些系统如何与世界上的人们互动的数据，即平台遥测。\n\n我们在这里尝试的是原型化可能需要的下一种透明度形式，即在保护用户隐私的同时实现平台透明度。与此同时，我想找到方法授权Anthropic之外的研究人员，利用公司独有的数据开展自己的研究，因为我认为这是创建更活跃的外部研究生态的好方法。\n\n这是更大项目“Anthropic Institute”的又一步，旨在测量和外部化我们AI系统及所部署平台的更多细节，并与我们经济学团队通过Anthropic经济指数所做的现有努力并列。\n\n我们现在正在向外界征集下一波项目的研究想法——请申请！