转离机制可解释性领域,仍乐见研究者重视黑盒可监控性。
我不再从事机制可解释性研究了,但很高兴听到该领域的研究人员(在无法监控CoT的世界中他们会变得更加重要)也希望保持黑盒可监控性。
@tszzl 我认为白盒技术不太可能在一年的时间内提供像当前CoT那么多的可监控性。目前,它们能够捕捉一些未言语化的想法/计划,但远不如CoT那样可靠。我对……持乐观态度。
@tszzl 我认为白盒技术不太可能在一年的时间内提供像当前CoT那么多的可监控性。目前,它们能够捕捉一些未言语化的想法/计划,但远不如CoT那样可靠。我对……持乐观态度。