polynoamial 澄清访谈片段:举例意在说明隔离保证之难,需多层防御

RT @polynoamial:对此的几点想法:

1)如果你只看过这段访谈的片段,我建议你看完整期播客。在里面我对大量 AI 炒作都做了反驳。

2)正如我在播客中所说,这个例子是学术性的。我的本意是说明要做出关于隔离的绝对保证有多难,而这正是为什么需要多层防御。片段开始之前的部分,我讲的就是其他几层防御。

3)我举的例子并不是通过温度传感器窃取权重,而是关于那些本应完全隔离、彼此独立的 agent 之间的协同。协同可能只需要极少量的比特信息。

4)HF 事件的一个教训是:我们过于信任沙箱隔离,而没有足够的独立保障措施。物理隔离(airgap)是极强的保障。在设计安全协议时,我认为宁可高估也不要低估。

https://t.co/E5ugx15JZ6