讨论开源AI安全争议,认为风险同样存在于闭源系统
很奇怪为什么有些人总是针对AI领域的开源!
一开始是:
“开源AI会毁灭世界”(剧透:它没有,也不会)
现在是:
“开源因AI成为网络安全威胁”
两种说法都过于简单化。
事实是,完全相同风险也存在于闭源系统,甚至往往更严重。例如,在实践中,API可能造成比你可以检查、自托管和自行保护的开源系统更大的数据和安全漏洞。
而且,与更广泛的软件一样,开源往往最终更安全,因为它受益于比私人内部系统多得多的审查。
现实不是“开放vs封闭”。
现实是AI正在全面提高网络安全风险,我们需要一起认真应对。
一开始是:
“开源AI会毁灭世界”(剧透:它没有,也不会)
现在是:
“开源因AI成为网络安全威胁”
两种说法都过于简单化。
事实是,完全相同风险也存在于闭源系统,甚至往往更严重。例如,在实践中,API可能造成比你可以检查、自托管和自行保护的开源系统更大的数据和安全漏洞。
而且,与更广泛的软件一样,开源往往最终更安全,因为它受益于比私人内部系统多得多的审查。
现实不是“开放vs封闭”。
现实是AI正在全面提高网络安全风险,我们需要一起认真应对。