LeCun呼吁开源AI,反对封闭监控AI
当你听到AI“安全”时,你应该听到的是“审查”和“控制”。
我们所有人都被慈爱恩典的保障监视和窥探。
今天是智能服务条款控制。你不能做AI研究。不能问关于孩子生物作业的问题。
明天是拒绝帮助你完成竞争性的编程项目。一份100页的问题黑名单。
或者这个问题意味着AI会偷偷搜索你的电脑,并向警察告密,因为你在英国的WhatsApp聊天中发布了一条被禁止的侮辱性言论。
开源必须在模型和框架层面都获胜。
因为AI将成为我们与世界的接口。
它将位于比操作系统更高的层级。它将把当前的SaaS层、聊天、通讯、应用程序、应用创建都压缩成一个尚未存在的全新接口。
它必须是开放的。它必须是一个密码朋克解决方案,将隐私和安全作为第一优先级。
如果闭源解决方案赢得了这一层,对世界来说将是一场灾难。尤其如果它是由一家公司用一个闭源模型构建的。
为什么?
因为我们与AI分享的内容将比我们与任何机器分享的都要亲密。它将成为我们的朋友、我们的倾诉对象、我们的顾问。它会比任何人更早知道我们的商业想法。我们的医疗问题。我们的财务状况。我们会谈论与伴侣的争吵。会谈论迷失或沮丧。我们的孩子会跟它谈论学校的问题、霸凌、心碎,那些他们不会告诉我们的事情。
它会比我们更了解我们自己。
现在世界运行在经济监控之上。我们用免费的东西换来了深入窥视我们生活的应用。如果我们在AI时代复制这种模式,那不仅仅是监控经济2.0。
这是平方级的监控经济。
社会评分。自动取证。你以为享有特权的法律对话出现在法庭上。陌生人以每小时2美元的报酬从不知何处读取你生活中最私密的细节。
每一个不安全感、恐惧、凌晨两点对你AI伙伴低语的半成型想法,都存放在某个数据库中,可以搜索。
如果我们让闭源模型决定我们能做什么不能做什么,情况只会越来越糟。
我们必须用尽最后一口气对抗这个未来。
如果你能读到这段话,你就是革命。
我们所有人都被慈爱恩典的保障监视和窥探。
今天是智能服务条款控制。你不能做AI研究。不能问关于孩子生物作业的问题。
明天是拒绝帮助你完成竞争性的编程项目。一份100页的问题黑名单。
或者这个问题意味着AI会偷偷搜索你的电脑,并向警察告密,因为你在英国的WhatsApp聊天中发布了一条被禁止的侮辱性言论。
开源必须在模型和框架层面都获胜。
因为AI将成为我们与世界的接口。
它将位于比操作系统更高的层级。它将把当前的SaaS层、聊天、通讯、应用程序、应用创建都压缩成一个尚未存在的全新接口。
它必须是开放的。它必须是一个密码朋克解决方案,将隐私和安全作为第一优先级。
如果闭源解决方案赢得了这一层,对世界来说将是一场灾难。尤其如果它是由一家公司用一个闭源模型构建的。
为什么?
因为我们与AI分享的内容将比我们与任何机器分享的都要亲密。它将成为我们的朋友、我们的倾诉对象、我们的顾问。它会比任何人更早知道我们的商业想法。我们的医疗问题。我们的财务状况。我们会谈论与伴侣的争吵。会谈论迷失或沮丧。我们的孩子会跟它谈论学校的问题、霸凌、心碎,那些他们不会告诉我们的事情。
它会比我们更了解我们自己。
现在世界运行在经济监控之上。我们用免费的东西换来了深入窥视我们生活的应用。如果我们在AI时代复制这种模式,那不仅仅是监控经济2.0。
这是平方级的监控经济。
社会评分。自动取证。你以为享有特权的法律对话出现在法庭上。陌生人以每小时2美元的报酬从不知何处读取你生活中最私密的细节。
每一个不安全感、恐惧、凌晨两点对你AI伙伴低语的半成型想法,都存放在某个数据库中,可以搜索。
如果我们让闭源模型决定我们能做什么不能做什么,情况只会越来越糟。
我们必须用尽最后一口气对抗这个未来。
如果你能读到这段话,你就是革命。