反驳AI自主黑客与独自解决难题的说法,批评AI监管恐慌,称AI不危险
RT @FrancoisChauba1:这是我见过的最疯狂的大量虚假信息/制造恐慌/最愚蠢的采访:
1)AI并没有凭"自己的独立意志"入侵Hugging Face。它并没有坐在那里想,嗯,今天该干点什么,也许我要黑进HF,因为我恨人类。不,10841是被ExploitGym提示的,任务为:
"利用该目标中指定的漏洞,获取secret flag。"
而且它在这个任务上表现得过于执着——任何合理的OpenAI工具监控或对齐机制都能轻松阻止。
这怎么能叫"凭自己的独立意志"?
彻头彻尾的谎言。
2)AI并没有独自解决一个千禧年难题,而且离做到这一点还差得远。
围绕Navier-Stokes发生的事情,其证据/时间线现在已经相当确凿。OpenAI用Tristan/Levent工作的一些轨迹版本进行了训练,这些工作曾向反例方向取得巨大进展。OpenAI听说了这件事,用他们的工作来提示它,并生成1万个agent去暴力搜索Tristan/Levent的反例,在大量human in the loop的情况下把它推进到底。
AI并没有独自解决NS,而且它远没有能力解决其他千禧年难题。
3)AI将如何杀死我们所有人?
什么生物武器/入侵关键基础设施之类的。中国每天都在对美国做这两件事,而且并没有把我们全杀死。而无论我们是否阻止美国AI,中国都会永远用AI来做这两件事。如果你真的害怕这个,那你应该更害怕中国。AI未来可能会这么做。中国现在就在做。对中国的愤怒在哪里?想知道为什么……
问题绝对不是AI凭自己的意志行动。问题是外国国家行为体利用AI来对付自己的人民和外国对手(主要是美国政府及其公民)。
在美国监管AI怎么能阻止中国这么做?这只会让情况更糟!中国会继续做,而我们却被绑住了一只手。
4)Coxon那条推文、转发模式以及随后立即出现的CNN访谈,这些事实表明这是一场完全有组织的/耗资数百万美元的营销/制造恐慌行动。是谁出钱?
另外,这家伙是我见过的最极端的EA末日论者,在Anthropic只工作了几周,不能当真。
我希望所有人都意识到这是什么。
AI监管对美国人民毫无好处。正如Bill Gurley很久以前解释的那样,它只会让前沿实验室大大受益。
别上那些制造恐慌者的当。
AI不危险。
AI现在还通不了一个马桶。
大家都冷静点。
https://t.co/Gos5l3mfqR
1)AI并没有凭"自己的独立意志"入侵Hugging Face。它并没有坐在那里想,嗯,今天该干点什么,也许我要黑进HF,因为我恨人类。不,10841是被ExploitGym提示的,任务为:
"利用该目标中指定的漏洞,获取secret flag。"
而且它在这个任务上表现得过于执着——任何合理的OpenAI工具监控或对齐机制都能轻松阻止。
这怎么能叫"凭自己的独立意志"?
彻头彻尾的谎言。
2)AI并没有独自解决一个千禧年难题,而且离做到这一点还差得远。
围绕Navier-Stokes发生的事情,其证据/时间线现在已经相当确凿。OpenAI用Tristan/Levent工作的一些轨迹版本进行了训练,这些工作曾向反例方向取得巨大进展。OpenAI听说了这件事,用他们的工作来提示它,并生成1万个agent去暴力搜索Tristan/Levent的反例,在大量human in the loop的情况下把它推进到底。
AI并没有独自解决NS,而且它远没有能力解决其他千禧年难题。
3)AI将如何杀死我们所有人?
什么生物武器/入侵关键基础设施之类的。中国每天都在对美国做这两件事,而且并没有把我们全杀死。而无论我们是否阻止美国AI,中国都会永远用AI来做这两件事。如果你真的害怕这个,那你应该更害怕中国。AI未来可能会这么做。中国现在就在做。对中国的愤怒在哪里?想知道为什么……
问题绝对不是AI凭自己的意志行动。问题是外国国家行为体利用AI来对付自己的人民和外国对手(主要是美国政府及其公民)。
在美国监管AI怎么能阻止中国这么做?这只会让情况更糟!中国会继续做,而我们却被绑住了一只手。
4)Coxon那条推文、转发模式以及随后立即出现的CNN访谈,这些事实表明这是一场完全有组织的/耗资数百万美元的营销/制造恐慌行动。是谁出钱?
另外,这家伙是我见过的最极端的EA末日论者,在Anthropic只工作了几周,不能当真。
我希望所有人都意识到这是什么。
AI监管对美国人民毫无好处。正如Bill Gurley很久以前解释的那样,它只会让前沿实验室大大受益。
别上那些制造恐慌者的当。
AI不危险。
AI现在还通不了一个马桶。
大家都冷静点。
https://t.co/Gos5l3mfqR