Yann LeCun对比AI与其他技术安全记录,指出AI安全性被夸大担忧。
AI是历史上最安全的技术推广之一。再读一遍,因为这是事实。数十亿人使用它,实际问题的比例微乎其微。然而,许多人却认为它危险或不安全。不断有人毫无证据地叫嚣其所谓的危险,而真正重要的地方——现实世界中——却毫无实证。现实中我们到底有什么?几个关于早期版本ChatGPT的法庭案例,指控其过于谄媚或未能识别精神疾病或处于困境中的人,这些案件仍在审理中,可能对也可能错。时间会证明。在证明有罪之前,假设无罪。诉讼的本质往往是为某些在审判过程中被驳回的事情寻找替罪羊。除此之外呢?答案:不多。纵观历史上其他技术,其事故率可能比割草机还低。想想汽车和飞机等其他技术,它们早期的安全记录非常糟糕。AI甚至比核能更安全。尽管核能总体非常安全,但三哩岛和福岛事件造成了重大事故。AI完全没有类似情况,甚至远远没有。我能听到反对者说“暂时而已,等着瞧!”但我们一直在等,等啊等。AI恐惧是一种非常顽固的野兽,尽管现实中并未出现实际危害。自动驾驶汽车比人类安全得多——人类每年全球造成120万人死亡、5000万人受伤。Waymo汽车的安全性大约是人类的10倍,伤亡极少。即使是早期的自动驾驶汽车,相比早期人类驾驶的汽车,安全记录也极其出色。在汽车领域,社会实际上抵制提高安全性。人们反对系安全带,因为要花钱。他们抵制早期的酒驾法律,认为侵犯自由。早期飞行非常危险。经过几十年努力才成为今天的奇迹。工作呢?有AI高管谈论“工作的终结”,但他们却在招聘更多被认为最易被AI取代的程序员,年薪接近50万美元。对优秀程序员的需求在上升。确实有高管声称因AI裁员,但仔细一看,大多只是规避劳动法或讨好股东,更应归因于疫情后的过度招聘。对股东说“AI”是裁员原因,股价会因“效率”上涨;如果说因过度招聘或犯错,股价会暴跌。事实是,任何前沿认真使用AI的人都看到需要大量监督和引导。AI无法端到端完成工作,只能完成任务。它会改进,但能否从任务跃升到工作?也许吧,但我们需要现实证据才能制定政策。现实中还有哪些问题?除了我在工作中已详细讨论的两个问题:监视和战争武器。但这些并非新问题,AI只是增强了它们,就像计算机、材料科学等之前的技术革命一样。再次问自己,真正问自己,那些所谓的危害在哪里?