deepfake 语音诈骗案后，DetectifAI 想把鉴伪模型塞进手机
DetectifAI 把 deepfake 语音鉴伪模型做小到能直接跑在手机系统里，通话中实时判断声音真伪，音频不出设备。
Tarini Padmanabhuni 的祖父接到一通电话，以为是兄弟在求助，付了赎金后才发现对方根本不在场——那个声音是 deepfake（AI 合成的仿声）。她因此创办旧金山公司 DetectifAI，目标是把语音鉴伪做成手机系统的内置能力。
正文摘录
当电话打来时，Tarini Padmanabhuni 的祖父以为自己在跟兄弟通话。电话那头的声音说自己被绑架了，要把他救回来，唯一的办法就是支付赎金。祖父付了钱，后来才知道他兄弟当时完全在别的地方，对这一切毫不知情。那个声音，事后查明是深度伪造（deepfake，即用 AI 生成的仿冒音视频）。 “让我一直放不下的不是钱，”Padmanabhuni 在谈到这件事时说，“而是他根本无从分辨。” 那大约是三年前的事了。她说，如今她创办的旧金山公司 [DetectifAI](https://detectif.ai/) 的目标，就是确保其他人不会再以同样的方式被蒙骗。 这是一个规模庞大且不断增长的问题，市场也随之而来。据 FBI 数据，去年美国人在 AI 驱动的诈骗中损失接近 9 亿美元，较 2024 年增长 24%。60 岁及以上人群的损失是 50 至 59 岁人群的两倍。 深度伪造语音检测领域的竞争者并不少，包括 Reality Defender、Pindrop、Resemble AI、Microsoft Azure AI Content Safety 以及 Nuance（同样归微软所有）等公司。但 Padmanabhuni 表示，如今的检测产品都跑在云端远程服务器上，所以手机厂商没法把它们直接内建到设备里，被盯上的那个人因此几乎没有可用的防御手段。 有些公司选择把云端大模型压缩到手机上运行，DetectifAI 则不同，它表示自己从一开始就设计紧凑的 AI 模型，小到足以跑在智能手机操作系统内部。目标是在通话、语音留言和其他音频中即时判断某个声音是否为 AI 生成，而且音频全程不离开设备。 DetectifAI 最先销售的对象是手机厂商，以授权方式提供其软件工具，让检测功能作为手机操作系统的内建特性一起出货。