深度伪造语音骗过祖父后，这位创始人决定出手

当电话打来时，塔里尼·帕德马纳布尼的祖父以为自己正在与兄弟通话。电话另一头的声音说，他的兄弟遭绑架，唯一能把他救回来的办法就是支付赎金。祖父付了钱，后来才发现兄弟完全在别处，对这一切毫不知情。那个声音后来被证明是深度伪造：AI生成的兄弟声音仿制品。 “让我一直放不下的不是钱，”帕德马纳布尼谈及此事时说，“而是他根本无从分辨。” 那大约发生在两年前。如今，她说，她创立的总部位于旧金山的 DetectifAI 旨在确保其他人不会以同样方式受骗。 这是一个庞大且不断增长的问题，也对应着一个市场。美国联邦调查局称，美国人去年因AI驱动的诈骗损失近9亿美元，较2024年增长24%。60岁及以上人群的损失金额是50至59岁人群的两倍。 深度伪造语音检测领域不乏竞争者，包括 Reality Defender、Pindrop、Resemble AI、微软 Azure AI Content Safety 以及 Nuance（同样归微软所有）等公司。但帕德马纳布尼认为，如今的检测产品在远程服务器云端运行，手机制造商无法将其直接内建到设备中，使成为目标的人几乎无力防御。 DetectifAI 表示，它不像一些公司那样把大型云端模型缩小以塞进手机，而是从一开始就设计紧凑的AI模型，小到足以在智能手机操作系统内运行。其目标是在通话、语音消息和其他音频中即时判断声音是否为AI生成，同时音频始终无需离开设备。 DetectifAI 首先向手机制造商销售，授权其软件工具，使检测功能可作为手机操作系统的内置功能出货。她将其类比为 AT&T 在初代 iPhone 发布时的角色：当时这家运营商的独家协议使其与竞争对手区别开来。她认为，首家搭载 DetectifAI 的手机制造商将获得竞争优势，而深度伪造检测将像摄像头分辨率一样成为标准规格。 产品的核心是 DetectifAI 的软件开发工具包（SDK），这是一套代码包，其他公司可将其集成到产品中，并可通过现有渠道获得授权。帕德马纳布尼表示，第二条收入来源将来自向企业和反欺诈公司授权该技术。 与此同时，据帕德马纳布尼称，这家初创公司已有早期收入，并为印度金融机构每月处理超过10万通电话。这些电话由 AI 语音代理拨出，用于处理债务催收和贷款文件跟进，每通电话都进行深度伪造检测和说话人验证（确认来电者与其声称的身份相符）。她以保密协议为由拒绝透露客户名称。 帕德马纳布尼说，她12岁开始从事机器学习，后来在印度马尼帕尔理工学院学习信息物理系统（将软件与物理机械连接起来的技术）。她说，自己在国际学生工程竞赛“大学生方程式”（Formula Student）中，成为她所描述的印度首个无人驾驶赛车部门最年轻的团队负责人。 被问及这家初创公司迄今最有成就感的时刻时，她提到一次小规模 WhatsApp 测试版测试，用户转发可疑语音留言，随后会收到关于其是否真实的评估。一位测试者的亲属也曾被骗，这位测试者打电话说，自己会毫不犹豫为此付费。“我的祖父没有这个，”她说。 DetectifAI 迄今已从投资者 Josh Constine（TechCrunch 前编辑）和 Manohar Kamath（咨询服务公司 KM Growth 的负责人）那里筹集了一小笔种子资金。该公司是 TechCrunch 编辑团队审核筛选出的初创企业之一，将参加其知名的 Startup Battlefield 竞赛。该竞赛于10月13日至15日在旧金山市中心举行的 TechCrunch Disrupt 上进行。