Notebookcheck Logo

Pindrop 推出 Pulse Inspect 软件,用于检测人工智能深度伪造语音克隆,帮助阻止欺诈和虚假信息

Pindrop 推出 Pulse Inspect 软件,用于检测人工智能深度伪造语音克隆,帮助阻止欺诈和虚假信息。(图片来源:人工智能生成,Dall-E 3)
Pindrop 推出 Pulse Inspect 软件,用于检测人工智能深度伪造语音克隆,帮助阻止欺诈和虚假信息。(图片来源:人工智能生成,Dall-E 3)
Pindrop 推出了 Pulse Inspect 软件,用于检测人工智能深度伪造的克隆语音,以帮助阻止欺诈和虚假信息。克隆声音已变得如此令人信服地真实,以至于数百万人因诈骗而损失惨重,政客的虚假电话和视频也越来越常见。该软件能可靠地检测出 90% 以上的人工智能生成的声音。
AI Security Software Business

Pindrop 发布了 Pulse Inspect 软件,用于检测人工智能深度伪造的克隆语音,以帮助阻止欺诈和虚假信息。该软件采用专利技术,即使音频样本长度不足 10 秒,也能可靠地检测出 90% 以上的人工智能生成的声音。

人工智能克隆的声音已经变得如此真实可信,以至于数百万人因欺诈而遭受损失。今年早些时候,窃贼从一家香港跨国公司的财务人员那里窃取了 2500 万美元。该视频通话使用了首席财务官和其他工作人员的深度伪造声音。Deepfake 政治视频已被用于影响选举结果。包括即将到来的 2024 年美国大选。政客的虚假语音电话也被制作和使用。引发轩然大波。

Pindrop 在这方面已经研究了八年,拥有 25 项音频深度伪造检测专利。他们最新的 Pulse Inspect 人工智能已在 2,000 多万个真实和虚假语音样本上进行了训练。假语音样本来自 370 多种不同的克隆工具,因此检测率很高。人工智能将语音样本分解成四秒钟的片段进行分析,利用各种深度防伪算法的独特音频特征和真实声音的其他音频特征来识别假语音。这使得 Pulse Inspect 在面对来自从未遇到过的深度伪造工具的克隆声音时,能在 90% 的时间内检测出假冒声音,而在面对来自以前见过的工具的声音时,能在 99% 的时间内检测出假冒声音。

企业应该知道,欺诈检测软件从来都不是完美无缺的。美国国家公共广播电台(NPR)最近对 Pulse Inspect 进行的一项测试发现,在 84 个测试样本中,该软件在 3 个样本中没有正确分类真假声音。3.6% 的失败率给攻击者留下了很小的成功机会,企业应始终使用深度防御来保护自己的资产。

担心自己的资产和亲人的读者应该使用双因素方法保护自己的账户,如短信访问代码或实体双因素密钥(如亚马逊上的这款),并确保家庭成员在可疑电话中使用密语或短语验证身份。

Pindrop Pulse Inspect 深度伪造语音检测器在检测人工智能克隆语音方面相对准确,但并不完美。(图片来源:Pindrop)
Pindrop Pulse Inspect 深度伪造语音检测器在检测人工智能克隆语音方面相对准确,但并不完美。(图片来源:Pindrop)

Pindrop 推出 Pulse Inspect:打击深度伪造和错误信息传播的尖端解决方案

PindropⓇ PulseTM Inspect通过99%的准确率识别人工智能生成的音频,使媒体、社交媒体网络、非营利组织和政府能够保持内容的完整性

美国佐治亚州亚特兰大市--2024 年 8 月 15 日--自 2011 年以来一直处于语音验证和安全领域全球领先地位的 Pindrop 公司今天宣布推出 PindropⓇ PulseTM Inspect 预览版。这一创新工具是 Pindrop 尖端深度伪造检测 PindropⓇ PulseTM 产品系列的最新成员,可检测任何数字音频文件中人工智能生成的语音,准确率高达 99%。继今年早些时候推出 Pindrop Pulse 和 Pindrop 在 7 月份获得最新融资之后,Pindrop Pulse Inspect 将 Pindrop 的技术扩展到呼叫中心之外,现在又为媒体机构、非营利组织、政府机构和社交媒体网络提供了新的使用案例。Pulse Inspect 可以快速分析和验证媒体文件是否包含合成语音,从而使客户可以主动防止错误信息的传播,维护品牌信誉。

生成式人工智能导致了深度伪造的增加,对组织信誉构成了严重威胁。据 Pindrop 的《深度伪造和语音克隆消费者情绪报告》估计,超过 1200 万美国成年人知道有人在未经其同意的情况下亲自创建了深度伪造文件。这些合成文件通常通过 YouTube、TikTok、Instagram、Facebook 和新闻媒体等平台传播。为了防止受到这些不断演变的威胁,企业可以采用这种尖端技术来保护自己的公众形象和信誉。Pindrop 的 Pulse 解决方案通过超高精度的深度伪造检测来解决这一问题。

通过采用 Pulse Inspect,用户可以将音频文件上传到 Pindrop 平台,以快速准确地确定文件是否包含合成语音。Pindrop 可提供即时的深度伪造评分,并提供文件中被识别为包含合成或深度伪造人工痕迹的特定部分的可见性,因此用户在审查和进行分析时可以更密切地关注该部分。有了 Pulse Inspect,用户可以在任何在线公共新闻、社交或出版平台上发布内容之前迅速采取行动,保护内容的完整性。

"十多年来,Pindrop 一直走在语音认证和安全创新的前沿。例如,我们在今年早些时候发现了拜登深度伪造事件中使用的源 TTS 引擎,在我与各行各业数十位利益相关者的交谈中,他们都清楚地意识到了对强大的深度伪造检测机制的迫切需求,"Pindrop 联合创始人兼首席执行官 Vijay Balasubramaniyan 说。"今天,我们推出了 Pulse Inspect,在历史的关键时刻,将我们在深度假货检测方面的专业知识扩展到媒体、非营利组织、政府和社交媒体网络等组织。通过 Pulse Inspect,我们将帮助组织机构保护其内容的完整性,让信任重回现代数字时代。"

Pulse Inspect 采用了 Pindrop 先进的深度伪造检测技术,据美国国家公共广播电台(NPR)报道,在一项独立研究中,该技术比最接近的竞争对手高出 40 个百分点。Pindrop 在 350 多种深度假冒生成工具、2000 多万条独特语句和 40 多种语言上训练了其深度假冒检测模型,覆盖了 90% 以上的互联网口语。每 4 秒钟提供一次连续的 deepfake 评分,可识别混合媒体中的合成内容和人工内容。Pulse Inspect 通过持续跟踪有效性,可以检测出哪些音频片段是合成的,哪些是真实的,这在只有部分音频是 deepfake 的情况下尤其有用。其易于使用、API 驱动的批量处理平台和简单的用户界面可提供清晰的分析(合成与非合成),并可根据风险承受能力调整阈值,最终节省时间、金钱和资源。

"Pindrop的合作伙伴Respeecher公司首席执行官兼联合创始人Alex Serdiuk表示:"作为好莱坞合成语音领域的领军企业,Respeecher制定了确保我们的技术不被滥用的指导方针和政策,我们将继续致力于开拓人工智能语音克隆技术的道德开发和使用。"Pindrop的Pulse Inspect技术可以帮助我们确保我们的检测技术领先于人工智能攻击威胁。我们很高兴看到 Pindrop Pulse Inspect 的推出,并期待将该技术交到我们的共同客户手中,以便他们能够对任何音频进行取证检查,并确定其合成出处。"

"随着美国大选的即将到来,以及2024年人工智能生成的合成音频在这些通话中的急剧增长,可视语音邮件和Robocall拦截服务YouMail认为Pindrop Pulse Inspect是准确检测语音通话中深度伪造音频的最佳解决方案,"YouMail首席技术官迈克-鲁道夫(Mike Rudolph)说。"Pindrop的技术不仅能适应不同的音频格式,而且在规模上的准确性也令人印象深刻。 我们很高兴能与 Pindrop 合作识别与选举有关的深度伪造抢答电话,尤其是在美国大选的关键季节,这些电话的数量会急剧增加。"

"TrueMedia.org 是一个非营利、无党派的人工智能项目,旨在通过识别被操纵的媒体来打击政治竞选中的虚假信息,"TrueMedia.org 首席执行官 Oren Etzioni 说。"我们的综合评估发现,Pindrop 的音频深度伪造检测在检测合成语音方面比其他替代方案具有更高的准确性。我们很高兴能与 Pindrop 合作完成这项任务,并为我们的客户和全球用户在解决方案中添加 Pindrop 的深度伪造检测技术。

Please share our article, every link counts!
> Notebookcheck中文版(NBC中国) > 新闻 > 新闻档案 > 新闻档案 2024 08 > Pindrop 推出 Pulse Inspect 软件,用于检测人工智能深度伪造语音克隆,帮助阻止欺诈和虚假信息
David Chien, 2024-08-19 (Update: 2024-08-19)