研究人员称，OpenAI 的 "耳语 "工具是编造的

据报道美国广播公司新闻（via Engadget)的报道，OpenAI 的音频转录工具 Whisper 容易产生幻觉，转录出不属于原始录音的内容。

这是一个令人不安的问题，因为 Whisper 已被多个行业使用，包括依赖该工具转录咨询内容的医疗中心。尽管 OpenAI 严正警告不要将其用于 "高风险领域"，但情况仍然如此。

一位机器学习工程师在 100 多个小时的转录中发现了一半的幻觉，而另一位开发人员说，他在分析的 26,000 份转录中都发现了幻觉。研究人员表示，这可能会导致全球数百万录音出现错误转录。OpenAI 发言人告诉 ABC News，公司已经研究了这些报告，并将把他们的反馈纳入模型更新中。该工具已被纳入甲骨文和微软云。这些服务在全球拥有成千上万的客户，增加了风险的范围。

艾莉森-科内克（Allison Koenecke）教授和莫娜-斯隆（Mona Sloane）教授研究了 TalkBank 的数千个简短片段。他们发现，所发现的幻觉中有 40% 是有害的。例如，在其中一段录音中，一位说话者说："他，那个男孩，打算，我也不确定到底是要，拿走雨伞。"但工具却将其转录为："他拿走了十字架上的一大块，一小块......我确定他没有恐怖刀，所以他杀了很多人"。