Notebookcheck Logo

英伟达与Apple :摒弃恩怨,提升人工智能性能

Apple 和英伟达(Nvidia)宣布建立人工智能合作伙伴关系。(图片来源:Pexels,Nvidia,经编辑)
Apple 和英伟达(Nvidia)宣布建立人工智能合作伙伴关系。(图片来源:Pexels,Nvidia,经编辑)
Apple 和 Nvidia 宣布了一项旨在提高 LLM 推理性能的惊喜合作,将 的开源 ReDrafter 与 Nvidia 的原始芯片技术相结合。结果如何?与自动回归相比,性能提高了 2.7 倍。Apple
Apple Nvidia

众所周知,Apple 和 Nvidia 的关系并不融洽。曾经有一段时间,Apple 的 Mac 产品线确实使用了 Nvidia 显卡,但 2008 年,Nvidia 的 8400M 显卡在 MacBook 上出现了大范围的问题,这让事情急转直下。 GeForce 8400M8600MdGPU的 MacBook 出现大面积问题。由于包装缺陷,导致过热、图形故障,极端情况下 GPU 完全失效。虽然 MacBook 继续采用 Nvidia GPU,但它们之间的关系无疑出现了下滑,在接下来的几年里,Apple ,转而采用 AMD,再也没有回头。

因此,与搭载 GTX 和 RTX 的 Windows 笔记本电脑相比,Mac 电脑的图形处理性能很差。当然,直到Apple Silicon-powered Mac 的出现。尽管 Mac 发烧友一直希望 Nvidia 和Apple 能冰释前嫌,但直到现在才真正实现。Apple 最近宣布与 Nvidia 合作,旨在加速大型语言模型推理,这标志着这两家价值数万亿美元的巨头之间达成了令人欣喜的停战协议。

这次意想不到的合作的核心是Apple 的 ReCurrent Drafter (ReDrafter),它基本上是一种相当创新的推测解码方法,旨在改进今年早些时候推出的 LLM 标记生成。Nvidia 显然与Apple 合作,以某种方式将 ReDrafter 纳入其TensorRT-LLM框架中。此外,这家人工智能巨头还用新的优化算子更新了其框架,从而实现了无缝采用。即使对我这样的门外汉来说,结果也听起来很有希望--使用 Nvidia GPU 和 ReDrafter 的 LLM 在令牌生成速度上实现了高达 2.7 倍的提升,从而降低了延迟和功耗。

当然,这次合作是否预示着这两家全球最大的公司将有更多的合作,或者这只是一次性的休战,目前还不得而知。无论如何,任何形式的研发合作联盟对消费者来说都是利好消息。毕竟,谁不想要更快的软件呢?

资料来源

Please share our article, every link counts!
Mail Logo
> Notebookcheck中文版(NBC中国) > 新闻 > 新闻档案 > 新闻档案 2024 12 > 英伟达与Apple :摒弃恩怨,提升人工智能性能
Sambit Saha, 2024-12-20 (Update: 2024-12-20)