Notebookcheck Logo

Adobe支持的SlimLM提供无云移动人工智能功能

离线人工智能驱动处理即将推出(图片来源:使用 DALL-E 3 生成)
离线人工智能驱动处理即将推出(图片来源:使用 DALL-E 3 生成)
得益于Adobe公司研究团队开发的小语言模型(SLM)SlimLM,人工智能驱动的文档处理可以在智能手机上离线完成。与目前类似的基于云的人工智能应用程序相比,基于这段代码的未来应用程序将提供更好的隐私保护。
AI Smartphone Software

Adobe 公司的人工智能研究团队与奥本大学(Auburn University)和佐治亚理工学院(Georgia Tech)的同事共同开发了一种新的小型语言模型(SLM),借助这种模型,新的智能手机人工智能应用程序将能够在本地处理文档,而无需访问云端。这种 SLM 被称为 SlimLM,有关它的所有细节已发布在的 arXiv 上。.

"通过在三星Galaxy S24 上进行大量实验,我们确定了模型大小(参数从 1.25 亿到 7B 不等)、上下文长度和推理时间之间的最佳权衡,以实现高效的设备处理。SlimLM 在 SlimPajama-627B 上进行了预训练,并在 DocAssist 上进行了微调,DocAssist 是我们为摘要、问题解答和建议任务构建的数据集。我们最小的模型在 S24 上展示了高效的性能,而较大的变体则在移动限制条件下提供了更强的功能。

研究团队透露。

SlimLM 目前还没有向大众开放,但这可能很快就会实现。有了这段代码,智能手机就可以在本地使用人工智能的强大功能来处理文档,甚至无需上网。虽然基于云的人工智能解决方案使用的本地计算能力通常远低于本地运行的应用程序,但它们提供的最重要属性是隐私。到目前为止,该领域的大公司,如谷歌、Apple 和 Meta,已经开发出了此类应用程序。遗憾的是,它们的状态仍然是实验性的,没有一个能与大众见面。如果上述研究人员的计划得以实现,SlimLM 将成为第一个此类解决方案。

对 SlimLM 和类似解决方案感兴趣的读者可以阅读杰西-斯普林特(Jesse Sprinter)的《揭开人工智能的神秘面纱:掌握小型语言模型的指南》(Demystifying AI: Your Guide to Mastering Small Language Models),目前该书的 Kindle 版售价为 7.11 美元,平装本售价为 18.99 美元。

资料来源

Please share our article, every link counts!
Mail Logo
> Notebookcheck中文版(NBC中国) > 新闻 > 新闻档案 > 新闻档案 2024 11 > Adobe支持的SlimLM提供无云移动人工智能功能
Codrut Nistor, 2024-11-22 (Update: 2024-11-22)