Nvidia 为 ChatRTX 添加了新的视觉、语音和语言功能--这是一款适用于配备 Nvidia RTX 显卡的 PC 的免费本地聊天机器人
Nvidia 扩展了Chat for RTX (ChatRTX) 的功能。在最新版本中增加了对其他大型语言模型（LLM）的支持以及视觉和语音支持。这个免费的本地聊天机器人在处理用户信息时不需要在线发送数据，从而保持了聊天的私密性。
不同的 LLM 可用于不同的目的--普通聊天、科学论文、论文写作等。有些 LLM 也有严格的训练来审查输出，因此这使得某些 LLM 比其他 LLM 更有用。以前可用的 TensorRT-LLM 模型包括默认的 Mistral 模型和 Llama 2。Nvidia 已将 ChatRTX 开放给一些新的模型，如 Gemma 和 ChatGLM3。
Gemma 是谷歌 DeepMind 开发的 LLM，于 2024 年发布了 20 亿和 70 亿参数模型。这些模型经过高度调整，可以过滤掉敏感的语音、个人信息以及有风险或危险的回复。
ChatGLM3 是一个由智谱人工智能和清华经管学院开发的 LLM，于 2023 年发布，是一个 60 亿参数模型。该中英双语模型旨在成为 OpenAI 的 ChatGPT 强有力的开源竞争对手。
Nvidia 将OpenAI 的 CLIP神经网络，以自动识别图像并关联相关文本。例如，如果向 CLIP 输送一张电视主播、广播摄像机和房间内灯光的图像，它就会将该图像标记为电视演播室的照片。这样，ChatRTX 就能在无需手动标注内容的情况下处理图片。OpenAI 的 Whisper语音识别系统也被添加到了 ChatRTX 中，允许用户向 ChatRTX 说出提示语。
想试用本地聊天机器人的读者可以在下载 Nvidia ChatRTX。只要满足以下系统要求即可。本地聊天机器人可在配备 NvidiaGeForce RTX 30 或 40 系列显卡的电脑上运行。也支持至少有 8 GB VRAM 的基于 Ampere 和 Ada 的显卡。没有兼容显卡的用户可以在亚马逊上购买快速的 Nvidia 显卡。其他系统要求包括 Windows 11、16 GB 内存、至少 35 GB 可用存储空间和 535.11 或更高版本的驱动程序。
