May 1, 2024

英伟达上线了ChatRTX新版本

NVIDIA今日发布了ChatRTX应用程序0.3版本的更新,该更新在NVIDIA的官网上线。这款类似ChatGPT的应用程序新增了多项功能,这些功能曾经在3月份的NVIDIA GTC会议上做过展示,包括图片搜索能力、AI语音识别技术,以及对更多大型语言模型(LLM)的支持。

ChatRTX是一款在本地PC安装的应用程序,它允许用户在不将数据用于训练不良用途的情况下,将自己的数据应用于AI场景。例如,有爱好者将RTX显卡安装在NAS中,使用ChatRTX在整个数据网络中整合数据。

之前已经有人在官方发布前下载了新版本,并测试了一些新功能。ChatRTX扩展了其支持的大型语言模型,包括谷歌的最新LLM“Gemma”和开源选项“ChatGLM3-6B”。选择适合的LLM非常重要,因为不同的LLM可能会以完全不同的方式执行相同的任务。

ChatRTX的图片搜索和交互工具也进行了大幅升级,它借鉴了OpenAI的CLIP技术,使程序能够在不需要复杂的元数据标签的情况下搜索图片。此外,ChatRTX用户现在可以通过增加对Whisper的支持,使用AI语音识别系统与其数据进行对话。

该技术利用了NVIDIA的张量核心和TensorRT库的力量,因此它需要RTX GPU。目前,它不支持第一代RTX 20系列。如果你想运行这个应用程序,你将需要至少配备8GB VRAM的NVIDIA RTX 30或40系列GPU,或者专业的Ampere或Ada GPU。

在正式发布1.0版本之前,可能会继续增加程序的功能。NVIDIA的ChatRTX通过提供语音和视频提示等增强输入选项,将AI PC体验提升到了一个新的层次。这款chatbot自“Chat With RTX”品牌首次推出以来已经取得了巨大进步,与如OpenAI的ChatGPT等其他选项不同的是,ChatRTX更注重个性化体验,因为它设计为在本地系统上运行,这意味着你随时都可以在PC上使用GPT chatbot,无需上网。

0 comments:

Post a Comment

VxWorks