早在2月份，NVIDIA就推出了基于LLM的聊天机器人ChatwithRTX，5月份，该聊天机器人更新了新模型和新功能，软件包大小从35G缩减到11G，软件正式更名为ChatRTX。
在之前关于Chatwith RTX的文章和视频中我们提到ChatwithRTX并没有自带中文答案，如果想要实现中文答案需要自己安装环境和大语言模型，而这一步对于用户的门槛比较高，需要经过很多复杂的步骤才能实现中文问答。
在介绍之前，我们先简单说一下什么是ChatRTX。ChatRTX采用了RAG技术，由NVIDIATensorRT-LLM和NVIDIARTX加速，将聊天机器人功能带到了RTXWindowsPC和工作站上。所以使用ChatRTX的前提条件是，你得有一块RTX30或RTX40系列的显卡机器人聊天的软件叫什么，显存8GB以上。
ChatRTX 最主要的特点就是在本地运行，不同于各类上传到云端的 AI 聊天机器人，本地计算在数据存储上更加安全，而且得益于 NVIDIA TensorRT-LLM 的支持，在处理上也更快，避免了输入问题结果需要很长时间加载才能给出答案的情况。
ChatRTX 本次更新除了原有的 Gemma 模型外，还扩展了一个支持中英文的 ChatGLM3 模型，因此使用起来更加方便机器人聊天的软件叫什么，不需要像上一版一样安装环境。本次更新也让更多用户能够更加轻松地上手，中文对话也流畅无比。导入文档后，可以快速在文件夹中调取所需的内容和信息，并呈现给用户。
除了新增的大语言模型，ChatRTX还加入了图像提示词检索的功能。导入一个包含图片的文件夹后，ChatRTX可以通过OpenAICLIP提取图片的关键词。这样，你输入图片的关键词，比如爬山，ChatRTX就会为你提供文件夹中关于爬山的图片。可以说大大方便了本地图片的搜索，即使你忘记了，依然可以通过关键词搜索找到。
此外，ChatRTX还加入了语音识别功能，可以在30秒内识别语音并输入到对话框中，包括中文和英文识别。无论是工作时解放双手，还是后续的扩展功能，语音识别对用户来说都是有益处的。不过上一版本的问题依然存在，那就是ChatRTX无法衔接上下文，也就是每问一个问题就会清除记忆，每次问题只能是“一次性”的问题。
不过我相信ChatRTX未来会不断更新，成为一款反馈速度快的本地化聊天、文件检索机器人。但这一切的前提是，你得拥有一块NVIDIARTX 30系显卡。俗话说，宁买新不买旧。影驰RTX4070 SUPER metal Master OC，这款新发布的RTX40 SUPER系列显卡，是你最好的选择。
影驰 RTX4070 SUPER metal Master OC采用NVIDIA Ada Lovelace架构，性能强悍，12GB显存容量，轻松满足LLM的硬件需求。无论是游戏还是AI，影驰 RTX4070 SUPER metal Master OC都能应付自如，所以喜欢的朋友欢迎前往影驰官方商城选购哦~
（8735139）
