NVIDIA推出的“Chat With RTX”应用是一款本地的AI聊天机器人演示应用,以实现用户的个性化需求和保护隐私。此应用能够无缝对接用户的个人资料和大型语言模型,包括文档、笔记、视频等,利用TensorRT-LLM和RTX加速技术,通过检索增强生成(RAG)技术,用户可与自定义的聊天机器人对话,获得个性化的见解。该应用支持多种文件格式,并可自动加载YouTube播放列表的转写内容。其完全在Windows RTX PC或工作站上本地运行,无需将数据传输到云服务器,确保了数据的安全性和快速响应。硬件要求包括NVIDIA GeForce RTX 30或40系列图形处理器等,为开发者提供了丰富的开发资源和灵感。此应用是NVIDIA在生成式AI技术领域的又一创新,为个人用户提供了更加安全、快速且个性化的聊天体验。

网站地址:https://www.nvidia.cn/ai-on-rtx/chat-with-rtx-generative-ai