Nvidia ha lanzado Chat with RTX, una versión de demostración de un nuevo chatbot de IA que se ejecuta localmente en ciertas PC con GeForce RTX.
Impulsado por el software Nvidia TensorRT-LLM, la aplicación puede generar contenido y ser entrenada con una selección de contenido proporcionada por el usuario, incluyendo archivos .txt, .pdf, .doc/.docx y .xml, e incluso URL de videos de YouTube.
Al elegir el contenido para entrenar al bot, los usuarios pueden hacer preguntas personalizadas sobre el contenido proporcionado.
Por ejemplo, el bot puede resumir las instrucciones paso a paso en un video de instrucciones de YouTube o informar a un usuario sobre qué tipo de batería estaba en su lista de compras.
Una de las grandes ventajas es que todo ocurre localmente, manteniendo sus datos privados y seguros. Además, Chat with RTX es capaz de proporcionar respuestas rápidas, incluso sin conexión a Internet.
Para aprovechar esta increíble herramienta, necesitas tener una GPU Nvidia GeForce RTX de la serie 30 o superior, con al menos 8 GB de VRAM.
La aplicación también es compatible con Windows 10 o 11 y requiere los controladores más recientes de Nvidia.
