Nvidia ha incluido el soporte para el modelo de lenguaje grande (LLM, por sus siglas en inglés) Gemma de Google en su ‘chatbot’ ChatRTX, que también admite ahora la interacción con imágenes y con voz.
ChatRTX es una herramienta que lleva las capacidades de la IA generativa a un entorno local para personalizar el contenido de un ‘chatbot’ en ordenadores Windows. Utiliza la técnica de generación de recuperación aumentada (RAG) para mejorar la precisión y la fiabilidad de los modelos de IA, pero también el ‘software’ TensorRT-LLM de Nvidia y aceleración NVIDIA RTX.
Nvidia lo actualizó con el soporte para Gemma, el modelo de lenguaje grande de código abierto de Google que se ejecuta en local, y para ChatGLM3, un LLM de código abierto y bilingüe (inglés-chino), como ha informado en su blog oficial.
Adicionalmente, ChatRTX admite también la interacción local con imágenes, ya que es compatible con el entrenamiento previo de imágenes en lenguaje contrastivo (Clip), de OpenAI. Y también con la voz a partir del modelo de conversión de voz a texto Whisper, también de OpenAI.
Europa Press