Llenando los Vacíos: Los Modelos de Idiomas Grandes se Vuelven Más Inteligentes con los Datos Empresariales

Servicio NVIDIA NeMo para ayudar a las empresas a combinar LLM con sus datos patentados para alimentar chatbots, servicio al cliente y más.
por Erik Pounds

Los modelos de idiomas grande disponibles en la actualidad tienen un conocimiento increíble, pero actúan como cápsulas del tiempo: la información que capturan se limita al conocimiento disponible cuando fueron capacitados por primera vez. Si se entrena hace un año, por ejemplo, un LLM que impulsa un chatbot de IA de una empresa no conocerá los últimos productos y servicios en la empresa.

Con el servicio NVIDIA NeMo, parte de la recientemente anunciada familia NVIDIA AI Foundations de servicios en la nube, las empresas pueden cerrar la brecha al aumentar sus LLM con datos patentados, lo que les permite actualizar con frecuencia la base de conocimientos de un modelo sin tener que capacitarlo más, o comenzar desde cero

Esta nueva funcionalidad en el servicio NeMo permite que grandes modelos de lenguaje recuperen información precisa de fuentes de datos patentadas y generen respuestas conversacionales similares a las humanas a las consultas de los usuarios. Con esta capacidad, las empresas pueden usar NeMo para personalizar grandes modelos de lenguaje con conocimientos específicos de dominio actualizados periódicamente para sus aplicaciones.

Esto puede ayudar a las empresas a mantenerse al día con un panorama en constante cambio en el inventario, los servicios y más, desbloqueando capacidades como chatbots de IA de alta precisión, motores de búsqueda empresarial y herramientas de inteligencia de mercado.

NeMo incluye la capacidad de citar fuentes para las respuestas del modelo de lenguaje, lo que aumenta la confianza del usuario en el resultado. Los desarrolladores que usan NeMo también pueden configurar medidas de seguridad para definir el área de especialización de la IA, lo que brinda un mejor control sobre las respuestas generadas.

Quantiphi, una empresa pionera en soluciones y plataformas de ingeniería digital de IA y uno de los socios de prestación de servicios de NVIDIA, está trabajando con NeMo para crear una solución de IA generativa modular llamada baioniq que ayudará a las empresas a crear LLM personalizados para aumentar la productividad de los trabajadores. Sus equipos de desarrolladores están creando herramientas que permiten a los usuarios buscar información actualizada en texto, imágenes y tablas sin estructura en segundos.

Traer Datos Oscuros a la Luz

Los analistas estiman que alrededor de dos tercios de los datos empresariales no tienen explotación. Conocido como datos oscuros (Dark Data), esta información no se usa en parte porque es difícil obtener ideas significativas de vastas tocadines de datos. Ahora, con NeMo, las empresas pueden recuperar ideas de estos datos utilizando indicaciones de lenguaje natural.

NeMo puede ayudar a las empresas a crear modelos que puedan aprender y reaccionar ante una base de conocimientos en evolución, independientemente del conjunto de datos en el que se entrenó originalmente el modelo. En lugar de tener que volver a capacitar a un LLM para dar cuenta de la nueva información, NeMo puede aprovechar las fuentes de datos empresariales para obtener detalles actualizados. Se puede agregar información adicional para expandir la base de conocimiento del modelo sin modificar sus capacidades básicas de procesamiento de lenguaje y generación de texto.

Las empresas también pueden usar NeMo para construir barandillas para que las aplicaciones de IA generativa no brinden opiniones sobre temas fuera de su área de especialización definida.

Habilitando una Nueva Ola de Aplicaciones de IA Generativa para Empresas

Al personalizar una LLM con datos comerciales, las empresas pueden hacer que sus aplicaciones de IA sean ágiles y receptivas a los nuevos desarrollos.

  • Chatbots: muchas empresas ya usan chatbots de IA para impulsar las interacciones básicas de los clientes en sus sitios web. Con NeMo, las empresas podrían construir expertos virtuales de materia para cualquier dominio.
  • Servicio al cliente: las empresas podrían actualizar los modelos NeMo con detalles sobre sus últimos productos, ayudando a los representantes de servicios en vivo a responder más fácilmente las preguntas de los clientes con información actualizada.
  • Búsqueda empresarial: las empresas tienen una gran cantidad de conocimiento en toda la organización, incluida la documentación técnica, las políticas de la empresa y los artículos de soporte de TI. Los empleados podrían consultar un motor de búsqueda interno con alimentación de NeMo para recuperar información más rápido y más fácilmente.
  • Inteligencia de mercado: la industria financiera recopila información sobre los mercados globales, las empresas públicas y las tendencias económicas. Al conectar una LLM a una base de datos actualizada en tiempo real, los inversores y otros expertos podrían identificar rápidamente detalles útiles de un gran conjunto de información, como documentos regulatorios, registros de llamadas de ganancias o estados financieros.

Las empresas interesadas en agregar capacidades de IA generativa a sus aplicaciones pueden solicitar acceso anticipado al servicio NeMo.

Vea al fundador y director ejecutivo de NVIDIA, Jensen Huang, hablar sobre NVIDIA AI Foundations en el discurso de apertura de NVIDIA GTC, que se realizará en línea hasta el jueves 23 de marzo: