Tu solicitud de préstamo en línea acaba de ser rechazada sin explicación. Te damos la bienvenida a la caja negra de IA.
Las empresas de todo tipo recurren a la inteligencia artificial para tomar decisiones de computación basadas en los datos. Sin embargo, los consumidores que usan aplicaciones con IA desconocen cómo se toman las decisiones automatizadas. Además, muchas personas que trabajan en de las empresas no tienen idea de cómo explicar el funcionamiento interno de la IA a los clientes.
Fiddler Labs quiere cambiar eso.
La startup de San Francisco ofrece una plataforma de IA explicable que permite a las empresas explicar, controlar y analizar sus productos de IA.
La IA explicable es un área de creciente interés para las empresas porque aquellas personas que no pertenecen a la ingeniería a menudo necesitan comprender cómo funcionan sus modelos de IA.
Mediante el uso de la IA explicable, los bancos pueden proporcionar razones a los clientes por el rechazo de un préstamo, en función de los puntos de datos que se enviaron a los modelos, como las tarjetas de crédito al máximo o las altas relaciones de deuda e ingresos. Internamente, los especialistas en marketing pueden crear estrategias sobre clientes y productos al conocer más sobre los puntos de datos que los impulsan.
“Esto está cerrando la brecha entre los científicos expertos en datos que desarrrollan los modelos y los equipos de negocios que usan estos modelos para tomar decisiones”, dijo Anusha Sethuraman, directora de marketing de productos de Fiddler Labs.
Fiddler Labs es miembro de NVIDIA Inception, un programa que permite a las empresas que trabajan en inteligencia artificial y ciencia de datos con herramientas fundamentales, experiencia y asistencia de marketing, y les ayuda a llegar más rápido al mercado.
¿Qué es la IA Explicable?
La IA explicable es un conjunto de herramientas y técnicas que ayudan a explorar la matemática de un modelo de IA. Puede asignar las entradas de datos y sus valores ponderados que se utilizaron para obtener los resultados del modelo.
Todo esto, esencialmente, permite a una persona sin conocimientos conocer los mecanismos detrás del proceso que, de otra forma, permanece oculto. El resultado es que la IA explicable puede ayudar a proporcionar información sobre cómo y por qué un modelo tomó una decisión específica.
“A menudo hay un obstáculo para que la IA entre en producción. La explicabilidad es una de las cosas que creemos que puede resolver este obstáculo”, dijo Sethuraman.
Con un conjunto de modelos a menudo en uso, crearla no es un trabajo fácil.
Pero Krishna Gade, CEO y cofundador de Fiddler Labs, se está ocupando de eso. Anteriormente dirigió el equipo en Facebook que creó la característica “¿Por qué estoy viendo esta publicación?” para ayudar a los consumidores y a los equipos internos a comprender cómo funciona su IA en las noticias de Facebook.
Él y Amit Paka, un compañero de clase de la Universidad de Minnesota, unieron fuerzas y renunciaron a sus trabajos para fundar Fiddler Labs. Paka, director de productos de la compañía, estaba motivado por su experiencia en Samsung con aplicaciones de recomendación de compras y la falta de comprensión sobre cómo funcionan estos modelos de recomendación de IA.
Explicabilidad para la Transparencia
Fiddler Labs se fundó en 2018 y ofrece explicabilidad para lograr una mayor transparencia en las empresas. Según Sethuraman, ayuda a las empresas a tomar decisiones comerciales mejor informadas a través de una combinación de datos, IA explicable y supervisión humana.
La tecnología de Fiddler es utilizada por Hired, un sitio de búsqueda de talento y trabajo impulsado por IA. Fiddler proporciona informes en tiempo real sobre cómo funcionan los modelos de IA de Hired. Puede generar explicaciones sobre las evaluaciones de candidatos y proporcionar comentarios sobre la supervisión de los sesgos, lo que permite a Hired evaluar su IA.
La IA explicable debe estar disponible rápidamente para aplicaciones de tecnologías financieras de consumo. Eso permite a los representantes de servicio al cliente explicar decisiones financieras automatizadas, como los rechazos de préstamos y las tasas asesores robóticos, y generar confianza con la transparencia sobre el proceso. Los algoritmos utilizados para las explicaciones requieren un procesamiento considerable.
Los algoritmos que se usan para las explicaciones requieren de mucho procesamiento. Sethuraman dijo que Fiddler Labs aprovecha las GPU en cloud de NVIDIA para hacer esto posible, ya que, según él, las CPU no están a la altura.
«No puedes esperar 30 segundos para recibir las explicaciones: deseas obtener explicaciones en milisegundos sobre muchas cosas diferentes según los casos de uso”, dijo Sethuraman.
Visite la página de la industria de servicios financieros de NVIDIA para obtener más información.
Crédito de la imagen: Emily Morter, a través de Unsplash Photo Community.