Banco en IA: RBC Construye un Cloud Privado Impulsado por DGX

Los sistemas NVIDIA DGX impulsan un instituto de investigación de IA líder, manteniendo al banco más grande de Canadá en camino hacia un futuro inteligente.
por John Ashley

Royal Bank of Canada construyó un cloud impulsado por NVIDIA DGX y la vinculó a una inversión estratégica en IA. A pesar de los vientos en contra de una pandemia global, permitirá a RBC transformar las experiencias de los clientes.

El viaje comenzó en el otoño de 2017. Fue entonces cuando RBC, el banco más grande de Canadá con 17 millones de clientes en 36 países, creó su instituto de investigación dedicado, Borealis AI. El instituto tiene su sede al lado del distrito MaRS Discovery de Toronto, un centro global para expertos en aprendizaje automático.

Borealis AI atrajo rápidamente a docenas de investigadores destacados. Eso no es sorprendente dado que el instituto está dirigido por el director científico del banco, Foteini Agrafioti, un emprendedor en serie titular de patentes y Ph.D. en ingeniería eléctrica e informática que copreside el consejo asesor de inteligencia artificial de Canadá.

Inicialmente, el banco arrancó Borealis AI en una combinación de sistemas. Pero a medida que el grupo y los modelos de IA que desarrolló crecieron, necesitaba un motor de IA más grande y dedicado.

Corretaje de un Cloud Privado de IA para el Banco

«Tuve la suerte de ayudar a poner en marcha nuestra primera infraestructura para Borealis AI, pero no era adecuada para satisfacer nuestras necesidades de IA en evolución», dijo Mike Tardif, vicepresidente senior de infraestructura tecnológica de RBC.

El equipo quería un sistema de inteligencia artificial distribuido que sirviera a cuatro ubicaciones, desde Vancouver hasta Montreal, de forma segura detrás del firewall del banco. Necesitaba escalar a medida que crecían las cargas de trabajo y aprovechar el flujo regular de innovaciones de IA en software de código abierto sin requerir actualizaciones de hardware para hacerlo.

En resumen, el banco tenía como objetivo construir un cloud de inteligencia artificial privada de última generación. Para sus tablones clave, RBC eligió seis sistemas NVIDIA DGX y OpenShift de Red Hat para organizar los contenedores que se ejecutan en ese sistema.

“Vemos a NVIDIA como líder en infraestructura de inteligencia artificial. Ya estábamos usando sus sistemas DGX y queríamos expandir nuestras capacidades de IA, por lo que fue una elección obvia ”, dijo Tardif.

IA Dirige el Banco Hacia Aplicaciones Inteligentes

RBC ya está informando resultados sólidos con el sistema a pesar de haberlo comisionado a principios de este año ante la tormenta COVID-19 que se avecina.

El cloud privado de IA puede ejecutar miles de simulaciones y analizar millones de puntos de datos en una fracción del tiempo que antes, dice el banco. Como resultado, espera transformar la experiencia bancaria del cliente con una nueva generación de aplicaciones inteligentes. Y eso es solo el comienzo.

«Por ejemplo, en nuestro negocio de mercados de capitales ahora podemos capacitar miles de modelos estadísticos en paralelo para cubrir este vasto espacio de posibilidades», dijo Agrafioti, jefe de Borealis AI.

“Esto sería imposible sin un entorno distribuido y totalmente automatizado. Podemos llenar todo el clúster con un solo clic utilizando la canalización automatizada que ha brindado esta nueva solución ”, agregó.

La plataforma ya ha ayudado a reducir las reclamaciones de los clientes y ha dado como resultado una entrega más rápida de nuevas aplicaciones para clientes RBC, gracias al rendimiento de las GPU combinadas con la automatización de contenedores orquestados.

RBC implementó Red Hat OpenShift en combinación con la infraestructura NVIDIA DGX para acelerar rápidamente las instancias de cómputo de IA en una fracción del tiempo que solía tomar.

OpenShift ayuda al crear un entorno donde los usuarios pueden ejecutar miles de contenedores simultáneamente, extrayendo conjuntos de datos para entrenar modelos de IA y ejecutarlos en producción en sistemas DGX, dijo Yan Fisher, un evangelista global para tecnologías emergentes en Red Hat.

OpenShift y NGC, el centro de software de NVIDIA, permiten a las compañías apoyar al banco de forma remota durante la pandemia, agregó.

«Construir nuestra infraestructura de inteligencia artificial con NVIDIA DGX nos ha brindado capacidades internas similares a las que ofrecen las Amazon y las Google del mundo y hemos logrado algunos ahorros significativos en el costo total de propiedad», dijo Tardif.

Destacó como activos clave de hardware la interconexión NVLink y el soporte de NVIDIA para los estándares de redes empresariales con un ancho de banda máximo y una latencia reducida. Permiten a los usuarios acceder rápidamente a múltiples GPU dentro y entre sistemas de data center que alojan el cloud de inteligencia artificial del banco.

Cómo un Banco con una Larga Historia se Mantiene Innovador

Aunque tiene 150 años, RBC se mantiene en sintonía con los tiempos invirtiendo temprano en tecnologías emergentes, como lo hizo con Borealis AI.

«La innovación está en nuestro ADN: siempre estamos mirando lo que viene a la vuelta de la esquina y cómo podemos ponerlo en práctica, y la inteligencia artificial es una prioridad estratégica», dijo Tardif.

Aunque su principal experiencia es en el banco, RBC también tiene habilidades tecnológicas. Durante el bloqueo de COVID logró «probar la presión» de los últimos sistemas, empujándolos mucho más allá de lo que pensaban que eran sus límites.

«Estamos co-creando esta visión de la infraestructura de inteligencia artificial con NVIDIA, y a través de este viaje estamos elevando el listón para la innovación de inteligencia artificial de la que todos en la industria de servicios financieros pueden beneficiarse», dijo Tardif.

Visite la página de la industria de servicios financieros de NVIDIA para obtener más información.