Rad AI aumenta 10 veces sus ingresos con las instancias P4d de Amazon EC2 con tecnología de NVIDIA

Casi el 90 por ciento de los radiólogos estadounidenses operan al máximo o por encima de su capacidad, según un estudio de Mayo Clinic. Rad AI ayuda a aliviar sus cargas de trabajo mediante la capacitación de modelos de machine learning (ML) para leer documentos detallados y resumir automáticamente los resultados personalizados según el lenguaje del radiólogo, que los médicos que realizan pedidos usan para identificar dolencias y diseñar planes de tratamiento. Rad AI trabaja con el 16 por ciento del mercado de radiología de EE. UU., incluidos 6 de los 10 grupos de radiología más grandes, y quería expandir su solución para atender a más clientes. Para aumentar la velocidad de inferencia de ML y generar conclusiones en tiempo real, la empresa optó por utilizar Amazon Web Services (AWS).

Rad AI migró sus aplicaciones de resumen de documentos que se ejecutan en servidores de GPU en las instalaciones a instancias P4d de Amazon Elastic Compute Cloud (Amazon EC2) con tecnología de GPU NVIDIA A100 Tensor Core. Al implementar sus aplicaciones en instancias P4d de Amazon EC2, Rad AI mejoró significativamente sus tiempos de inferencia de ML, y logró entregar informes más rápidos y precisos a los radiólogos y mejorar la calidad de la atención al paciente.

Rad AI es una empresa emergente de software como servicio que tiene como objetivo aumentar la calidad de la atención médica mediante la agilización de los flujos de trabajo de radiología. “Los radiólogos son bastante eficientes, pero su volumen de estudios es tan alto que la fatiga es un problema común”, dice Niven Shah, gerente de Estrategia y desarrollo comercial de Rad AI. “Nuestros productos utilizan los últimos avances en el procesamiento del lenguaje natural para generar automáticamente conclusiones personalizadas para los informes de radiología, junto con recomendaciones de seguimiento basadas en directrices nacionales”.

Rad AI reduce la cantidad de palabras que dictan los radiólogos entre un 30 y un 35 por ciento por día y ahorra aproximadamente 1 hora por turno de 9 horas. Sus productos se relacionan con los flujos de trabajo existentes y funcionan como soluciones sin hacer clic. “Creamos Rad AI específicamente para reducir el agotamiento de los radiólogos, mejorar la calidad de la atención al paciente y garantizar que nuestros pacientes reciban el seguimiento y el tratamiento adecuados en el momento adecuado”, dice el Dr. Jeff Chang, radiólogo y cofundador de Rad AI. La empresa anteriormente utilizaba instancias P3 de Amazon EC2 para implementar sus aplicaciones de ML, pero quería un mayor rendimiento y velocidades de inferencia más rápidas para atender a más clientes. Rad AI vio una manera de cumplir sus objetivos al migrar sus modelos de ML a instancias P4d de Amazon EC2, que funcionan con las GPU NVIDIA A100. 

Las instancias P4d de Amazon EC2 proporcionan 320 GB de memoria de GPU por instancia y son las primeras en admitir 400 Gbps de redes de alta velocidad en la nube. Su alto rendimiento y baja latencia las hacen ideales para procesar documentos más grandes a un ritmo más rápido. El uso de los servicios de AWS también ayudaría a Rad AI a facilitar el cumplimiento de HIPAA y cumplir con los requisitos de su certificación de Controles de sistema y organización 2 Tipo II, lo que agiliza la incorporación de nuevos grupos de radiología y sistemas de salud.

Rad AI completó la migración en 2021, mejoró sus velocidades de inferencia de ML y su rendimiento general. “Al migrar a las instancias P4d de Amazon EC2, mejoramos nuestras velocidades de inferencia en tiempo real en un 60 por ciento”, dice Ali Demirci, ingeniero de software senior de Rad AI. “Como podemos generar resúmenes en tiempo real, esta solución tuvo un impacto inmediato en la experiencia del cliente”. Rad AI ha experimentado un aumento del 136 por ciento en el rendimiento y un rendimiento un 11 por ciento más rápido mediante el uso de instancias P4d de Amazon EC2 para sus implementaciones basadas en la nube en comparación con las implementaciones en las instalaciones. Velocidades más rápidas, rendimiento mejorado y escalado en la nube permiten a la empresa emergente entregar su solución a más clientes, al trabajar con consultorios privados más pequeños, así como con sistemas de salud multimillonarios.

La solución de Rad AI ahora ofrece resúmenes de informes de tomografía computarizada y resonancia magnética en 3 segundos en lugar de los 10 segundos que solía tomar y un resumen de informes de rayos X en 0,7 segundos en comparación con los 2,5 segundos anteriores. Al entrenar algunos de sus modelos de ML en instancias P4d de Amazon EC2, Rad AI redujo la duración del entrenamiento 2,4 veces. Con velocidades de inferencia mejoradas, los radiólogos ahora pueden entregar informes más precisos con recomendaciones de seguimiento adecuadas a los médicos más rápido. Luego, los médicos pueden usar estos informes para diagnosticar afecciones y crear planes de tratamiento, lo que a su vez mejora los resultados de los pacientes.

Rad AI utiliza Amazon Elastic Container Service (Amazon ECS), un servicio de organización de contenedores completamente administrado, para implementar varios modelos de ML al día. “Poder implementar continuamente mediante Amazon ECS nos permite responder rápidamente a los comentarios de los clientes”, dice Demirci. “Simplemente podemos modificar los modelos o realizar cambios inmediatos según sea necesario. Nuestro equipo de ML puede aprovisionar instancias de forma rápida y automática, lo que ayuda a agilizar la experimentación en las mejoras del modelo”. Al migrar su inferencia de ML a la nube, Rad AI también eliminó la necesidad de adquirir y aprovisionar infraestructura para sus centros de datos en las instalaciones. Por el contrario, Rad AI puede aprovisionar instancias bajo demanda, lo que optimiza sus costos operativos.

Rad AI también eligió desarrollar, entrenar e implementar su tecnología de ML mediante PyTorch, un marco de ML de código abierto. PyTorch permite a Rad AI desensamblar y reensamblar componentes de sus flujos de trabajo de ML para una depuración simple y una experimentación rápida con iteraciones más novedosas y avanzadas de su flujo de entrenamiento de ML. Con PyTorch, el equipo puede entregar arquitecturas de modelos más complejas con menos tiempo invertido en desarrollo e iteración.

La empresa también escaló sus servicios en AWS y se expandió para atender a nuevos clientes. “Cuando necesita implementar grandes modelos de ML como lo hacemos nosotros, se requiere una cantidad significativa de memoria GPU”, dice Andriy Mulyar, ingeniero de ML en Rad AI. “Las instancias P4d de Amazon EC2 vienen con 40 GB de memoria de alto ancho de banda por GPU y pueden cumplir con nuestros requisitos de memoria de manera efectiva. Ahora podemos escalar nuestras aplicaciones de ML a pedido sin necesidad de aprovisionar hardware físico. Podemos generar resultados para nuestros clientes a un ritmo mucho más rápido, lo que a su vez aumenta nuestra velocidad de innovación”. Como Rad AI puede escalar para atender a más clientes, la empresa emergente aumentó su base de clientes en más del 100 por ciento en 2021. Rad AI también aumentó sus ingresos recurrentes en más de 10 veces en 2021, en comparación con todo el 2020.

Al migrar a las instancias P4d de Amazon EC2, Rad AI aumentó los ingresos, aceleró la velocidad de innovación y escaló sin problemas sus aplicaciones de ML, y logró brindar beneficios en tiempo real a sus clientes y expandir su alcance. Por ejemplo, Radiology Associates of North Texas, el centro de radiología privada más grande de Texas, expandió los servicios de Rad AI a sus 225 radiólogos después de probar la solución de la empresa con tecnología de AWS. En el futuro, Rad AI planea automatizar aún más su Data Pipeline en AWS y lanzará nuevos productos impulsados por ML para mejorar la atención al paciente.

Rad AI creó una solución rápida y de alto rendimiento rápidamente con AWS para el desarrollo y la implementación de aplicaciones de ML. “Cuando solicita ayuda del equipo de AWS, se conecta con una persona con conocimientos y los problemas se resuelven muy rápidamente”, dice Demirci. “Trabajar con el equipo de AWS ha sido un gran beneficio para nosotros”.