Rad AI décuple son chiffre d'affaires grâce aux instances P4d Amazon EC2 à technologie NVIDIA

D'après l'étude Mayo Clinic, environ 90 % des radiologues américains opèrent à une capacité supérieure ou égale à la nôtre. Rad AI permet d'alléger leurs applications en entraînant des modèles de machine learning (ML) pour lire des documents détaillés et résumer automatiquement les résultats tout en l'adaptant à la langue du radiologue. Il s'agit ainsi du canevas que les médecins suivent pour diagnostiquer des maladies et établir des plans de traitement. Rad AI occupe 16 % du marché américain des radiologues, dont 6 des 10 plus grands groupes de radiologues. L'entreprise souhaitait étendre sa solution afin de servir davantage de clients. Pour accroître la vitesse de son inférence ML et générer des conclusions en temps réels, l'entreprise à fait confiance à Amazon Web Services (AWS).

Rad AI a effectué la migration de ses applications de résumé de documents s'exécutant sur des serveurs GPU sur site vers les instances P4d Amazon Elastic Compute Cloud (Amazon EC2) à technologie NVIDIA A100 Tensor Core GPU. Le déploiement de ses applications sur les instances P4d Amazon EC2 a permis à Rad AI d'améliorer considérablement la vitesse de son inférence ML, fournissant ainsi des résultats plus rapides et plus précis aux radiologues et améliorant la qualité des soins prodigués aux patients.

Rad AI est une start-up de logiciel en tant que service qui entend améliorer la qualité des soins de santé en rationalisant les flux radiologiques. « Les radiologues sont très efficaces, mais leur volume de travail est si élevé que la fatigue fait partie de leur lot quotidien », déclare Niven Shah, responsable stratégie et développement d'entreprise chez Rad AI. « Nos produits utilisent les toutes dernières avancées en matière de traitement du langage naturel pour générer automatiquement des conclusions personnalisées pour les rapports radiologiques, ainsi que des recommandations de suivi basées sur les directives nationales. »

Rad AI réduit de 30 à 35 % par jour le nombre de mots que les radiologues dictent, et leur offre un gain de temps d'environ 1 heure par quart de 9 heures. Ses produits s'adaptent aux flux existants et fonctionnent sous forme de solutions zéro clic. « Nous avons créé Rad AI précisément pour réduire le surmenage des radiologues, améliorer la qualité des soins prodigués aux patients et garantir que nos patients bénéficient d'un suivi et d'un traitement appropriés au moment opportun », déclare Dr Jeff Chang, radiologue et cofondateur de Rad AI. L'entreprise utilisait jusque-là les instances P3 Amazon EC2 pour déployer ses applications ML, mais souhaitait optimiser ses performances et la vitesse de son inférence afin de servir un plus grand nombre de clients. Rad AI a trouvé en la migration de ses modèles ML vers les instances P4d Amazon EC2, à technologie NVIDIA A100 GPU, un moyen d'atteindre ses objectifs. 

Les instances P4d Amazon EC2 fournissent 320 Go de mémoire GPU par instance, et sont idéales pour prendre en charge des débits de 400 Gbit/s de réseaux haute vitesse dans le cloud. De par leurs performances élevées et leur faible latence, elles sont parfaitement adaptées pour le traitement de plus grands volumes de documents à une vitesse plus rapide. L'utilisation des services AWS pourrait aussi permettre à Rad AI de se conformer facilement à la norme HIPAA et aux exigences de la certification SOC type II (System and Organization Controls), rationalisant ainsi l'intégration de nouveaux groupes de radiologues et de nouveaux systèmes de santé.

Rad AI a réalisé sa migration en 2021, améliorant de ce fait la vitesse de son inférence ML et ses performances globales. « En nous tournant vers les instances P4d Amazon EC2, nous avons augmenté de 60 % la vitesse de notre inférence en temps réel », déclare Ali Demirci, ingénieur logiciel senior chez Rad AI. « Étant donné que nous pouvons générer des résumés en temps réel, cette solution a eu un impact immédiat sur l'expérience des clients. » Avec les instances P4d Amazon EC2, Rad AI connaît une hausse de 136 % sur les performances et de 11 % sur le débit pour ses déploiements basés sur le cloud, par rapport à ceux sur site. Grâce à l'optimisation de la vitesse et des performances ainsi qu'à la mise à l'échelle dans le cloud, la start-up peut fournir sa solution à un plus grand nombre de clients, travaillant ainsi autant avec les petits cabinets privés qu'avec les systèmes de santé pesant plusieurs milliards de dollars.

La solution de Rad AI génère désormais des résumés de rapports de clichés CT et d'IRM en 3 secondes, contre 10 secondes auparavant, ainsi que des résumés de rapports radiographiques en 0,7 seconde, contre 2,5 secondes jusqu'ici. L'entraînement de certains de ses modèles ML sur les instances P4d Amazon EC2 a permis à Rad AI de réduire de 2,4 fois la durée d'entraînement. Avec une vitesse d'inférence accrue, les radiologues sont désormais en mesure de fournir plus rapidement des rapports plus précis accompagnés de recommandations de suivi appropriées aux médecins. Les médecins peuvent ensuite utiliser ces rapports pour diagnostiquer des pathologies et établir des plans de traitement qui, à leur tour, permettent d'améliorer la santé des patients.

Rad AI utilise Amazon Elastic Container Service (Amazon ECS), un service d'orchestration de conteneurs entièrement géré, pour déployer plusieurs modèles ML par jour. « Pouvoir effectuer continuellement des déploiements à l'aide d'Amazon ECS nous permet de répondre plus rapidement aux feedbacks des clients », déclare Demirci. « Nous pouvons simplement adapter les modèles ou effectuer des modifications immédiates si nécessaire. Notre équipe ML peut allouer les instances rapidement et automatiquement, ce qui permet d'expérimenter de manière rationnelle les améliorations apportées aux modèles. » En déplaçant son inférence ML vers le cloud, Rad AI élimine également la nécessité d'acquérir et d'allouer une infrastructure pour ses centres de données sur site. En revanche, Rad AI est en mesure d'allouer des instances à la demande, optimisant ainsi ses coûts d'exploitation.

Rad AI a également opté de développer, d'entraîner et de déployer sa technologie ML avec PyTorch, un framework ML open source. PyTorch permet à Rad AI de désassembler et de réassembler les composants de ses flux ML afin de simplifier le dépannage et d'accélérer l'expérimentation avec des itérations plus nouvelles et plus avancées de son flux d'entraînement ML. Avec PyTorch, l'équipe peut fournir des architectures de modèles plus complexes en consacrant moins de temps au développement et à l'itération.

L'entreprise a également mis à l'échelle ses services sur AWS, procédant à son expansion afin de servir de nouveaux clients. « Lorsque vous devez déployer des modèles ML volumineux comme nous le faisons, il faut une quantité considérable de mémoire GPU », déclare Andriy Mulyar, ingénieur ML chez Rad AI. « Les instances P4d Amazon EC2 sont fournies avec 40 Go de mémoire de bande passante par Go, et peuvent efficacement répondre à nos besoins en termes de mémoire. Nous pouvons désormais mettre à l'échelle nos applications ML à la demande sans avoir à allouer de matériel physique. Nous sommes en mesure de générer des résultats pour nos patients à une vitesse bien plus rapide, ce qui en retour accroît notre rythme d'innovation. » Rad AI pouvant se mettre à l'échelle pour servir davantage de clients, la start-up a connu une hausse de plus de 100 % de sa clientèle en 2021. En 2021, Rad AI a également multiplié ses revenus récurrents par 10 par rapport à 2020.

En se tournant vers les instances P4d Amazon EC2, Rad AI a augmenté son chiffre d'affaires, accéléré son rythme d'innovation et mis à l'échelle de manière transparente ses applications ML, fournissant ainsi des avantages de temps réels à ses clients et élargissant sa portée. Par exemple, Radiology Associates of North Texas, le plus grand cabinet radiologique privé du Texas, a étendu les services de Rad AI à l'ensemble de ses 225 radiologues, et ce après avoir testé avec succès la solution à technologie AWS de l'entreprise. Dans l'avenir, Rad AI entend automatiser davantage son pipeline de données sur AWS et lancer de nouveaux produits orientés ML afin d'améliorer les soins des patients.

Rad AI accélère la création d'une solution rapide et hautes performances à l'aide d'AWS pour le développement et le déploiement d'applications ML. « Chaque fois que vous demandez de l'aide auprès de l'équipe AWS, vous êtes connecté à un expert, et vos problèmes trouvent très rapidement solution », déclare Demirci. « Travailler avec AWS a été très bénéfique pour nous.