A Rad AI aumenta a receita em 10 vezes usando instâncias P4d do Amazon EC2 fornecidas pela NVIDIA

Quase 90% dos radiologistas dos EUA operam no limite ou acima dele, de acordo com um estudo da Mayo Clinic. A Rad AI ajuda a aliviar as workloads treinando modelos de machine learning (ML) para ler documentos detalhados e resumir automaticamente os resultados personalizados para a linguagem do radiologista, que os médicos solicitantes usam para identificar doenças e elaborar planos de tratamento. A Rad AI trabalha com 16% do mercado de radiologia dos Estados Unidos, incluindo 6 dos 10 maiores grupos de radiologia, e quis expandir sua solução para atender a mais clientes. Para aumentar sua velocidade de inferência de ML e gerar conclusões em tempo real, a empresa optou por usar a Amazon Web Services (AWS).

A Rad AI migrou suas aplicações de resumo de documentos em execução em servidores GPU locais para instâncias P4d do Amazon Elastic Compute Cloud (Amazon EC2) com GPUs NVIDIA A100 Tensor Core. Ao implantar as aplicações em instâncias P4d do Amazon EC2, a Rad AI melhorou significativamente os tempos de inferência de ML, entregando relatórios mais rápidos e precisos aos radiologistas e melhorando a qualidade do atendimento ao paciente.

A Rad AI é uma startup de software como serviço que visa aumentar a qualidade dos cuidados de saúde simplificando os fluxos de trabalho da radiologia. “Os radiologistas são bastante eficientes, mas seu volume de estudos é tão alto que a fadiga é comum”, diz Niven Shah, gerente de desenvolvimento e estratégia de negócios da Rad AI. “Nossos produtos usam os mais recentes avanços no processamento de linguagem natural para gerar conclusões personalizadas de relatórios de radiologia automaticamente, junto com recomendações de acompanhamento com base nas diretrizes nacionais.”

A Rad AI reduz o número de palavras ditadas pelos radiologistas em 30 a 35% ao dia e economiza aos radiologistas cerca de 1 hora por turno de 9 horas. Seus produtos se conectam a fluxos de trabalho existentes e operam como soluções de clique zero. “Criamos o Rad AI especificamente para reduzir o esgotamento do radiologista, melhorar a qualidade do atendimento ao paciente e garantir que nossos pacientes recebam o acompanhamento e o tratamento adequados no momento certo”, diz o Dr. Jeff Chang, radiologista e cofundador da Rad AI. A empresa já usava instâncias P3 do Amazon EC2 para implantar aplicações de ML, mas queria maior performance e velocidades de inferência mais rápidas para atender a mais clientes. A Rad AI viu uma maneira de cumprir seus objetivos migrando seus modelos de ML para instâncias P4d do Amazon EC2, que são alimentadas por GPUs NVIDIA A100. 

As instâncias P4d do Amazon EC2 fornecem 320 GB de memória de GPU por instância e são as primeiras a oferecer suporte a 400 Gbps de rede de alta velocidade na nuvem. Sua alta performance e baixa latência as tornam ideais para processar documentos maiores em um ritmo mais rápido. O uso dos serviços da AWS também ajudaria a Rad AI a facilitar a conformidade com a HIPAA e a atender aos requisitos de sua certificação Tipo II de Controles de sistema e organização 2, agilizando a integração de novos grupos de radiologia e sistemas de saúde.

A Rad AI concluiu a migração em 2021, melhorando suas velocidades de inferência de ML e performance em geral. “Ao migrar para instâncias P4d do Amazon EC2, melhoramos nossas velocidades de inferência em tempo real em 60%”, diz Ali Demirci, engenheiro de software sênior da Rad AI. “Como podemos gerar resumos em tempo real, essa solução teve um impacto imediato na experiência do cliente.” A Rad AI percebeu um aumento de 136% na performance e uma taxa de transferência 11% mais rápida usando as instâncias P4d do Amazon EC2 para suas implantações baseadas em nuvem em comparação com as implantações on-premises. Velocidades mais rápidas, performance aprimorada e escalabilidade na nuvem permitem que a startup entregue sua solução a mais clientes, trabalhando com consultórios particulares menores, bem como sistemas de saúde multibilionários.

A solução da Rad AI agora oferece resumos de relatórios de tomografia e ressonância magnética em 3 segundos em vez dos 10 segundos que costumava levar e um resumo de relatório de raios-X em 0,7 segundos em comparação com os 2,5 segundos de antes. Ao treinar alguns de seus modelos de ML em instâncias P4d do Amazon EC2, a Rad AI reduziu a duração do treinamento em 2,4 vezes. Com velocidades de inferência aprimoradas, os radiologistas agora podem entregar relatórios mais precisos com recomendações de acompanhamento adequadas aos médicos mais rapidamente. Os médicos podem então usar esses relatórios para diagnosticar condições e criar planos de tratamento, o que, por sua vez, melhora os resultados para os pacientes.

A Rad AI usa o Amazon Elastic Container Service (Amazon ECS), um serviço de orquestração de contêineres totalmente gerenciado, para implantar vários modelos de ML por dia. “Poder implantar continuamente usando o Amazon ECS nos permite responder ao feedback dos clientes rapidamente”, diz Demirci. “Podemos simplesmente ajustar os modelos ou fazer alterações imediatas conforme necessário. Nossa equipe de ML pode provisionar instâncias de forma rápida e automática, o que ajuda a agilizar a experimentação em melhorias de modelos.” Ao migrar sua inferência de ML para a nuvem, a Rad AI também removeu a necessidade de adquirir e provisionar infraestrutura para seus datacenters locais. Em vez disso, a Rad AI é capaz de provisionar instâncias sob demanda, otimizando assim seus custos operacionais.

A Rad AI também optou por desenvolver, treinar e implantar sua tecnologia de ML usando o PyTorch, um framework de ML de código aberto. O PyTorch permite que a Rad AI desmonte e monte novamente os componentes de seus fluxos de trabalho de ML para depuração simples e experimentação rápida com iterações mais recentes e avançadas de seu fluxo de treinamento de ML. Usando o PyTorch, a equipe pode entregar arquiteturas de modelo mais complexas com menos tempo investido em desenvolvimento e iteração.

A empresa também escalou seus serviços na AWS, expandindo para atender a novos clientes. “Quando você precisa implantar grandes modelos de ML como nós, é necessária uma quantidade significativa de memória de GPU”, diz Andriy Mulyar, engenheiro de ML da Rad AI. “As instâncias P4d do Amazon EC2 vêm com 40 GB de memória de alta largura de banda por GPU e podem atender com eficiência aos nossos requisitos de memória. Agora podemos dimensionar nossas aplicações de ML sob demanda, sem a necessidade de provisionar hardware físico. Somos capazes de gerar resultados para nossos clientes em um ritmo muito mais rápido, o que, por sua vez, aumenta nossa velocidade de inovação.” Como a Rad AI é capaz de se expandir para atender a mais clientes, a startup aumentou sua base de clientes em mais de 100% em 2021. A Rad AI também aumentou sua receita recorrente em mais de 10 vezes em 2021, em comparação com todo o ano de 2020.

Ao migrar para instâncias P4d do Amazon EC2, a Rad AI aumentou a receita, acelerou a velocidade da inovação e escalou perfeitamente suas aplicações de ML, oferecendo benefícios em tempo real aos clientes e expandindo seu alcance. Por exemplo, a Radiology Associates of North Texas, a maior clínica privada de radiologia do Texas, expandiu os serviços da Rad AI para todos os 225 de seus radiologistas após testar a solução da empresa com a tecnologia AWS. No futuro, a Rad AI planeja automatizar ainda mais seu pipeline de dados na AWS e lançará novos produtos baseados em ML para melhorar o atendimento ao paciente.

A Rad AI construiu uma solução rápida e de alta performance rapidamente usando a AWS para desenvolvimento e implantação de aplicações de ML. “Sempre que você pede a ajuda da equipe da AWS, você é conectado a uma pessoa experiente e os problemas são resolvidos muito rapidamente”, diz Demirci. “Trabalhar com a equipe da AWS tem sido um grande benefício para nós.”