Rad AI、NVIDIA 搭載の Amazon EC2 P4d インスタンスを使用して収益を10倍に増加

Mayo Clinic の調査によると、米国の放射線医の 90％ 近くが、許容量を超えて働いています。Rad AI は、機械学習 (ML) モデルをトレーニングして、詳細なドキュメントを読み取り、放射線医の言語に合わせてカスタマイズされた結果を自動的に要約することで、放射線医のワークロードを軽減することができます。これを使用して、医師は病気を特定し、治療計画を立てることができます。Rad AI は、10 の最大の放射線グループのうち 6 つを含む、米国の放射線医療市場の 16％ と連携しており、より多くの顧客にサービスを提供するために、そのソリューションを拡張したいと考えていました。機械学習の推論速度を向上させ、リアルタイムの結論を出すために、同社は、Amazon Web Services (AWS) の使用を選択しました。

Rad AI は、オンプレミス GPU サーバーで実行されているドキュメントサマリーアプリケーションを NVIDIA A100 Tensor Core GPU を搭載した Amazon Elastic Compute Cloud (Amazon EC2) P4d インスタンスに移行しました。アプリケーションを Amazon EC2 P4d インスタンスでデプロイすることで、Rad AI は、その機械学習推論時間を大幅に改善して、より速く、より正確なレポートを放射線医に提供し、患者のケアの質を向上させました。

Rad AI は、放射線医療のワークフローを能率化することによってヘルスケアの質を高めることを目指す Software-as-a-Service スタートアップです。「放射線医は、とても効率的に働いていますが、研究量が非常に多いため、いつも疲れています」と、Rad AI の事業開発および戦略マネージャーである Niven Shah は述べています。「当社の製品は、自然言語処理の最新の進歩技術を利用して、国のガイドラインに基づくフォローアップレコメンデーションとともに、放射線医療レポートのカスタマイズされた結論を自動的に生成します」。

Rad AI は、放射線医が指示する言葉の数を 1 日あたり 30～35％ 減らし、放射線医の時間を、9 時間のシフトごとに 約 1 時間節約します。その製品は、既存のワークフローに結びついており、ゼロクリックソリューションとして機能します。「私たちは、特に放射線医の疲弊を減らし、患者のケアの質を高め、患者が適切なフォローアップと治療を適切なタイミングで受けられるように、Rad AI を作成しました」と、Rad AI の放射線医兼共同創立者の Jeff Chang 博士は語ります。同社は以前、Amazon EC2 P3 インスタンスを使用して機械学習アプリケーションをデプロイしていましたが、より多くの顧客にサービスを提供するために、より高いパフォーマンスとより速い推論速度を求めていました。Rad AI は、NVIDIA A100 GPUを搭載したAmazon EC2 P4d インスタンスに機械学習モデルを移行することで、その目標を達成する方法を見つけました。 

Amazon EC2 P4d インスタンスは、インスタンスごとに 320 GB の GPU メモリーを提供し、クラウドで 400 Gbps の高速ネットワークをサポートする最初のインスタンスです。その高いパフォーマンスと低いレイテンシーにより、より大きいドキュメントをより高速で処理するのに理想的なものになっています。AWS のサービスを使用すると、Rad AI の HIPAA コンプライアンスを促進し、System and Organization Controls 2 Type II 認定の要件を満たし、新しい放射線医療のグループとヘルスシステムのオンボーディングを能率化することもできます。

Rad AI は、2021年に移行を完了して、機械学習の推論速度と全体的なパフォーマンスを向上させます。「Amazon EC2 P4d インスタンスに移行することによって、当社のリアルタイムの推論速度が 60％ 向上しました」と、Rad AI のシニアソフトエンジニアである Ali Demirci は述べます。「リアルタイムで要約を生成できるため、このソリューションは、カスタマーエクスペリエンスにすぐ影響を与えました」。 Rad AI は、オンプレミスに比較して、クラウドベースのデプロイで Amazon EC2 P4d インスタンスを使用することで、 パフォーマンスが 136％ 向上し、スループットが 11％ 速くなっています。高速化、パフォーマンスの向上、およびクラウドのスケーリングにより、スタートアップは、そのソリューションをより多くの顧客に提供できるようになり、小規模な民間診療所や数十億ドル規模のヘルスケアシステムと連携することができます。

Rad AI のソリューションは、現在、CT および MRI スキャンレポートの要約を、これまで要していた 10 秒ではなく 3 秒で提供し、X-Ray レポートの要約を、以前の 2.5 秒に対して 0.7 秒 で提供しています。Amazon EC2 P4d インスタンスで ML モデルの一部かをトレーニングすることで、Rad AI は、トレーニング期間を 2.4 分の 1 に短縮しました。推論速度が上がることで、放射線医は、適切なフォローアップレコメンデーションを含むより正確なレポートを医師により速く提供することができるようになりました。次に、医師は、これらのレポートを使用して、症状を診断し、治療計画を作成することができます。これにより、患者の転帰が改善されます。

Rad AI は、 フルマネージド型のコンテナオーケストレーションサービスであるAmazon Elastic Container Service (Amazon ECS) を使用して、1 日に数件の機械学習をデプロイします。「Amazon ECS を使用して継続的にデプロイできるので、お客様のフィードバックにすぐ対応できます」と Demirci は言います。「私たちは、単にモデルを微調整するか、必要に応じてすぐ変更することができます。当社の機械学習は、インスタンスを迅速かつ自動的にプロビジョニングすることができるため、モデルの改良に関する実験を能率化できます」。 機械学習推論をクラウドに移行することで、Rad AI は、オンプレミスのデータセンターのインフラストラクチャを調達してプロビジョニングする必要もなくなりました。その代わりに、Rad AI は、オンデマンドでインスタンスをプロビジョニングできるため、運用コストも最適化されます。

また、Rad AI は、オープンソースの機械学習フレームワークである PyTorch を使用して、その機械学習テクノロジーを開発、トレーニング、およびデプロイすることも選択しました。PyTorch により、Rad AI は、機械学習ワークフローのコンポーネントを逆アセンブルおよび再アセンブルして、機械学習のトレーニングフローのより新しいより高度な反復を使った簡単なデバッグと迅速な実験ができます。PyTorch を使用すると、チームは、開発や反復に費やす時間を減らして、より複雑なモデルアーキテクチャを提供できます。

また、同社は、AWS でサービスを拡大して、新しいクライアントにもサービスを広げました。「私たちが行っているように大規模な機械学習モデルをデプロイする必要がある場合は、大量の GPU メモリが必要です」と Rad AI の機械学習エンジニアである Andriy Mulyar は語ります。「Amazon EC2 P4d インスタンスは、GPU あたり 40GB の高帯域幅メモリを備えているため、効果的にメモリ要件を満たすことができます。これで、物理ハードウェアをプロビジョニングする必要なく、機械学習アプリケーションをオンデマンドでスケーリングできます。お客様に対して非常に高速で出力を生成することができるため、今度はイノベーションの速度が向上します」。 Rad AI がより多くの顧客にサービスを提供するよう拡張できるため、当スタートアップは、2021年にクライアントベースを 100% 以上拡大しました。Rad AI はまた、2020 年全体と比較して、2021 年には経常収益を 10 倍以上増やしました。

Amazon EC2 P4d インスタンスへの移行により、Rad AI は、収益を増やし、イノベーションの速度を加速し、能率的に機械学習アプリケーションをスケーリングし、顧客にリアルタイムのメリットを提供して、リーチを拡大しました。たとえば、テキサス州で最大の民間放射線診療所である Radiology Associates of North Texas は、同社の AWS 搭載ソリューションをテストした後に、225 人の放射線医全員に Rad AI サービスを拡大しました。将来、Rad AI は、AWS でデータパイプラインをさらに自動化することを計画しており、患者ケアを向上させるために新しい機械学習駆動型製品を発売する予定です。

Rad AI は、機械学習アプリケーションの開発とデプロイに AWS を使用して、高速で、高パフォーマンスのソリューションをすばやく構築しました。「AWS チームの助けを求める場合はいつでも、知識が豊富な人材とつながり、問題は極めて迅速に解決されます」と Demirci は言います。「AWS チームと連携することは、私たちにとって大きなメリットになります」。