New Relic transforme son modèle économique et atteint une croissance sans précédent grâce à Amazon EKS

Fondée en 2008, New Relic est un leader du secteur de l'observabilité qui fournit aux ingénieurs une plateforme logiciel en tant que service (SaaS) leur permettant d'analyser, de dépanner et d'optimiser l'ensemble de leur pile de logiciels. En 2020, New Relic a démarré la transformation de son activité, en passant d'un modèle de tarification basé sur l'hôte à un modèle basé sur la consommation. Par ailleurs, New Relic a mis en place un niveau de service gratuit pour tous ses clients et s'est préparée à une augmentation considérable de la demande sur sa plateforme. L'entreprise a décidé de transférer l'ensemble de sa plateforme vers Amazon Web Services (AWS) afin de se préparer pour la trajectoire projetée de la croissance. Au cours d'une période de huit mois, New Relic a exploité ses propres outils et processus, ainsi que les fonctionnalités et les offres d'AWS, afin de transférer plus de 20 000 serveurs et de refactoriser sa plateforme de services. La refactorisation de la plateforme s'est faite par le biais d'Amazon Elastic Kubernetes Service (Amazon EKS). Dans le cadre de ce programme de migration et de refactorisation, New Relic a observé des améliorations significatives de l'efficacité de l'ingénierie et de la résilience de la plateforme, ainsi qu'une voie menant vers une capacité de mise à l'échelle sur le long terme lui permettant d'appuyer ses objectifs de croissance ambitieux.

New Relic fournit aux clients des informations sur les performances de leur infrastructure, de leurs ressources cloud, de leurs conteneurs et de leurs applications en regroupant les données de télémétrie en un seul emplacement et en leur distribuant des données exploitables en temps réel. Depuis février 2021, New Relic ingère 120 Pio de données par mois et s'attend à ce que ce nombre augmente de 6 Pio par mois. Cette croissance explosive, couplée à l'augmentation de la demande des services New Relic, a débouché sur de robustes obstacles à la capacité de mise à l'échelle. Ceux-ci menaçaient de rendre extrêmement pénible la simple mise à jour du matériel et des logiciels hérités dans le centre de données du cloud privé de l'entreprise. En tant que leader dans le secteur de l'observabilité, New Relic et son équipe d'ingénierie souhaitaient continuer à se concentrer sur la fourniture d'une plateforme améliorant la manière dont les clients instrumentent leurs systèmes, et non sur la gestion de l'infrastructure.

New Relic a démarré sa migration vers AWS afin de tirer parti de plusieurs services entièrement gérés, notamment Amazon EKS et Amazon Managed Streaming for Apache Kafka (Amazon MSK), et est devenue l'un des principaux consommateurs de ces services. À l'origine, New Relic avait transféré ses propres clusters Kubernetes vers Amazon Elastic Compute Cloud (Amazon EC2), en prévision de la migration éventuelle vers Amazon EKS. Sous cette configuration, New Relic a pu rapidement mettre à l'échelle et innover et a transféré presque 30 % de ses ingestions en six mois. Depuis le passage à Amazon EKS, New Relic a pu dynamiser cette migration et ingère désormais presque 90 % des données clients sur des clusters Amazon EKS. Même si la migration de New Relic vers Amazon EKS n'en est encore qu'à ses débuts, l'entreprise exécute déjà des dizaines de clusters Amazon EKS, dont plus de 19 000 nœuds au total et plus de 150 000 pods, et a prévu de tripler ces chiffres au cours de la prochaine année.

Le fait de ne pas avoir à appliquer les mises à jour et les correctifs de sécurité de Kubernetes fait gagner à l'équipe de New Relic plus de 10 % de son temps. Cela lui permet de publier du code plus fréquemment et de développer de nouveaux produits et fonctions qui créent de la valeur ajoutée pour les clients. La migration vers Amazon EKS a permis aux ingénieurs de New Relic de se concentrer sur l'expérience client et de mieux aligner cette expérience à la position de l'entreprise sur le marché, en tant que solution incontournable pour les initiatives cloud, DevOps et de transformation numérique.

New Relic fournissant des services d'observabilité, ses systèmes sont instrumentés. Cela a fortement accéléré sa capacité à apporter des changements importants à grande échelle, tels que la migration de sa plateforme de base vers AWS. New Relic savait exactement où les obstacles potentiels se trouveraient. Au lieu d'observer les métriques de faible niveau d'hôte, l'équipe de New Relic avait une visibilité sur la topologie de ses systèmes et pouvait examiner les anomalies qui se développaient dans le système sur un continuum de temps. Les ingénieurs ont utilisé la plateforme New Relic pour visualiser simultanément la migration de données à grande échelle depuis son centre de données de cloud privé monolithique vers une architecture de microservices, et pour instrumenter entièrement les charges de travail Kubernetes afin de détecter les performances de chaque système lors de la migration. Ce niveau d'observabilité et d'informations a donné à New Relic la confiance nécessaire pour déplacer des quantités énormes de données en très peu de temps et pour faire basculer le trafic de production vers l'environnement d'Amazon EKS. De plus, dès le début de son parcours de migration, l'équipe d'ingénierie de New Relic a utilisé sa propre plateforme afin de comprendre les besoins en calcul de son cloud privé actuel. Ainsi, la refactorisation vers Amazon EKS s'est également avérée être une décision évidente du point de vue de la réduction des coûts.

Les clients confient à New Relic leurs données les plus sensibles et opportunes. En s'appuyant sur un service comme Amazon EKS, New Relic peut se concentrer sur ses compétences de base plutôt que sur la gestion du matériel et du centre de données. Par exemple, à chaque utilisation d'un matériel physique, celui-ci peut tomber en panne. New Relic n'a plus à traiter les problèmes de panne et de reprise, qui sont désormais gérés via les outils automatisés sur Amazon EKS. Les ingénieurs ne seront plus réveillés en plein milieu de la nuit, la reprise après panne sera plus rapide et les clients feront face à moins d'interruptions, notamment durant les pics de mise à l'échelle comme le Black Friday et le Cyber Monday.

Une fiabilité et une sécurité accrues renforcent la confiance des clients. Grâce entre autres à Amazon EKS, New Relic a déjà obtenu la certification FedRAMP et vise actuellement la certification HITRUST en tirant parti des fonctionnalités de création d'images d'Amazon EKS. De plus, Amazon EKS vise la certification FedRAMP Moderate/High, ce qui concorde avec l'objectif de New Relic d'obtenir à terme la certification FedRAMP High.

Grâce à l'élasticité de calcul offerte par AWS, New Relic a augmenté sa capacité d'ingénierie et a développé de nouvelles opportunités d'innovation des produits et d'expansion sur le marché. Par conséquent, New Relic est bien placée pour atteindre son objectif le plus ambitieux : créer un meilleur Internet.