Intégration zéro ETL Amazon Aurora avec Amazon Redshift

Activer des analyses en temps quasi réel sur des pétaoctets de données transactionnelles

Pourquoi l’intégration zéro ETL d’Aurora à Amazon Redshift ?

L’intégration zéro ETL d’Amazon Aurora à Amazon Redshift rend possible l’analytique et le machine learning (ML) en temps quasi réel à l’aide d’Amazon Redshift sur des pétaoctets de données transactionnelles. Quelques secondes après l’écriture des données transactionnelles dans Amazon Aurora, l’intégration zéro ETL rend les données disponibles de manière transparente dans Amazon Redshift, éliminant ainsi la nécessité de créer et de maintenir des pipelines de données complexes qui effectuent des opérations d’extraction, transformation et chargement (ETL).

Avantages

Accédez aux données transactionnelles d'Aurora dans Amazon Redshift en quelques secondes pour exécuter des analytiques et du machine learning en temps quasi réel sur des pétaoctets de données.

Analysez rapidement vos données transactionnelles en temps quasi réel sans avoir à créer et à gérer des pipelines ETL pour transférer les données transactionnelles vers des systèmes d'analytique.

Consolidez plusieurs tables issues de divers clusters de bases de données Aurora et répliquez vos données dans un entrepôt de données Amazon Redshift pour exécuter des analytiques unifiées sur plusieurs applications et sources de données.

Exécutez des analytiques en temps quasi réel sur des données transactionnelles sans avoir à gérer la moindre infrastructure lorsque vous utilisez à la fois Amazon Aurora sans serveur v2 et Amazon Redshift sans serveur.

Cas d'utilisation

Utilisez les fonctionnalités d'analytique et de ML d'Amazon Redshift pour obtenir des informations en temps quasi réel à partir de données transactionnelles et autres afin de répondre efficacement aux événements critiques et sensibles au facteur temps. Les analytiques en temps quasi réel peuvent vous aider à obtenir des informations plus précises et opportunes sur des cas d'utilisation tels que le ciblage du contenu, l'optimisation de l'expérience de jeu, la surveillance de la qualité des données, la détection des fraudes et l'analyse du comportement des clients.

Grâce à l'intégration zéro ETL d'Aurora à Amazon Redshift, vous pouvez utiliser les fonctionnalités d'Amazon Redshift pour analyser des pétaoctets de vos données transactionnelles consolidées à partir de plusieurs clusters de bases de données Aurora. Vous pouvez tirer parti des fonctionnalités analytiques complètes d'Amazon Redshift, telles que le machine learning intégré, les vues matérialisées, le partage de données et l'accès fédéré à plusieurs magasins de données et lacs de données. Avec Amazon Redshift ML, vous pouvez exécuter des milliards de prédictions grâce à des commandes SQL simples et à l'intégration native à Amazon SageMaker.

Le transfert de données d’une base de données transactionnelle vers un entrepôt de données central nécessite souvent la création, la maintenance et l’exploitation d’une solution ETL de pipeline de données complexes. Grâce à une intégration zéro ETL, vous pouvez répliquer en toute transparence le schéma, les données existantes et les modifications de données de votre base de données Aurora vers un cluster Amazon Redshift nouveau ou existant. L'intégration zéro ETL élimine le besoin d'une gestion complexe des pipelines de données.

Comment débuter

Pour créer votre intégration zéro ETL entre Aurora et Amazon Redshift, vous devez spécifier un cluster de base de données Aurora comme source de données et un entrepôt de données Amazon Redshift comme cible. L'intégration réplique les données de la base de données source dans l'entrepôt de données cible. Les données sont disponibles dans Amazon Redshift en quelques secondes, ce qui permet aux analystes de données de commencer à utiliser les fonctionnalités d'analytique et de machine learning d'Amazon Redshift sur les données. Pour en savoir plus, consultez les guides de démarrage pour Aurora et Amazon Redshift.

Tarification

AWS ne facture aucuns frais supplémentaires pour l'intégration zéro ETL d'Aurora à Amazon Redshift. Vous payez pour les ressources Aurora et Amazon Redshift existantes utilisées pour créer et traiter les données de modification générées dans le cadre d'une intégration zéro ETL. Ces ressources peuvent inclure :

  • E/S et stockage supplémentaires utilisés pour permettre la capture des données de modification
  • Coûts d'exportation d'instantanés pour l'exportation initiale des données afin d'alimenter vos bases de données Amazon Redshift
  • Stockage Amazon Redshift supplémentaire pour le stockage des données répliquées
  • Calcul Amazon Redshift supplémentaire pour le traitement de la réplication des données
  • Coûts de transfert de données entre plusieurs AZ pour déplacer les données de la source vers la cible.

Le traitement continu des modifications de données par intégration zéro ETL est proposé sans frais supplémentaires. Pour plus d’informations, rendez-vous sur la page de tarification d’Aurora

Clients

  • Infosys

     

    La vérification du fret est essentielle pour maintenir l’intégrité de la chaîne d’approvisionnement des clients d’Infosys dans les domaines de la fabrication, de la vente au détail et de la logistique. Dans cette optique, l’ingestion en temps réel des données de suivi du fret est nécessaire pour suivre l’analytique des expéditions et du fret.

    Infosys a utilisé les fonctionnalités de l’intégration zéro ETL pour ingérer des données en temps réel. La société peut désormais suivre les expéditions de fret et en connaître la position, le statut et l’heure d’arrivée estimée. Cela permet d’optimiser les opérations de fret et de réduire considérablement les coûts. Grâce aux rapports et à l’analytique complets liés à l’intégration zéro ETL ainsi qu’aux plans sectoriels d’Infosys Cobalt et Topaz, une prise de décision orientée données est désormais possible.

    Sunil Senan, SVP and Global Head of Data, Analytics and AI, Infosys
  • Intuit

    Intuit est la plateforme technologique financière mondiale qui contribue à la prospérité de 100 millions de clients particuliers et de petites entreprises grâce à TurboTax, Credit Karma, QuickBooks et Mailchimp. Compte tenu de la complexité d’une migration à venir, Intuit envisageait un rythme effarant de plus de 10 millions de migrations de profils par jour. Intuit s’est tournée vers l’intégration zéro ETL d’Amazon Aurora MySQL à Amazon Redshift pour simplifier son processus d’ingestion de données et éliminer les travaux d’ingénierie complexes.

    L’important volume de données et la nécessité d’une migration fluide ont représenté un défi de taille pour nous. De plus, nous avions besoin d’une solution qui nous permettrait d’analyser rapidement le processus de migration, afin de prendre des décisions rapides et fondées sur des données. Pour relever ces défis, nous nous sommes tournés vers l’intégration zéro ETL d’Amazon Aurora avec Amazon Redshift pour simplifier notre processus d’ingestion de données et éliminer les travaux d’ingénierie complexes. Grâce à la technologie zéro ETL, nous avons pu transférer d’énormes quantités de données vers Amazon Redshift sans devoir effectuer de capture de données ni de tâches d’ingestion distinctes. Cela a permis d’obtenir des informations rapides pour prendre des décisions techniques et commerciales essentielles, économisant ainsi des mois d’efforts qui auraient autrement été nécessaires. Chez Intuit, l’intégration zéro ETL d’Aurora avec Amazon Redshift nous a permis d’explorer de nouveaux modèles pour les migrations de données à grande échelle et l’analytique en temps quasi réel.

    Aruna Ghiware, Product Development Manager, Intuit
  • KINTO Technologies Corporation

    KINTO Technologies Corporation est l’un des principaux acteurs du secteur des plateformes de mobilité et la société technologique responsable du développement du service KINTO en tant que société de services financiers de Toyota. Forte de l’intégration zéro ETL MySQL d’Amazon Aurora avec Amazon Redshift, KINTO Technologies a pu mettre en place un pipeline de données plus résilient et peut désormais appliquer les fonctionnalités d’analytique avancée d’Amazon Redshift à ses données opérationnelles en temps quasi réel.

    Avant l’intégration zéro ETL, nous utilisions une solution personnalisée qui diffusait en continu les modifications de nos bases de données principales vers les applications en aval. Nous étions alors constamment confrontés à des problèmes de performances qui avaient un impact sur notre charge de travail de production. Pour faire face à la baisse des performances de la charge de travail de production, nous avons dû ajuster manuellement les pipelines afin d’envoyer des mises à jour moins fréquemment et de nous contenter des anciennes données dans Amazon Redshift. Grâce à l’intégration zéro ETL d’Aurora MySQL à Amazon Redshift, nous disposons en permanence de données en temps quasi réel dans Amazon Redshift. Les développeurs n’ont donc plus besoin de consacrer des heures à gérer manuellement des pipelines de données pour les opérations ETL ou à résoudre des problèmes de performance liés à nos charges de travail, ce qui contribue à réduire notre charge opérationnelle.

    Hitoshi Kageyama, Executive Vice President, KINTO Technologies Corporation
  • Money Forward i

    Money Forward i s’efforce d’améliorer la productivité et le potentiel créatif des équipes informatiques des organisations grâce à la simplification des tâches répétitives, à la réduction des coûts et au renforcement de la sécurité au moyen d’Admina, sa plateforme de gestion SaaS intuitive.

    Avant le lancement de l’intégration zéro ETL d’Amazon Aurora à Amazon Redshift, il était difficile d’effectuer l’implémentation et la maintenance de nos opérations ETL pour analyser les données de produits d’Amazon Aurora MySQL dans Amazon Redshift. L’intégration zéro ETL d’Aurora MySQL à Amazon Redshift permet une synchronisation des données en temps quasi réel entre nos bases de données Aurora MySQL et Amazon Redshift, ce qui réduit d’un mois à seulement trois heures le temps nécessaire à la création d’un environnement d’analyse. Outre la réduction de la charge initiale au moment du développement, l’intégration zéro ETL permet de moins impacter les environnements de production et de créer l’environnement d’analyse à moindre coût et plus rapidement.

    Katsutoshi Murakami, Director and CPO chez Money Forward, Inc.
  • Woolworths

    Woolworths est l’un des principaux détaillants d’Afrique subsaharienne proposant une large gamme de vêtements, de marchandises diverses et de produits alimentaires de qualité, avec un accent sur l’innovation, la valeur et la durabilité.

    Il est essentiel d’obtenir des informations analytiques en temps utile à partir de nos données. Ainsi, nous sommes en mesure de prendre des décisions orientées données et de réagir efficacement aux événements critiques et urgents. Le traitement de la capture des données modifiées et de la coagulation des enregistrements prenait du temps et était plus coûteux que prévu. Forts de l’intégration zéro ETL d’Amazon Aurora MySQL à Amazon Redshift, nous avons pu obtenir les mêmes résultats en une journée. Or, cela aurait autrement pris deux mois en raison des efforts d’ingénierie requis pour les opérations ETL. La latence de nos données a été considérablement réduite grâce à l’intégration, car les données étaient prêtes à être interrogées. Cela nous a permis de prendre des décisions plus rapidement au fur et à mesure que les événements se produisaient. Grâce à l’intégration zéro ETL d’Aurora à Amazon Redshift, nous avons pu réduire nos efforts en matière d’ingénierie, le nombre de défaillances dans la gestion du pipeline ainsi que nos coûts.

    Raamy Schroeder, Business Intelligence Lead, Woolworths