AWS Executive Insights / Sécurité / ...
Des responsables de la sécurité partagent leurs réflexions sur l’IA générative
Entretien avec les responsables de la sécurité de People.ai, Trellix, Red Canary et AWS
Les entreprises du monde entier sont engagées dans une course pour intégrer les technologies d’IA générative et acquérir un avantage concurrentiel. Cependant, identifier le bon cas d’utilisation et savoir par où commencer constitue un obstacle majeur pour de nombreux chefs d’entreprise et responsables technologiques. Dans cette vidéo, découvrez le point de vue de trois clients et responsables de la sécurité d’AWS sur la manière dont leurs entreprises abordent l’IA générative.
Regardez la vidéo pour découvrir les perspectives de l’IA générative de la part des responsables de la sécurité de People.AI, Trellix et Red Canary. Écoutez ces leaders partager leurs réflexions sur les risques et les avantages de l’IA générative en matière de sécurité et sur la manière dont ils ont identifié des moyens sécurisés pour tirer parti de l’IA générative dans les entreprises.
Que disent les participants du CISO Circle à propos de l’IA générative ?
Danielle Ruderman (00:03) :
La sécurité et l’IA constituent un sujet très vaste, et nous avons constaté que nos RSSI étaient concernés par différents domaines de grands modèles de langage, dont évidemment ChatGPT. Leurs équipes veulent les utiliser, leurs codeurs veulent les utiliser. Nous devons donc discuter, en tant que RSSI chargé de sécuriser votre organisation, des politiques et procédures que vous mettez en place. Que pensez-vous de l’utilisation de cette technologie par vos équipes ?
Je pense que ce qui est intéressant, c’est que de nombreux RSSI souhaitent que leurs équipes l’utilisent. Ils voient vraiment le potentiel de ces outils. Nous discutons donc du type de barrières de protection dont vous avez besoin et de la manière de les utiliser de manière responsable. Ce sont là des discussions très importantes.
Aman Sirohi (00:34) :
Je pense que nous allons nous heurter assez rapidement au risque lié à l’IA. Quelle est cette exposition au risque pour votre entreprise, pour vos clients ?
Tous les contrats que je connais stipulent que les données de tiers ne peuvent pas quitter votre environnement et être transmises à une source tierce. Maintenant, quel que soit le modèle d’IA que vous voulez utiliser, ces données quittent votre environnement, sont transférées à une source tierce et reviennent pour vous donner une réponse. Je pense donc qu’il va y avoir beaucoup de changements dans la façon dont les responsables juridiques vont étudier la question, dans la façon dont le risque sera assumé par le client et par l’entreprise. Je pense qu’il va y avoir beaucoup d’innovation dans ce domaine.
Danielle Ruderman
Directrice générale, WW Security Specialists, AWS
Aman Sirohi
Responsable de la sécurité des systèmes d’information, People.ai
Comment les RSSI trouvent-ils des moyens sûrs de tirer parti de l’IA générative ?
Danielle Ruderman (01:19) :
Nous observons également de véritables aspirations quant à ce signifie que l’avenir avec l’IA. Certains de nos responsables de la sécurité informatique estiment qu’il s’agit d’une formidable opportunité pour nous de développer notre activité en attirant de nouveaux talents dans le domaine de la sécurité.
Parfois, il peut être difficile d’accéder aux informations dont les utilisateurs ont besoin, mais peut-être que ces outils peuvent aider un analyste SOC junior ou d’autres spécialistes de la sécurité à vraiment se familiariser, à obtenir les outils dont ils ont besoin et à développer leurs compétences plus rapidement, ce qui nous aidera véritablement, en tant qu’industrie, à développer davantage de professionnels de la sécurité.
Martin Holste (01:45) :
Pour les entreprises, il est indispensable de commencer à utiliser l’IA générative, sous peine de se retrouver à la traîne. En tant que responsable de la sécurité des systèmes d’information, vous devez donc trouver un moyen de permettre à vos employés d’être productifs, mais aussi de le faire de manière sûre.
Je suis un fervent partisan de l’utilisation de l’IA générative autant que possible dans une entreprise standard. Nous organisons donc de nombreuses formations en interne sur la façon d’utiliser toutes sortes d’IA différentes afin qu’elles soient plus productives. Dans le même ordre d’idées, nous avons également mis en place des contrôles pour nous assurer qu’il est impossible de copier et coller accidentellement quelque chose à un endroit où cela ne devrait pas être.
Martin Holste
Directeur technique du cloud, Cloud, Trellix
Les avantages de l’IA générative l’emportent-ils sur les risques de sécurité ?
Danielle Ruderman (02:14) :
Je pense que la troisième chose très intéressante est la promesse de l’IA d’aider même les professionnels de la sécurité les plus expérimentés à se concentrer sur ce qu’ils ont à faire. Imaginez que vous analysiez des journaux et que vous ayez appris à coder dans un certain langage, par exemple Python, mais que vous deviez maintenant analyser des journaux et apprendre à écrire des requêtes SQL. L’obstacle est de devoir apprendre ces différents langages pour les extraire. Vous savez où se trouvent les données, mais vous devez apprendre à les extraire avec le code différent. Imaginez si vous pouviez simplement dire à l’IA ce que vous voulez faire et quelles données vous souhaitez rassembler pour effectuer votre analyse, sans avoir à apprendre tous ces différents modèles de codage ésotériques.
C’est une grande puissance qui peut réellement nous aider à accélérer les enquêtes et à vraiment aider tout le monde, des professionnels de la sécurité débutants aux professionnels très expérimentés, à faire leur travail plus rapidement.
Chris Rothe (02:58) :
Le principal défi en matière de sécurité, en fin de compte, est le déficit de ressources humaines. D’où l’importance du travail effectué par AWS pour améliorer progressivement la sécurité de la plateforme et des services.
Mais d’une manière générale, nous voulons que chaque membre de l’équipe Red Canary utilise l’IA générative d’une manière adaptée à son rôle. Prenons l’exemple du vendeur qui, suite à une excellente conversation téléphonique avec un client, doit rédiger un e-mail de suivi : nous devons accélérer ce processus et améliorer la qualité de cette communication. En fin de compte, c’est bénéfique pour le client et pour vous, car la tâche vous a pris cinq minutes au lieu d’une heure.
Voilà notre approche, qui consiste à faire en sorte que tout le monde puisse utiliser l’IA générative en toute sécurité. Mais je pense que nous n’en sommes qu’à nos débuts pour ce qui est de savoir quels sont les pièges et quels sont les défis qui y sont associés. Quels types de problèmes juridiques seront soulevés au cours des prochaines années en ce qui concerne l’IA générative ?
Chris Rothe
Cofondateur et directeur technique, Red Canary
À propos des dirigeants
Aman Sirohi
Responsable de la sécurité des systèmes d'information, People.ai
Aman Sirohi est le responsable de la sécurité des systèmes d'information chez People.ai. Il possède une vaste expérience dans la conception et la fourniture d'un large éventail de solutions de sécurité dans des environnements complexes et multipartites à l'échelle mondiale, dans des secteurs tels que la technologie, le conseil, la vente au détail, les technologies financières et la chaîne d'approvisionnement. Aman est passionné par la sécurité et aide les organisations à établir un niveau de confiance avancé avec leurs clients, leurs employés et leurs partenaires. Cette passion l'a poussé à mettre en place des équipes hautement performantes qui fournissent des résultats transformationnels pour les clients et les partenaires. Leader privilégiant les personnes et possédant une expérience professionnelle diversifiée, Aman est considéré comme un conseiller de confiance et un résolveur stratégique de problèmes qui permet à l’entreprise de placer la barre plus haut tout en offrant de meilleurs résultats aux clients.
Martin Holste
Directeur technique, Cloud, Trellix
En tant que directeur technique du cloud, Martin est chargé de définir les offres de sécurité cloud et d'IA, de développer la stratégie de sécurité cloud de l'entreprise et de travailler avec passion avec les clients en vue d'améliorer leurs résultats en matière de sécurité. Avant d'occuper le poste de directeur technique du cloud, Martin a dirigé des équipes spécialisées dans le domaine du machine learning et a créé la plateforme Helix XDR cloud-native chez Trellix. Avant Trellix, Martin a passé près de dix ans dans les tests de pénétration, la réponse aux incidents et la recherche de menaces, tout en dirigeant l’équipe de réponse aux incidents pour l’État du Wisconsin.
Chris Rothe
Cofondateur et directeur technique, Red Canary
Chris a cofondé Red Canary en 2014, dirige la stratégie technique et met en place de nombreux outils et équipes que Red Canary utilise pour acquérir et servir les clients aujourd’hui. Avant de cofonder Red Canary, Chris a dirigé des équipes de développement logiciel et conçu de grands systèmes de traitement de données pour la défense et la communauté du renseignement.
Danielle Ruderman
Directrice générale, Worldwide Security Specialists, AWS
Danielle Ruderman est directrice générale au sein de l’organisation Worldwide Security Specialist d’AWS, où elle dirige une équipe de spécialistes de la sécurité mondiale. Danielle travaille chez AWS depuis 2016. Sa carrière dans le domaine technique s’étend sur plus de 20 ans auprès d’entreprises, de start-ups et d’organisations gouvernementales. Aujourd’hui, Danielle aime discuter de la création de cultures organisationnelles qui renforcent les contrôles de sécurité et de la conception de systèmes et de mécanismes à visée de « simplification » afin de faire de la sécurité un outil commercial.
Passer à l’étape suivante
Innovation
Découvrez comment les leaders du secteur soutiennent l’innovation continue qui fait croître leur entreprise et offre des expériences client différenciées.
Écouter et apprendre
Écoutez des dirigeants et des stratèges d'entreprise AWS, tous anciens membres de la C-Suite, parler de leur parcours de transformation numérique.
Restez connecté
AWS Executive Insights est une destination numérique pour les chefs d’entreprises et de technologies où nous partageons des informations, des bonnes pratiques et des invitations à des événements.
Exploiter la valeur de l’IA générative pour les chefs d’entreprise
Découvrez comment intégrer l’IA générative/le ML dans votre organisation.