AWS Executive Insights / Segurança / ...
Líderes de segurança compartilham suas ideias sobre IA generativa
Uma conversa com líderes de segurança da People.ai, Trellix, Red Canary e AWS
Empresas do mundo todo estão em uma corrida para incorporar tecnologias de IA generativa e obter vantagem competitiva. No entanto, identificar o caso de uso correto e saber por onde começar é um grande obstáculo para muitos líderes empresariais e de tecnologia. Neste vídeo, ouça três clientes e líderes de segurança da AWS sobre como suas empresas estão abordando a IA generativa.
Assista ao vídeo para ouvir as perspectivas dos líderes de segurança da People.AI, Trellix e Red Canary sobre IA generativa. Ouça esses líderes compartilharem suas ideias sobre os riscos e benefícios relacionados à segurança da IA generativa e como identificaram maneiras seguras de começar a aproveitá-la nos negócios.
O que os participantes do programa CISO Circle estão dizendo sobre a IA generativa?
Danielle Ruderman (00:03):
Segurança e IA são tópicos muito amplos, e descobrimos que nossos CISOs se preocupam com algumas áreas. Uma delas, obviamente, é o ChatGPT e os grandes modelos de linguagem. As equipes querem usar essas ferramentas, assim como os programadores. Então, como CISOs responsáveis pela segurança da organização, precisamos conversar sobre quais políticas e procedimentos você implementa. O que você acha de suas equipes usarem essa tecnologia?
Acho interessante que muitos CISOs querem que suas equipes a usem. Eles enxergam o potencial dessas ferramentas, então falamos sobre quais tipos de barreira de proteção são necessárias e como usá-las com responsabilidade. Essas discussões são muito importantes.
Aman Sirohi (00:34):
Acho que logo vamos nos deparar com os riscos da IA. Qual é a exposição aos riscos para a empresa e os clientes?
Todos os contratos que conheço mencionam que dados de terceiros não podem deixar o ambiente e ser transferidos para outro lugar. Seja qual for o modelo de IA que deseja usar, esses dados agora estão saindo do seu ambiente, passando para terceiros, retornando e gerando algumas respostas. Portanto, acho que haverá muitas mudanças na forma como o setor jurídico encara essa questão, como os riscos são assumidos pelo cliente e pela empresa. Acho que haverá muita inovação na área.
Danielle Ruderman
Gerente sênior, WW Security Specialists, AWS
Aman Sirohi
Diretor de segurança da informação, People.ai
Como os CISOs estão aproveitando a IA generativa de forma segura?
Danielle Ruderman (01:19):
Também observamos ideias realmente ambiciosas sobre o significado do futuro com a IA. Alguns CISOs acreditam que essa é uma oportunidade incrível para crescermos trazendo novos talentos para o setor de segurança.
Às vezes, o início do processo, como dar às pessoas o conhecimento necessário, pode ser um desafio. Mas talvez essas ferramentas ajudem um analista júnior de SOC ou outra equipe de segurança a obter apoio e as ferramentas de que precisam, além de desenvolver habilidades com mais rapidez, o que nos ajudará, como setor, a desenvolver mais profissionais de segurança.
Martin Holste (01:45):
Bem, em termos de negócio, você precisa começar a usar a IA generativa ou ficará para trás. Então, como CISO, você precisa encontrar uma maneira de permitir que seu pessoal seja produtivo, porém com segurança.
Sou um grande defensor do máximo uso da IA generativa em um negócio padrão. Por isso, fazemos muitos treinamentos internos sobre como usar todos os tipos de IA para que todos possam ser mais produtivos. Nesse sentido, também temos controles para garantir que seja impossível copiar e colar acidentalmente algo onde não deveria.
Martin Holste
Diretor de tecnologia de nuvem, Trellix
Os benefícios da IA generativa superam os riscos de segurança?
Danielle Ruderman (02:14):
Acho que a terceira coisa que tem sido muito interessante é a promessa da IA de ajudar até mesmo profissionais de segurança maduros a se aprofundarem no que precisam fazer. Imagine que você está analisando logs e aprendendo a codificar em uma determinada linguagem, talvez Python, mas agora precisa analisar logs e aprender a escrever consultas SQL. A barreira é ter que aprender essas linguagens diferentes para fazer extrações. Você sabe onde estão os dados, mas precisa aprender a extraí-los com o código diferente. Imagine se pudesse simplesmente dizer à IA o que deseja fazer e quais dados reunir para análise, sem ter que aprender todos esses diferentes modelos de codificação esotérica.
Há muitas possibilidades que podem nos ajudar a acelerar o tempo das investigações e ajudar todos, dos profissionais de segurança juniores até os mais maduros, a trabalhar com mais rapidez.
Chris Rothe (02:58):
Em última análise, o grande desafio da segurança é que não há pessoas suficientes para esse trabalho. Por isso é tão importante o trabalho que a AWS está desenvolvendo em termos de tornar a plataforma e os serviços mais seguros, em cada detalhe possível.
De modo geral, queremos que todos na equipe da Red Canary usem a IA generativa de uma maneira que faça sentido para suas funções. Caso seja um vendedor que acabou de fazer uma ótima ligação com um cliente e precisa elaborar um e-mail de acompanhamento, vamos agilizar isso e melhorar a qualidade dessa comunicação. No final das contas, isso é melhor para o cliente e melhor para você, porque você demorou cinco minutos em vez de talvez uma hora.
Esta tem sido nossa abordagem: garantir que todos possam usá-la de maneira segura. Mas acho que estamos no início da jornada em termos de reconhecer as armadilhas e os desafios associados a elas. Que tipo de questões legais surgirão nos próximos anos em relação à IA generativa?
Chris Rothe
Cofundador e diretor de tecnologia, Red Canary
Sobre os líderes
Aman Sirohi
Diretor de segurança da informação, People.ai
Aman Sirohi é diretor de segurança das informações na People.ai. Ele tem ampla experiência em conceber e fornecer uma grande variedade de soluções de segurança em ambientes complexos com várias partes interessadas em setores como tecnologia, consultoria de varejo, tecnologia financeira e cadeia de suprimentos. Aman é apaixonado por segurança e ajuda as organizações a criar profundos níveis de confiança entre clientes, funcionários e parceiros. Essa paixão o levou a formar equipes de alto desempenho que proporcionam resultados transformadores para clientes e parceiros. Um líder que coloca as pessoas em primeiro lugar e com experiência empresarial diversificada, Aman é considerado um consultor de confiança e solucionador de problemas estratégico, possibilitando que os negócios elevem o padrão e, ao mesmo tempo, oferecendo resultados melhores para os clientes.
Martin Holste
Diretor de tecnologia de nuvem, Trellix
Como diretor de tecnologia de nuvem, Martin é responsável por moldar a segurança na nuvem e as ofertas de IA, desenvolver a estratégia corporativa de segurança na nuvem e trabalhar intensamente com os clientes para melhorar seus resultados de segurança. Antes de atuar como diretor de tecnologia de nuvem, Martin liderou equipes que trabalhavam com machine learning e fundou a plataforma Helix XDR nativa de nuvem na Trellix. Antes da Trellix, Martin passou quase uma década trabalhando em testes de penetração, resposta a incidentes e caça a ameaças enquanto atuava como líder da equipe de resposta a incidentes no estado de Wisconsin.
Chris Rothe
Cofundador e diretor de tecnologia, Red Canary
Chris foi cofundador da Red Canary em 2014, lidera a estratégia técnica e construiu muitas das ferramentas e equipes que a Red Canary utiliza hoje em dia para adquirir clientes e prestar serviços a eles. Antes de cofundar a Red Canary, Chris liderou equipes de desenvolvimento de software e arquitetou grandes sistemas de processamento de dados para a comunidade de defesa e inteligência.
Danielle Ruderman
Gerente sênior, Worldwide Security Specialists, AWS
Danielle Ruderman é gerente sênior da organização Worldwide Security Specialist da AWS, onde lidera uma equipe de especialistas em segurança global. Danielle está na AWS desde 2016. Sua carreira técnica se estende por mais de 20 anos, com empresas corporativas, startups e organizações governamentais. Hoje, Danielle gosta de discutir como criar culturas organizacionais que reforcem os controles de segurança e projetar sistemas e mecanismos que “facilitem a coisa certa a se fazer” para que a segurança possa ser um facilitador de negócios.
Dê o próximo passo
Ouça e aprenda
Ouça os líderes executivos e os estrategistas empresariais da AWS, todos executivos experientes, debatendo as jornadas de transformação digital.
Fique conectado
O AWS Executive Insights é um destino digital para líderes empresariais e de tecnologia, onde compartilhamos informações, melhores práticas e convites para eventos.
Revelar o valor da IA generativa para líderes de negócios
Saiba como integrar o ML/IA generativa na sua organização.