A IA generativa é a resposta: qual era a pergunta?

Tom Godden (00:10):
Por isso, costumamos dizer que a IA generativa é a resposta. Mas, qual era a pergunta? A IA generativa é realmente uma tecnologia nova e empolgante. É uma tecnologia transformadora. De fato, acreditamos que ela provavelmente está no mesmo nível de tecnologias transformadoras, como a imprensa, a eletricidade, a computação pessoal, a Internet e até mesmo a nuvem.

Phil Le-Brun:
Você diz que ela é nova, mas, de certa forma, é o ápice de 60 anos de desenvolvimento. A nuvem permite computação de baixo custo, que gera avanços em áreas como técnicas estatísticas, o modelo transformador agora usado para IA generativa, tornando tudo isso possível. Houve esse acúmulo de novas descobertas, que nos trouxe agora a este ponto em que podemos fazer coisas absolutamente incríveis nas organizações.

Miriam McLemore:
Eu adicionaria dados, não é mesmo? Todos nos preocupamos com dados. Estamos enterrados em dados. E a IA generativa oferece um caminho para usar esses dados de maneira produtiva para algumas das coisas que você acabou de descrever, sejam chatbots aprimorados, centrais de atendimento ou criação de conteúdo. Há um novo anúncio que acabamos de fazer no HealthScribe: você está sentado no consultório médico e vê o médico digitar no computador. O médico retorna à sala com o paciente. Existem alguns novos recursos excelentes, mas trata-se de aproveitar os dados.

Tom Godden:
E estamos todos entusiasmados com a IA generativa, todos os modelos de base e os grandes modelos de linguagem. As pessoas querem e começar a usar a IA generativa sem demora. Mas são os seus dados que farão a diferença. Se você não tiver uma base de dados sólida, realmente terá dificuldade em fazer qualquer coisa além de truques inteligentes com a IA generativa. Como empresa, você precisa alcançar essa previsibilidade, essas informações contextuais, e seus dados vão fazer a grande diferença nesse sentido.

Miriam McLemore:
O que eu adoro é que os dados foram regulamentados para o setor administrativo como uma tarefa pesada, e agora a equipe de liderança executiva precisa se apoiar nessa estratégia de dados.

Phil Le-Brun:
E nos encontramos em um ponto em que estamos nessa jornada como empresa para democratizar o machine learning e a inteligência artificial, mas geralmente isso é uma tarefa para pessoas que entendem de tecnologia. Isso agora nivela esse campo de jogo. Se observarmos alguns dados da McKinsey, eles sugerem que 75% dos benefícios da IA generativa virão de quatro áreas: operações com clientes (como centrais de atendimento), vendas e marketing, pesquisa e desenvolvimento e, então, desenvolvimento de software. Por exemplo, você falou sobre chatbots. A capacidade de conversar com uma marca, de eu, como cliente, ter uma conversa que me dará o que preciso; e também, do ponto de vista da empresa, o tanto que será possível economizar e o atrito que será eliminado da jornada do cliente: tudo isso se tornará uma vantagem competitiva.

► Ouça o podcast: Transforming Customer Service with AI

Miriam McLemore (03:20):
Acabei de conversar com um de nossos clientes. Ele está se esforçando muito para lidar com a velocidade dos negócios no dia a dia, aquilo que o mantém ocupado, mas sem olhar para frente, sem pensar grande. Como líderes, como nós podemos quebrar esse modelo? Você tem uma visão de fora para dentro e antecipa mudanças. Temos que ser líderes diferentes, e é isso que resolve a burocracia que está atrasando você.

Tom Godden:
É uma mudança transformadora, assim como a computação em nuvem e a transformação digital. E acho que muitas das nossas práticas antigas nos servem bem aqui. Você tem que entender a cultura. Você tem que entender a organização. Você tem que examinar com atenção os processos ou mecanismos (como gostamos de chamá-los) e colocá-los no lugar certo. Caso contrário, é como comprar um carro de corrida super rápido, mas não ter a equipe de box e o piloto treinados, prontos e capazes de usá-lo. Ele não vai te levar para lugar algum. Você provavelmente terá alguns benefícios, mas estamos falando sobre ser transformador, pois essa é a preocupação. A concorrência não está parada, não é mesmo? Seus concorrentes não estão parados. E há uma vantagem de ser o pioneiro em muito disso. Portanto, seja transformador ou até mesmo revolucionário no seu setor, e isso exigirá todas essas peças.

Phil Le-Brun:
O professor Scott Galloway fala sobre como você não deve se preocupar com o impacto da IA na sua empresa. Você deve se preocupar com o impacto daqueles que entendem como usar a IA para transformar sua empresa. E, Miriam, sabe o ditado “pense grande, comece pequeno e escale com rapidez”. Acho que é isso que precisamos fazer. Não podemos nos apegar a sensacionalismos, mas pensar pequeno é uma profecia autorrealizável. Então, como realmente pensar grande sobre como você pode transformar sua empresa, mas começar agora, superar sua inércia e aprender a usar tudo isso? Descubra a maneira mais rápida de aprender o que funcionará na sua organização.

Tom Godden (05:27):
Tudo se resume à IA generativa ser a resposta. Qual é a pergunta? Somente faça isso porque está agregando valor. Use-a porque ela é a ferramenta certa. Muitas vezes, vemos “apenas” análises de dados ou, o que é ridículo, inteligência artificial “regular”, machine learning “regular”, que pareciam ser tão avançados a seis meses atrás. Às vezes, eles são mais adequados para o problema que precisa ser resolvido. E você não precisa de todo o trabalho e esforço com a IA generativa para fazer essas coisas. Seja motivado pelo valor. Não faça isso apenas porque todo mundo está fazendo.

Miriam McLemore:
Mas faça acontecer.

Tom Godden:
Ponha a mão na massa. Seja impaciente. Há uma vantagem de ser o pioneiro. Isso é transformador. Mais uma vez, está no mesmo nível de algumas das outras grandes revoluções que conhecemos, e você precisa se mexer. Você precisa experimentar.

Phil Le-Brun:
Não há nada que impeça você de começar agora mesmo. Você pode usar grandes modelos de linguagem agora mesmo por meio do AWS SageMaker JumpStart. Tudo isso está bem na sua frente. É um modelo pré-pago: basta ligar e experimentar. Se não funcionar, é só interromper.

Miriam McLemore:
Você pode criar uma estratégia de dados neste exato instante. Era para ontem.

Tom Godden:
Vai ser bom para você de qualquer forma, quer você use a IA generativa ou não. E sua nuvem vai ficar em ordem. Se você ainda não tem experiência e maturidade no assunto, contrate um Centro de excelência em nuvem e prepare a equipe para poder fazer todas essas coisas. Não faça isso só porque é uma boa ideia, mas também porque será necessário. São as apostas, os elementos fundamentais da IA generativa.

Phil Le-Brun:
E não deixe isso apenas para o CIO. Sem desrespeitar o CIO, mas este é um desafio comercial. Quero dizer, nós, como executivos, temos que entender finanças e gestão de pessoal. Acho que agora é necessário que os executivos mergulhem no oceano da tecnologia e dos dados e descubram o que precisam saber. Na sua opinião, Tom, isso não é mágica. Será uma combinação de tecnologia, mudança nos processos de negócios e mudança no pessoal. Como você junta tudo isso? Não dá para deixar tudo nas mãos da equipe de TI.

Tom Godden (07:26):
E, como parte disso, precisamos analisar de forma holística a IA responsável. Você deve ter um programa de IA responsável se já está trabalhando com IA e ML. Porém, a IA generativa, devido à sua natureza generativa, vai forçar você a realmente redobrar isso e entender como está reduzindo o preconceito das coisas, como está impedindo alucinações dentro dos seus sistemas e até mesmo resultados tóxicos, a não ser que você tenha as estruturas certas implementadas. Falamos muito sobre isso. A citação de Galloway é que as pessoas entendem como usar a IA generativa, mas é a supervisão humana que será tão imperativa. Ainda não estamos preparados para remover completamente o fator humano da equação. Talvez você faça isso na produção, mas você testou várias vezes com supervisão humana sobre como ela está operando, e é uma coisa viva que respira. Ao contrário de muitos softwares que costumávamos escrever: nós os testamos e eles funcionam, então nós os colocamos em produção e dizemos: “Ótimo, vamos seguir em frente. Voltaremos e testaremos mais tarde. Talvez de novo um dia desses.” Pelo contrário, a IA generativa é algo em que você vai precisar executar casos de uso e testes regularmente. Quero dizer, diariamente, talvez até mesmo de hora em hora em alguns aspectos para ter certeza de que você está no controle.

Miriam McLemore:
Adoro seu argumento e, Phil, você diz isso com frequência, precisamos ter cuidado com o vício em previsões, porque podemos usar essa tecnologia para dizer e reconfirmar coisas em acreditamos. Precisamos ter cuidado e ouvir os dados, aproveitá-los para abrir novos caminhos e considerar novas abordagens.

Phil Le-Brun:
Acho que isso tem muito a ver com o que falamos em relação aos dados: mais de 75% dos problemas que vemos com os dados estão relacionados a pessoas, organizações e culturas. E isso começa com a liderança. Como líder, você está modelando o comportamento? Você está questionando os dados? Você está fazendo as perguntas certas? Ou está apenas tentando confirmar a decisão que já tomou? Porém, acho que este é um momento muito interessante e empolgante para os executivos, pelo potencial disponível, mas também pela obrigação em relação à IA responsável. E não se trata apenas de ética e preconceito, mas das implicações do que está sendo feito. Acho que estamos fazendo a coisa certa com o Amazon Bedrock, que é trazer o modelo para o seu ambiente seguro. Usar dados para treinar esse modelo em vez de pegá-los e colocá-los em um modelo público. Entretanto, também sabemos que não existe um modelo de base único que resolve todos os problemas.

Tom Godden:
E é aí que a verdadeira força do Bedrock entra em ação. A capacidade de acessar esses modelos de linguagem por meio de uma API e, em seguida, alternar e mover, se necessário, ou de acessar um novo modelo para um novo caso de uso, e de fazer isso de maneira rápida e ágil, assim como todos os outros serviços da AWS. De ativar quando necessário e desativar quando desnecessário.

► Ouça o podcast: How Technology Leaders Can Prepare for Generative AI

Phil Le-Brun (10:28):
E, se você quiser criar seu próprio modelo, não se precipite. Boa sorte. Muita sorte. Mas não se precipite. Quero dizer, você poderia gastar dez ou cem milhões de dólares, mas se há um caso comercial real para fazer isso, primeiro, aprenda o que realmente precisa fazer com a tecnologia que você tem. Mas, então, você tem a infraestrutura na nuvem. Você tem o Trainium e o Inferentia da AWS que podem reduzir o custo dos treinamentos e das inferências. Então, quase independentemente de onde você esteja indo no futuro, você quer que sua estratégia de dados seja definida e quer estar na nuvem. Você não vai querer tentar fazer isso em casa.

Tom Godden:
Vamos falar um pouco sobre as métricas de ostentação em torno dos modelos de base. As estatísticas mais recentes são de que os maiores modelos de base têm mais de 500 bilhões de parâmetros. Parece muito legal. Ótimo. Eu gostaria de ter cinco. Por que não posso ter 800 bilhões? Mas acho que o que estamos vendo também é que, às vezes, não precisamos ter tanto tamanho. Na verdade, o modelo pode criar resultados e respostas mais ilegítimos. Ter um modelo de propósito específico, até mesmo um público e de código aberto, mas criado especificamente para o caso de uso que você está tentando fazer, e que esteja em sintonia com suas informações comerciais contextuais provavelmente terá melhores resultados e eficácia do que essas métricas de ostentação sobre as quais é incrível falar. 500 bilhões de parâmetros parecem um número absolutamente incrível, mas podem não ser o necessário para resolver o problema.

Miriam McLemore:
Sim, os dados certos para o problema certo. E, novamente, como você disse, comece com o problema. Trabalhe de trás para frente a partir de um valor comercial que você possa impulsionar, faça acontecer e escolha um lugar para começar. É um momento emocionante, mas levará um minuto para descobrir o seu ritmo e o que agrega valor à sua abordagem. Estou surpresa com os clientes que já estão fazendo acontecer e traçando caminhos incríveis que todos iremos copiar. E, na minha opinião, uma das melhores coisas, e nas sessões da AWS, é aproveitar outros casos de uso de clientes e aprender com aqueles que já fizeram testes. Você não precisa fazer tudo sozinho.

Tom Godden:
Já falamos sobre o Code Whisperer. Vejo muitas pessoas também extremamente interessadas em centrais de atendimento. É um ambiente rico em alvos. Você tem um relacionamento direto com o cliente, então precisa ter cuidado, mas também os riscos são bem menores, por exemplo, do que tentar criar a próxima nova solução terapêutica no setor de saúde. Por favor, faça isso, precisamos desse tipo de avanço. Mas agora, estamos correndo um risco muito alto; muito, muito complicado. Também estou vendo algumas pessoas se voltando para suas intranets e, se elas são como a minha, então é a morte para as informações. Você tinha um ótimo mecanismo de pesquisa que não encontrava quase nada nele e agora você tem uma grande oportunidade de reunir e desbloquear todas essas informações dentro da sua organização, mas também uma ótima maneira de começar a dar vida a isso para que as pessoas possam ver seu potencial e fazer isso com baixos riscos. Isso agrega muito valor. Vá em frente. Seja impaciente.

Miriam McLemore (13:35):
Esse é um dos grandes anúncios que fizemos em relação a treinamentos, certo? Porque como você aprende a fazer tudo isso? Começar do zero, treinar sua equipe e preparar o pessoal executivo. Temos várias ofertas que podem ajudar nossos clientes a treinar suas organizações sobre por onde começar e quais ferramentas estão disponíveis para que você possa tomar sua própria decisão sobre a abordagem certa para sua empresa.

Phil Le-Brun:
Aprender e ser curioso. Quero dizer, temos o curso para executivos do Training and Certification. Ele é bem direto, o que é IA generativa? Temos agora o curso do Coursera, que é fantástico. Ele entra nos detalhes básicos e em algumas das coisas sobre as quais estávamos falando, esse equilíbrio entre quantidade de dados, parâmetros, computação e como encontrar o equilíbrio certo. Está tudo aí para ser feito. Muito disso é de domínio público. Faça agora. Comece a aprender agora. Nunca é cedo demais.

Tom Godden:
E esse treinamento ajudará você a atrair pessoas porque, sejamos honestos, essa é uma tecnologia transformadora, mas que também pode ser disruptiva. Algumas pessoas, com razão, estão muito preocupadas com o que ela significa. Não só pelo meu trabalho. Tenho aluguel, financiamento, faculdade dos meus filhos. Ainda tenho um papel nesse mundo novo, extremamente empolgante e transformado? O que isso vai fazer com a sociedade? E acho que ajudá-las a ver seu papel, ajudá-las a entender o papel que elas serão capazes de desempenhar e apoiá-las por meio desses treinamentos se tornará ainda mais vital nisso do que em outras evoluções transformadoras que vimos.

Phil Le-Brun:
Sim, destrua seus silos. Quero dizer, você falou sobre preconceito, Tom. A melhor maneira de reduzir o preconceito é ter uma equipe que represente sua base de clientes. Além disso, sabemos que o machine learning em geral e com certeza a IA generativa vai se espalhar por toda a organização. Vai funcionar não obstante sua estrutura organizacional, e não por causa dela. Então, livre-se da burocracia. Acho que você pode usar a IA generativa para se livrar de parte disso, mas isso volta ao que faz-

Tom Godden:
Crie um novo organograma para mim?

Phil Le-Brun:
Sim, automatize o PowerPoint.

Miriam McLemore:
Diga-me quem deve estar no comando.

Phil Le-Brun:
É nesse ponto que alguns vieses se infiltrarão. Isso mesmo. Mas use-o para realmente entender sua vantagem competitiva. Você vê empresas como a Autodesk, que estão usando IA generativa, e agora estão reduzindo o peso de alguns de seus projetos para 40%. Que excelente vantagem de sustentabilidade. Mas, eles realmente identificaram: “onde podemos usá-la para fazer uma diferença competitiva em nossa organização?”

Tom Godden:
Faça isso porque agrega valor. Não faça isso apenas porque todo mundo está fazendo.

Phil Le-Brun (16:11):
O que eu acho interessante é que muitas vezes há essa tensão entre “devo economizar dinheiro porque os tempos estão difíceis” ou “devo inovar?”. Eu acho que não há mais escolha. Você precisa fazer as duas coisas. E a realidade é que há muito dinheiro desperdiçado na organização. Então, acho que 94% dos CXOs em um estudo mostraram que sua própria estrutura organizacional os está impedindo de inovar. Toda essa burocracia. Quanto tempo você demora para tomar uma decisão? O que chamamos ironicamente de “índice de massa burocrática”. Quanto tempo você realmente gasta realizando um trabalho significativo em vez de esperar por uma decisão? Como você reduz essas decisões? Então não acho que seja uma questão de “devo inovar ou economizar dinheiro?” Acho que você deve fazer as duas coisas. Reduzir o custo do trabalho indiferenciado e desatravancá-lo para inovar, isso torna-se um ciclo virtuoso. E até mesmo usar o machine learning, a IA generativa, para realmente eliminar alguns desses custos e a burocracia na sua própria organização.

Miriam McLemore:
O que vimos e dizemos aos nossos clientes é que as restrições realmente impulsionam a inovação melhor do que quando temos tudo ao nosso alcance. Ficar entre a cruz e a espada faz com que você seja obrigado a ser criativo com relação a “como faço para sair desse lugar?” Você pode aproveitar tempos econômicos difíceis para pensar de forma diferente. Você não tem escolha. Mas também acho que, como você disse, com a IA generativa, um dos grandes valores será a produtividade e a economia de parte desse trabalho indiferenciado. Trabalhei na Coca-Cola por muitos anos, gerando conteúdo, novos sites, novas experiências, novas imagens para nossos consumidores e clientes, materiais de pontos de vendas, será um divisor de águas para a tecnologia de marketing.

Tom Godden:
Já vimos isso acontecer em outras transformações. A verdadeira mudança nem sempre é apenas na tecnologia, mas sua disposição de aplicá-la de uma nova maneira. Vimos isso com a eletricidade, mudando a forma como organizamos e operamos as fábricas. Conseguimos operar fábricas com mais segurança 24 horas por dia. Mais uma vez, a tecnologia foi a facilitadora inicial, mas a verdadeira transformação ocorreu quando repensamos o processo. Quando olhamos para isso e buscamos esse novo equilíbrio, temos que voltar e analisar nossos processos e pensar: por que estou fazendo isso? A IA generativa me permite pensar em fazer isso de uma maneira completamente diferente? Não se limite a automatizar seu passado com a IA generativa. Use-a como uma oportunidade para repensar essas coisas e fazê-las de maneira completamente diferente.