À medida que os agentes da IA entram na implantação do mundo real, as organizações estão sob pressão para definir onde pertencem, como construí-las de maneira eficaz e como operacionalizá-las em escala. No VentureBeat’s Transforme 2025os líderes de tecnologia se reuniram para falar sobre como eles estão transformando seus negócios com os agentes: Joanne Chen, parceira geral da Foundation Capital; Shailesh Nalawadi, vice -presidente de gerenciamento de projetos com Sendbird; Thys Waanders, vice -presidente sênior de transformação de IA em Cognigy; e Shawn Malhotra, CTO, Rocket Companies.
Alguns casos de uso de IA agênticos principais
“A atração inicial de qualquer uma dessas implantações para agentes de IA tende a estar em torno de salvar o capital humano – a matemática é bem direta”, disse Nalawadi. “No entanto, isso enfatiza a capacidade de transformação que você obtém com os agentes da IA.”
No Rocket, os agentes da IA provaram ser ferramentas poderosas para aumentar a conversão de sites.
“Descobrimos que, com nossa experiência baseada em agentes, a experiência de conversação no site, os clientes têm três vezes mais chances de converter quando passam por esse canal”, disse Malhotra.
Mas isso está apenas arranhando a superfície. Por exemplo, um engenheiro de foguetes construiu um agente em apenas dois dias para automatizar uma tarefa altamente especializada: calcular os impostos de transferência durante a subscrição hipotecária.
“Esses dois dias de esforço nos salvaram um milhão de dólares por ano em despesas”, disse Malhotra. “Em 2024, economizamos mais de um milhão de horas de membro da equipe, principalmente fora de nossas soluções de IA. Isso não é apenas economizar despesas. Isso também está permitindo que os membros da nossa equipe concentrem seu tempo nas pessoas que fazem o que geralmente é a maior transação financeira de sua vida”.
Os agentes estão essencialmente sobrecarregando os membros da equipe individual. Esse milhão de horas salvas não é a totalidade do trabalho de alguém replicado muitas vezes. São frações do trabalho que são as coisas que os funcionários não gostam de fazer ou não estavam agregando valor ao cliente. E esse milhão de horas salvas dá a Rocket a capacidade de lidar com mais negócios.
“Alguns dos membros da nossa equipe conseguiram lidar com 50% mais clientes no ano passado do que no ano anterior”, acrescentou Malhotra. “Isso significa que podemos ter maior taxa de transferência, impulsionar mais negócios e, novamente, vemos taxas de conversão mais altas porque estão gastando tempo entendendo as necessidades do cliente em relação a fazer muito mais trabalho mecânico que a IA pode fazer agora”.
Com a complexidade do agente
“Parte da jornada para nossas equipes de engenharia está se movendo da mentalidade da engenharia de software – escreva uma vez e teste -a e ela corre e dá a mesma resposta 1.000 vezes – para a abordagem mais probabilística, onde você pergunta a mesma coisa de um LLM e fornece respostas diferentes através de alguma probabilidade”, disse Nalawadi. “Muito disso vem trazendo pessoas. Não apenas engenheiros de software, mas gerentes de produto e designers de UX”.
O que ajudou é que os LLMs percorreram um longo caminho, disse Waanders. Se eles construíssem algo há 18 meses ou dois anos atrás, eles realmente tiveram que escolher o modelo certo, ou o agente não funcionaria como o esperado. Agora, ele diz, agora estamos em um estágio em que a maioria dos modelos convencionais se comporta muito bem. Eles são mais previsíveis. Hoje, porém, o desafio é combinar modelos, garantir a capacidade de resposta, orquestrar os modelos certos na sequência certa e tecer nos dados corretos.
“Temos clientes que impulsionam dezenas de milhões de conversas por ano”, disse Waanders. “Se você automatizar, digamos, 30 milhões de conversas em um ano, como essa escala no LLM World? Isso é tudo o que tivemos que descobrir, coisas simples, mesmo obtendo a disponibilidade do modelo com os provedores de nuvem. Tendo cota suficientes com um modelo ChatGPT, por exemplo.
Uma camada acima da orquestração do LLM está orquestrando uma rede de agentes, disse Malhotra. Uma experiência de conversação tem uma rede de agentes sob o capô, e o orquestrador está decidindo qual agente cultivar a solicitação a partir dos disponíveis.
“Se você joga isso para a frente e pensa em ter centenas ou milhares de agentes capazes de coisas diferentes, você obtém alguns problemas técnicos realmente interessantes”, disse ele. “Está se tornando um problema maior, porque a latência e o tempo são importantes. Esse roteamento do agente será um problema muito interessante para resolver nos próximos anos”.
Tocando em relacionamentos de fornecedores
Até este ponto, o primeiro passo para a maioria das empresas que lançam a IA Agentic está construindo internamente, porque ainda não existiam ferramentas especializadas. Mas você não pode diferenciar e criar valor construindo infraestrutura genérica de LLM ou infraestrutura de IA, e precisa de conhecimentos especializados para ir além da construção inicial e depurar, iterar e melhorar o que foi construído, além de manter a infraestrutura.
“Muitas vezes, encontramos as conversas mais bem-sucedidas que temos com clientes em potencial tendem a ser alguém que já construiu algo internamente”, disse Nalawadi. “Eles rapidamente percebem que chegar a um 1.0 é bom, mas à medida que o mundo evolui e à medida que a infraestrutura evolui e, como eles precisam trocar a tecnologia por algo novo, eles não têm a capacidade de orquestrar todas essas coisas”.
Preparando -se para a complexidade Agentic AI
Teoricamente, a IA agêntica só crescerá em complexidade – o número de agentes em uma organização aumentará e eles começarão a aprender um com o outro, e o número de casos de uso explodirá. Como as organizações podem se preparar para o desafio?
“Isso significa que os cheques e os equilíbrios do seu sistema ficarão mais estressados”, disse Malhotra. “For something that has a regulatory process, you have a human in the loop to make sure that someone is signing off on this. For critical internal processes or data access, do you have observability? Do you have the right alerting and monitoring so that if something goes wrong, you know it’s going wrong? It’s doubling down on your detection, understanding where you need a human in the loop, and then trusting that those processes are going to catch if something does go wrong. But because of the power it Desbloqueia, você tem que fazer isso. ”
Então, como você pode ter confiança de que um agente de IA se comportará de maneira confiável à medida que evolui?
“Essa parte é realmente difícil se você não pensou nisso no começo”, disse Nalawadi. “A resposta curta é que, antes mesmo de começar a construí -lo, você deve ter uma infraestrutura de avaliação em vigor. Verifique se você tem um ambiente rigoroso no qual você sabe como é o bem, de um agente de IA e que você tem esse conjunto de testes. Continue se referindo a ele ao seu sistema agradável.”
O problema é que é não determinístico, acrescentou Waanders. O teste de unidade é fundamental, mas o maior desafio é que você não sabe o que não sabe – quais comportamentos incorretos um agente pode exibir, como pode reagir em qualquer situação.
“Você só pode descobrir isso simulando conversas em escala, empurrando -a sob milhares de cenários diferentes e analisando como ele se mantém e como reage”, disse Waanders.
