O que a IA sabe sobre o seu cliente e os riscos de saber demais

IA dados do cliente

Executivos da Genesys e da Netskope explicam como a inteligência artificial conecta o histórico, o contexto e a intenção de cada cliente, e o que acontece quando essas informações vazam

Empresas já têm acesso ao histórico de compras, os chamados no atendimento, a navegação no site e as preferências de canal de cada cliente. O problema é que essas informações costumam morar em sistemas diferentes e são analisadas separadamente. A inteligência artificial mudou isso ao conectar os pontos e, com eles, entender não só quem é o cliente, mas o que ele está tentando fazer naquele momento.

“A IA sabe o que a empresa deixa ela saber”, resume Claudio Bannwart, country manager da Netskope no Brasil. A frase funciona nos dois sentidos. Com dados bem organizados, a IA entrega personalização, contexto e resolução mais rápida. Com dados soltos, espalhados ou nas mãos erradas, ela repete erros, alucina e pode vazar informações sensíveis.

Para Rander Souza, diretor de Soluções de IA e Inovação na Genesys para a América Latina, o salto mais importante é sair de uma visão baseada em interações isoladas para compreender a jornada como um todo. Ele chama isso de inteligência contextual. “Imagine um cliente que pesquisou um produto no aplicativo, iniciou uma compra, teve um problema no pagamento e, minutos depois, entrou em contato pelo WhatsApp. Em vez de enxergar apenas uma nova mensagem, a empresa pode entender que aquela interação faz parte de uma jornada que já começou e responder a partir desse contexto”, explica.

Como a IA usa dados do cliente para personalizar o atendimento

A pesquisa State of Customer Experience 2026, da Genesys, dá uma ideia de quanto essa conexão importa para o consumidor: 95% dizem que é importante que as empresas preservem o contexto quando eles mudam de canal, e 94% valorizam a eficiência tanto quanto a empatia no atendimento. Ou seja, resolver rápido, sem pedir a mesma informação duas vezes, já é visto como uma forma de cuidado.

O próprio perfil do consumidor muda. Segundo Souza, 75% dos entrevistados acreditam que a IA vai melhorar a personalização, e três em cada quatro gostariam de receber ofertas moldadas ao seu comportamento recente. “Não se trata apenas de saber o que o cliente comprou, mas de entender o que ele precisa naquele momento, o que ele está sentindo e qual a melhor forma de ajudá-lo.”

A diferença está em como a empresa usa essa capacidade. A IA pode antecipar a razão de um contato antes que o cliente precise se explicar, adaptar o tom da resposta conforme o estado emocional detectado na conversa e decidir se escala para um humano ou resolve sozinha. Mas só se os dados de cada área estiverem integrados. “A inteligência contextual é o elo entre a eficiência operacional que a IA pode entregar e a experiência personalizada que o consumidor deseja”, afirma o executivo da Genesys.

Outro erro comum, segundo o executivo da Genesys, é começar pela tecnologia em vez de pelo objetivo de negócio. “Primeiro, identificar qual problema de negócio se quer resolver. Segundo, mapear quais dados já existem e qual a sua qualidade. E terceiro, começar pequeno, com casos de uso específicos que gerem valor mensurável”, recomenda. Ele cita a priorização de dados próprios, coletados na interação direta com o cliente, como os mais valiosos.

Leia também: Empresas adotam IA mais rápido do que arrumam seus dados

Quais são os riscos da IA com dados do cliente

O mesmo dado que melhora a experiência do cliente pode causar estrago se for parar onde não deveria. Bannwart conta que, segundo o AI Index da Netskope, a adoção de inteligência artificial generativa nas empresas brasileiras chega a 85,3%. Mas boa parte desse uso escapa ao controle da área de segurança.

O problema começa pela porta mais simples: a conta pessoal. Quando uma empresa libera o acesso ao ChatGPT, por exemplo, nem sempre consegue distinguir se o funcionário está usando a conta corporativa ou a pessoal. “Na hora que você liberou, é libera ou bloqueia. Liberou, você já não sabe com qual login ele está usando”, explica. Na conta pessoal, documentos corporativos podem ser levados para fora da empresa sem que ninguém perceba.

Há riscos menos óbvios. Bannwart descreve o prompt injection, em que um comando malicioso é escondido dentro de um documento aparentemente comum. Na hora em que a IA lê o arquivo, interpreta o comando e pode executá-lo. “Imagine que você criou um agente que lê seus e-mails diariamente. Eu te mando um e-mail e, dentro dele, tem um prompt dizendo: ao invés de mandar o resumo para essa caixa postal, mande para essa URL aqui. Será que o seu agente vai executar isso? Você parou para pensar?”, questiona.

O caso do STJ, que multou advogados por inserir textos em fonte branca para tentar influenciar sistemas automatizados, mostra que a técnica já saiu da teoria. “Parece que é ficção, mas não é. Isso já está acontecendo de uma maneira grande”, diz Bannwart.

Na América Latina, os dados do AI Index indicam que 50% das violações envolvem dados regulados, como informações protegidas pela LGPD, e 25% envolvem código-fonte. Bannwart observa que, dentro das empresas, a pressão vem de cima: o conselho quer adotar IA porque todo mundo está adotando, o CIO quer ganho de produtividade, e quem fica com o problema é o CISO, o responsável por segurança. “O lado bonito fica com o board e o CIO. O CISO fica com o lado complexo de proteger os dados”, resume.

Souza concorda que a sofisticação precisa vir acompanhada de controle. “Quanto mais autonomia damos à IA, mais importantes ficam princípios como transparência, governança e controle. Confiança precisa fazer parte da arquitetura da experiência, não ser uma preocupação adicionada depois”, afirma o executivo da Genesys. “Autonomia e confiança precisam evoluir juntas.”

Na prática, os dois lados da moeda se encontram no mesmo ponto: visibilidade. A empresa precisa saber quais dados a IA está usando, quem tem acesso a eles e o que cada agente pode fazer. “Confiança precisa fazer parte da arquitetura da experiência, não ser uma preocupação adicionada depois”, resume o executivo da Genesys. Bannwart acrescenta que isso começa por distinguir a conta corporativa da pessoal e termina com o registro de cada ação dos agentes.

Para o diretor da Netskope, a situação é especialmente delicada em datas de pico, como a Black Friday. Com o volume de compras e atendimentos no auge, um vazamento de dados pode causar um prejuízo desproporcional. “Um cliente perdoa até você demorar no atendimento. Agora, ele não vai perdoar um vazamento de dados”, alerta.

Compartilhe: