O medo mais comum de quem vai colocar IA no atendimento é justo: e se ela inventar um preço, prometer um prazo ou garantir um resultado que a empresa não pode entregar?
Alucinação não é fatalidade, é consequência de projeto frouxo. Três decisões resolvem a maior parte do risco.
1. Fonte fechada de conhecimento
O agente deve responder a partir do material da empresa, não do que ele “acha”. Isso significa base de conhecimento própria: tabela de procedimentos, política de remarcação, convênios, endereços, horários.
Quando a pergunta não tem resposta na base, o comportamento correto não é improvisar. É dizer que vai confirmar e transferir. Um agente que sabe dizer “não tenho essa informação aqui” vale mais do que um que sempre responde.
2. Escopo declarado
Escreva a lista do que ele não faz. Ela costuma ser curta e específica:
- não dá diagnóstico nem opinião clínica;
- não fecha desconto fora da política;
- não confirma disponibilidade que dependa de checagem humana;
- não fala sobre concorrente;
- não trata de reclamação: encaminha.
Cada linha vira regra. Sem essa lista, o agente vai preencher o vazio com boa vontade.
3. Handoff com contexto
Transferência não é falha do robô: é o desenho funcionando. O que estraga a experiência é transferir e o cliente ter que repetir tudo.
Um bom handoff carrega:
- resumo do que já foi tratado;
- dados coletados até ali;
- motivo da transferência;
- prioridade sugerida.
O atendente humano entra sabendo mais do que se tivesse acompanhado a conversa inteira.
Como auditar
Três práticas simples e baratas:
- Amostragem semanal. Leia 20 conversas atendidas pela IA. Marque erro, acerto e caso de escopo.
- Sinalização pelo atendente. Um botão para o humano marcar “resposta errada” cria a fila de correção.
- Palavras de risco. Monitore termos como “garanto”, “com certeza cura”, “sem dor nenhuma”. Se aparecerem, ajuste o tom e as regras.
O ponto que quase ninguém pensa
Alucinação também acontece com humano cansado às 19h de sexta. A diferença é que a IA erra de forma sistemática e auditável, e por isso é corrigível. Operação madura usa isso a favor: cada erro vira regra nova, e a regra vale para todos os atendimentos seguintes.
É isso que separa “colocamos uma IA” de “temos atendimento automatizado com controle”. Se quiser ver como o escopo e as regras aparecem na configuração, a página do agente mostra o caminho.