IA Generativa: Alucinações no Marketing Colocam Reputação em Risco!

Falhas de IA no Marketing: Reputação em Risco Além do Tempo

O rápido crescimento do uso de inteligência artificial generativa na produção de conteúdo, impulsionado pelas plataformas digitais, trouxe consigo um desafio pouco discutido: as chamadas “alucinações” das ferramentas. Essas ocorrências, onde a IA inventa dados, cita fontes inexistentes ou distorce informações, representam um risco significativo para as empresas.

Um relatório da McKinsey, intitulado “State of AI in 2024”, destaca que a mitigação desses riscos ainda está em estágio inicial. Apesar das preocupações com privacidade, segurança de dados e confiabilidade serem centrais para as organizações, a maioria ainda controla apenas uma pequena parcela dos riscos identificados.

A questão se tornou particularmente relevante com o aumento da dependência da IA na criação de conteúdo de marketing.

Leia também

Infios Revoluciona Cadeia de Suprimentos com IA em Tempo Real

Mato Grosso Bomba no Brasil: Crescimento Exponencial nas Buscas por DRE

IA no Backoffice: Brasil Atrasado em Ritmo de Adoção e Riscos no Cenário Financeiro

A Importância da Validação Humana

Renan Caixeiro, CMO da Reportei, empresa especializada em relatórios e dashboards de marketing, enfatiza a origem técnica do problema: “A tecnologia trabalha com probabilidades estatísticas, não com a compreensão dos fatos”. Por isso, ele ressalta que os dados gerados por IA precisam ser validados por humanos antes de serem publicados.

Caixeiro adverte que pedir para a própria ferramenta revisar o dado que ela gerou não é uma solução eficaz e pode, inclusive, criar uma falsa confirmação. Ele explica que, dada a natureza estatística da IA, a conferência humana é essencial para garantir a precisão das informações.

Procedimentos Recomendados

Caixeiro recomenda seguir os seguintes procedimentos para conter os impactos negativos: Verificação manual de dados estatísticos. Toda informação quantitativa produzida por IA deve passar por conferência humana antes de ir ao ar. Pedir para a própria ferramenta revisar o dado que ela gerou não resolve, e pode até criar uma falsa confirmação. “Se a IA cita um dado ou informação, tem que conferir a parte essencial.

Como ela gera estatística, tem que ter conferência manual. Evite pedir para revisar quando é dado”, diz Caixeiro.

Ele lembra que a responsabilidade editorial recai sobre a empresa, não sobre o desenvolvedor da ferramenta, o que torna a exposição jurídica um risco concreto.

Checagem da Fonte Original

Ao utilizar uma ferramenta de IA, o profissional deve configurá-la para que ela indique o link ou a referência de onde extraiu o dado. Mesmo assim, a checagem manual segue obrigatória. “Tem que citar a fonte do dado que usou. A própria IA já está fazendo isso, mas ainda assim é necessário fazer a checagem da fonte de forma manual.

Esse é o único método seguro para garantir que a informação citada existe de fato”, explica o CMO.

Protocolo de Retratação Imediata

Quando um erro é publicado e ganha repercussão, a velocidade de resposta define o tamanho do estrago. Corrigir o conteúdo silenciosamente, sem o devido esclarecimento ao público, costuma agravar a crise em vez de contê-la. “É preciso retratar quando publicar errado e fazer uma correção ou editar algo anterior.

Não basta fazer a retratação e fingir que nada aconteceu; tem que agir quando dá tempo, principalmente quando há repercussão”, orienta Caixeiro.

Transparência na Apuração

Identificada uma inconsistência grave, a postura recomendada é comunicar que o caso está sob análise antes de emitir qualquer posicionamento definitivo. Isso evita que a empresa publique justificativas apressadas que precisem de novas correções. “Em casos de erro que precisam ser melhor entendidos, a postura deve ser de que o caso será apurado melhor. Isso evita que a empresa publique justificativas rasas que precisem ser corrigidas novamente no futuro”, conclui o executivo.