Especialistas temem que Elon Musk busque utilizar Grok 4 para benefício próprio

Recentemente, o chatbot Grok, da xAI, criado pelo empresário Elon Musk, respondeu a um usuário do X (anteriormente Twitter) questionando sobre violência política, declarando que a direita foi responsável por mais casos de violência política a partir de 2016.

Elon Musk discordaria disso: “Falha grave, pois é objetivamente falso. A Grok está repetindo a mídia tradicional”. Acusou o filantropo, embora a Grok tenha citado dados de fontes governamentais, como o Departamento de Segurança Interna.

Em três dias, Musk prometeu entregar uma grande atualização da Grok que “reescreveria todo o corpus de conhecimento humano”, convocando os usuários do X a enviarem “fatos controversos” que sejam “politicamente incorretos, mas ainda assim factualmente verdadeiros” para ajudar a treinar o modelo.

Elon Musk anunciou que o novo modelo, denominado Grok 4, seria lançado.

Frosst relata que empresas de IA, como OpenAI, Meta e Google, atualizam seus modelos continuamente para otimizar o desempenho.

Frosst afirmou que re-treinar um modelo do zero para “remover tudo o que (Musk) não gosta” demandaria muito tempo e dinheiro, além de prejudicar a experiência do usuário.

“E isso certamente pioraria a situação”, disse ele. “Porque removeria muitos dados e adicionaria um viés.”

Uma alternativa para modificar o comportamento de um modelo sem o treinamento completo reside na inserção de prompts e no ajuste dos pesos no código do modelo. Esse procedimento pode ser mais rápido do que o treinamento total, pois preserva a base de conhecimento pré-existente.

Dan Neely, CEO da Vermillio, que auxilia na proteção de celebridades contra deepfakes produzidos por inteligência artificial, declarou à CNN que a xAI poderia modificar os pesos e rótulos de dados do Grok em áreas e tópicos específicos.

“Eles utilizarão os pesos e as etiquetas que já tinham nos locais que estão identificando como áreas problemáticas.”, disse Neely. “Eles passarão a trabalhar com maior nível de detalhamento nessas áreas específicas.”

Musk não especificou as alterações que serão implementadas no Grok 4, afirmando que ele utilizará um “modelo de codificação especializado”.

Neely afirmou que considera que fontes consideradas confiáveis estão recuperando importância à medida que as pessoas procuram locais onde possam confiar.

“No entanto, a trajetória para chegar até lá é muito dolorosa, muito confusa”, declarou Neely, e “sem dúvida, acarreta algumas ameaças à democracia”.

Chatbots de IA podem ser alvos de ataques cibernéticos? Compreenda o que são ataques DDoS.

Fonte por: CNN Brasil