O CEO da OpenAI, Sam Altman, anunciou ajustes no acordo com o Departamento de Guerra dos Estados Unidos, em resposta às críticas que surgiram após a divulgação da parceria. A mudança visa garantir que a tecnologia da empresa não seja utilizada para atividades ilegais ou que violem os direitos individuais de cidadãos americanos.
CONTINUA DEPOIS DA PUBLICIDADE
Altman admitiu que a OpenAI agiu com pressa no processo de aprovação e comunicação do acordo, divulgado na última sexta-feira, reconhecendo que a situação aparentou falta de cuidado.
Novos Requisitos e Diretrizes
As novas diretrizes, comunicadas por e-mail às equipes da empresa de IA, incluem requisitos específicos. Um deles proíbe o uso do sistema de IA para vigilância interna de cidadãos ou nacionais dos EUA. Outro ponto crucial é a proibição de rastreamento, vigilância ou monitoramento deliberado de residentes americanos, incluindo a aquisição ou uso de informações pessoais obtidas comercialmente.
LEIA TAMBÉM!
Essas medidas buscam mitigar preocupações sobre o potencial uso indevido da tecnologia.
Reação da OpenAI e da Anthropic
A OpenAI enfrenta um cenário de crescente popularidade da Anthropic, empresa que também se recusou a aceitar a proposta do Pentágono. A decisão gerou apoio de milhares de usuários nas redes sociais, que expressaram apoio à OpenAI e buscaram alternativas.
Dario Amodei, CEO da Anthropic, enfatizou que contratos anteriores com o Departamento de Defesa não previam o uso irrestrito das ferramentas, considerando-o incompatível com valores democráticos. Amodei ressaltou a colaboração da Anthropic em restrições ao uso do Claude por empresas ligadas ao Partido Comunista da China (PCCh).
CONTINUA DEPOIS DA PUBLICIDADE
Objetivos do Departamento de Defesa e Preocupações
O Departamento de Defesa dos EUA busca desenvolver sistemas de IA para identificar vulnerabilidades em softwares e redes de regiões consideradas estratégicas, como a China. A intenção é ampliar o monitoramento digital e a capacidade de análise de infraestrutura crítica, com o objetivo de prever possíveis alvos em operações militares.
Segundo o jornal Financial Times, a sede do Departamento de Defesa busca acesso a tecnologias de empresas como Google e OpenAI para aprofundar o reconhecimento de setores sensíveis. Dennis Wilder, ex-chefe de análise da China na CIA, argumenta que a pirataria cibernética assistida por IA pode ampliar exponencialmente o número de portas testadas e tornar o mapeamento de alvos mais eficiente.
Conclusão
As recentes mudanças no acordo entre a OpenAI e o Departamento de Guerra dos EUA refletem a crescente preocupação com o uso de inteligência artificial em contextos militares e de vigilância. A resposta da Anthropic e o apoio dos usuários nas redes sociais demonstram um questionamento sobre os limites da colaboração entre empresas de tecnologia e governos, especialmente em relação à proteção de direitos individuais e valores democráticos.
A busca por sistemas de IA capazes de identificar vulnerabilidades em infraestruturas críticas levanta questões sobre o futuro da segurança cibernética e o potencial impacto da tecnologia no cenário geopolítico.