Diretor-executivo da OpenAI, empresa responsável pelo ChatGPT, adverte para uma crise de fraudes motivada pela inteligência artificial

Altman não é o único a se preocupar com o risco da IA amplificar fraudes. O CEO da OpenAI, Sam Altman, afirma que o mundo pode estar à beira de uma “crise de fraudes” devido à capacidade da inteligência artificial de permitir que indivíduos mal-intencionados se passem por outras pessoas.

O que me aterroriza é que ainda existem algumas instituições financeiras que aceitam a gravação vocal como autenticação para movimentar grandes quantias ou realizar outras operações: você diz uma frase de desafio e eles simplesmente fazem. Disse Altman: “Isso é uma loucura continuar fazendo… A IA já derrotou a maioria das formas de autenticação atualmente utilizadas, exceto senhas.”

O discurso incluiu comentários de sua extensa entrevista sobre os impactos econômicos e sociais da IA, realizada no Federal Reserve na terça-feira (22). Ele também abordou a audiência, que contava com representantes de grandes instituições financeiras dos EUA, em relação ao papel que ele acredita que a IA terá na economia.

Sua apresentação ocorrerá quando a Casa Branca divulgar seu “Plano de Ação para IA” nas próximas semanas, um documento político para definir sua estratégia no que diz respeito à regulamentação da tecnologia e ao fortalecimento da liderança dos Estados Unidos no campo da inteligência artificial.

A OpenAI, que elaborou as recomendações para o plano, aumentou sua presença no Capitólio e em suas imediações nos últimos meses.

Na terça-feira, a empresa confirmou que instalará seu primeiro escritório em Washington no início do próximo ano para receber sua equipe de cerca de 30 funcionários na cidade. Chan Park, diretor de assuntos globais da OpenAI para os Estados Unidos e Canadá, liderará o novo escritório ao lado de Joe Larson, que está deixando a empresa de tecnologia de defesa Anduril para se tornar vice-presidente de governo da OpenAI.

A organização utilizará o local para receber materiais sobre políticas, divulgar novas tecnologias e oferecer treinamentos em inteligência artificial, por exemplo, para educadores e servidores públicos. Além disso, acomodará estudos sobre o impacto econômico da IA e como ampliar o acesso à tecnologia.

A OpenAI tem incentivado a administração Trump a evitar regulamentações que, em sua visão, poderiam comprometer a habilidade das empresas de tecnologia de competirem com inovações em IA de outros países. Em maio passado, o Senado dos Estados Unidos votou para rejeitar uma cláusula polêmica do projeto de lei da agenda de Trump que teria impedido os estados de aplicar leis relacionadas à IA por dez anos.

Uma crise de fraude

Altman não é o único a se preocupar com a IA amplificar a fraude.

O FBI alertou sobre essas fraudes de “clonagem” de voz e vídeo por IA no ano passado. Vários pais relataram que a tecnologia de voz com IA foi utilizada em tentativas de enganá-los para obter dinheiro, convencendo-os de que seus filhos estavam em perigo. E no início deste mês, autoridades americanas alertaram que alguém usando IA para imitar a voz do Secretário de Estado Marco Rubio contatou ministros estrangeiros, um governador americano e um membro do Congresso.

“Estou bastante preocupado com a iminência de uma crise considerável de fraudes”, afirmou Altman.

“Agora é uma chamada de voz; em breve será um vídeo ou FaceTime indistinguível da realidade”, disse Altman. Ele alertou que, embora sua empresa não esteja construindo tais ferramentas de personificação, é um desafio que o mundo logo precisará enfrentar à medida que a IA continua a evoluir. Altman está apoiando uma ferramenta chamada The Orb, construída pela Tools for Humanity, que diz que oferecerá “prova de humano” em um mundo onde a IA torna mais difícil distinguir o que, e quem, é real online.

Altman também explicou o que o mantém acordado à noite: a possibilidade de indivíduos mal-intencionados desenvolverem e utilizarem indevidamente uma “superinteligência” de IA antes que o restante do mundo esteja preparado para se defender de tal ataque – por exemplo, um adversário dos EUA empregando IA para atacar a rede elétrica americana ou criar uma arma biológica. Esse comentário reflete os temores dentro da Casa Branca e em outras partes do Capitólio sobre a China superar as empresas de tecnologia dos EUA em IA.

Altman também expressa preocupação com a possibilidade de humanos perderem o controle de um sistema de IA superinteligente ou concederem à tecnologia excessivo poder de decisão. Diversas empresas de tecnologia, incluindo a OpenAI, estão buscando a superinteligência em IA – e Altman acredita que a década de 2030 poderá trazer uma inteligência artificial muito além da capacidade humana – mas ainda não está claro como eles definem esse marco e quando, se for que algum dia, serão alcançados.

A IA qual impacto tem nos empregos? Ninguém sabe.

Altman afirmou que não está tão preocupado quanto alguns de seus pares do Vale do Silício com o impacto potencial da IA na força de trabalho, após alertas de líderes como o CEO da Anthropic, Dario Amodei, e o CEO da Amazon, Andy Jassy, de que a tecnologia levará à eliminação de empregos.

Altman acredita que “ninguém sabe o que acontecerá em seguida”.

“Há muitas dessas previsões que parecem muito inteligentes”, disse ele, “Ah, isso vai acontecer aqui e a economia ali”. Ninguém sabe disso. Na minha opinião, este é um sistema muito complexo, esta é uma tecnologia muito nova e impactante, é muito difícil prever. Ainda assim, ele expressa algumas opiniões. Ele declarou que, ao desaparecerem classes inteiras de empregos, novos tipos de trabalho surgirão. Altman reiterou uma previsão que já havia feito anteriormente de que, se pudéssemos olhar 100 anos à frente, os trabalhadores do futuro provavelmente não teriam o que os trabalhadores de hoje consideram “empregos reais”.

“Você terá tudo o que poderia precisar. Você não terá nada para fazer”, disse Altman sobre a força de trabalho do futuro. “Então, você estará inventando um emprego para participar de um jogo bobo de status, preencher seu tempo e se sentir útil para outras pessoas.”

Altman argumenta que não devemos nos preocupar com a IA causar desemprego, pois no futuro não precisaremos de empregos, embora não tenha especificado como as ferramentas de IA futuras, por exemplo, poderiam processar em um tribunal, realizar uma limpeza dental ou construir uma casa.

Em paralelo à fala de Altman, a OpenAI publicou um relatório produzido pelo seu economista-chefe, Ronnie Chatterji, que evidenciou os benefícios do ChatGPT para a produtividade dos trabalhadores.

No relatório, Chatterji – que ingressou na OpenAI como seu primeiro economista-chefe após atuar como coordenador da Lei CHIPS and Science no governo Biden – comparou a IA à eletricidade e ao transistor. Ele afirmou que o ChatGPT atualmente possui 500 milhões de usuários globalmente.

De acordo com o relatório, 20% dos usuários americanos utilizam o ChatGPT como um “tutor personalizado” para “aprendizado e aprimoramento de habilidades”, embora não tenha especificado quais tipos de conhecimentos estão sendo adquiridos através do serviço. Chatterji também observou que mais da metade dos usuários americanos do ChatGPT têm entre 18 e 34 anos, “sugerindo que pode haver benefícios econômicos de longo prazo à medida que eles continuem usando ferramentas de IA no ambiente de trabalho no futuro”.

Nos próximos meses, Chatterji pretende colaborar com os economistas Jason Furman e Michael Strain em um estudo aprofundado sobre o impacto da inteligência artificial nos empregos e na força de trabalho dos Estados Unidos. A pesquisa será conduzida no novo escritório localizado em Washington.

Além disso: Após o sucesso do DeepSeek, o ChatGPT lança nova ferramenta.

O uso de ChatGPT para fins de terapia acarreta riscos e gera preocupações.

Fonte por: CNN Brasil