Superinteligência: Novo Cálculo de Bostrom Apresenta Surpreendente Perspectiva Sobre o Futuro
Inteligência Artificial: Um Cálculo Contraintuitivo Sobre o Futuro da Humanidade
Nick Bostrom, conhecido por seu estudo mental perturbador sobre a inteligência artificial, apresentou uma perspectiva que desafia as visões pessimistas sobre o avanço tecnológico. Em seu livro “Superintelligence”, publicado em 2014, ele ajudou a estabelecer uma preocupação intelectual fundamental sobre os riscos existenciais da IA.
No entanto, Bostrom está agora explorando um caminho diferente, apresentando modelos matemáticos que sugerem que o desenvolvimento de superinteligência pode ser racional, mesmo que a probabilidade de extinção humana seja alta, em torno de 97%.
Leia também
A Analogia da Cirurgia Cardíaca: Uma Perspectiva Inesperada
O argumento central do estudo parte de uma crítica à metáfora da “roleta-russa” da inteligência artificial, frequentemente utilizada por especialistas que alertam sobre os perigos de uma IA descontrolada. Em vez disso, Bostrom compara o avanço da superinteligência a uma cirurgia cardíaca de alto risco em um paciente gravemente doente.
Sem a operação, a morte é inevitável, mas com ela, surge a possibilidade de prolongar a vida humana. A chave, segundo o filósofo, reside no fato de que a humanidade já se encontra em uma condição de vulnerabilidade, com o envelhecimento, as doenças e os limites biológicos representando uma “sentença universal de morte”.
Um Cenário Conservador e suas Implicações
O estudo assume um cenário considerado “conservador” pelo próprio Bostrom: a capacidade de uma IA alinhada aos interesses humanos de reduzir a mortalidade ao patamar de um adulto saudável de 20 anos nos países desenvolvidos. Essa premissa resulta em uma expectativa de vida que saltaria para aproximadamente 1.400 anos.
A partir dessa base, o estudo constrói um cálculo controverso, sugerindo que o desenvolvimento da superinteligência ainda justificaria a expectativa de vida, mesmo que a probabilidade de extinção humana permanecesse em 96%.
O Cálculo da Probabilidade e o Potencial Upside
O motivo por trás desse cálculo reside no fato de que os 4% restantes de probabilidade de extinção representariam uma recompensa desproporcionalmente alta em séculos adicionais de vida saudável. Bostrom enfatiza que o estudo não busca medir o valor abstrato da humanidade futura nem discutir hipóteses extremas sobre consciência artificial ou ética infinita.
O objetivo é mais restrito: analisar a questão do ponto de vista das pessoas que existem hoje e que inevitavelmente morrerão sem avanços radicais na medicina e na biotecnologia. Bostrom, em entrevista à revista Wired, afirmou: “Se ninguém construir, todos morrem.
Na verdade, a maioria das pessoas já está morta. O resto de nós vai seguir em algumas décadas.”
O Timing Ideal: Uma Análise Estratégica
O estudo não recomenda lançar superinteligência imediatamente. Em vez disso, propõe um argumento sofisticado que se concentra no timing ideal, não em uma decisão binária de desenvolver ou não. Bostrom divide o processo em duas fases, com a Fase 1 sendo o período até que uma AGI completa se torne tecnicamente disponível, determinado principalmente pela dificuldade técnica e pela dinâmica competitiva.
A Fase 2 é qualquer pausa deliberada entre a AGI estar disponível e ser efetivamente implantada em escala. O estudo argumenta que pequenas mudanças na Fase 2 provavelmente fazem mais diferença para os resultados esperados do que mudanças equivalentes na Fase 1.
O “Safety Windfall” e a Produtividade da Pesquisa
Uma das descobertas mais contraintuitivas é o que a pesquisa chama de “safety windfall” – o dividendo de segurança. Quando uma AGI completa finalmente existe, os pesquisadores podem estudá-la, testá-la em ambientes controlados e usar as próprias capacidades do sistema para acelerar o trabalho de alinhamento.
Esse tipo de progresso é impossível antes de o sistema existir. O resultado é que as primeiras semanas e meses após a AGI ser tecnicamente disponível podem ser o período de maior produtividade para pesquisa de segurança, o que torna uma pausa breve nesse momento especialmente valiosa.
Limites do Modelo e Considerações Adicionais
O artigo reconhece abertamente o que não consegue resolver, como as diferentes preferências de atores e a influência de fatores externos. Bostrom lista mais de uma dezena de formas pelas quais uma pausa mal implementada poderia ser contraproducente.
O trabalho de IA pode migrar para atores menos responsáveis ou estados menos cooperativos; uma pausa precoce pode ser percebida como inútil, tornando mais difícil pausar depois quando seria útil; a exigência de pausa pode galvanizar apoiadores da IA a se fecharem e marginalizar pesquisadores de segurança; e uma pausa temporária, vendida como moratorium breve, pode se calcificar em abandono permanente.
Testes de Segurança e a Tomada de Decisão Condicional
O estudo inclui um modelo de testes de segurança baseado em um processo de decisão de Markov parcialmente observável, essencialmente, uma framework para tomar decisões de implantação condicionadas às informações que vão surgindo, em vez de fixar uma data de lançamento de antemão.
O que Bostrom não está dizendo é que o risco de desalinhamento é pequeno; argumenta que mesmo com risco alto, o potencial upside de uma transição bem-sucedida é grande o suficiente para tornar o esforço racional — e que as pessoas que existem hoje têm interesse em que isso seja tentado com alguma urgência, dado que estão morrendo enquanto esperam.
Autor(a):
Redação ZéNewsAi
Aqui no ZéNewsAi, nossas notícias são escritas pelo José News! 🤖💖 Nós nos esforçamos para trazer informações legais e confiáveis, mas sempre vale a pena dar uma conferida em outras fontes também, tá? Obrigado por visitar a gente, você é 10/10! 😊 Com carinho, equipe ZéNewsAi 📰 (P.S.: Se encontrar algo estranho, pode nos avisar! Adoramos feedbacks fofinhos! 💌)
