Empresas de inteligência artificial, como Anthropic e OpenAI, estão alertando que suas criações, como o novo modelo Claude Mythos, são tão poderosas que podem ameaçar a humanidade. Mas por que tanto medo autoinfligido? Essa narrativa não é apenas um aviso — pode ser uma estratégia para moldar percepções, influenciar regulações e consolidar poder.

O Culto ao Medo na Indústria da IA

A indústria de inteligência artificial vive um paradoxo há anos: as mesmas empresas que desenvolvem tecnologias revolucionárias frequentemente as apresentam como ameaças existenciais. Desde 2015, líderes como Sam Altman, CEO da OpenAI, falam abertamente sobre o potencial da IA para “acabar com o mundo”, enquanto continuam a lançar produtos como ChatGPT. Em 2023, centenas de executivos, incluindo Altman, Bill Gates e Elon Musk, endossaram um manifesto que comparava os riscos da IA a pandemias e guerras nucleares.

Esse discurso não é isolado. A Anthropic, fundada por ex-membros da OpenAI preocupados com segurança, segue o mesmo roteiro. Dario Amodei, CEO da Anthropic, já esteve envolvido em decisões de reter tecnologias como o GPT-2 em 2019, apenas para liberá-las meses depois, enquanto hoje alerta sobre os perigos de sua nova criação. Esse padrão levanta a questão: é preocupação genuína ou tática de mercado?

O que está em jogo é a percepção pública e regulatória. Enquanto empresas como Google DeepMind e xAI, de Elon Musk, também entram no jogo, a narrativa de “somos os únicos que podem nos salvar” se fortalece. Isso cria um ambiente onde o público e os governos podem sentir que não têm escolha a não ser confiar nessas companhias.

Claude Mythos: Um Monstro ou Marketing?

A mais recente controvérsia vem da Anthropic com seu modelo Claude Mythos, anunciado em abril como uma ferramenta de IA capaz de identificar vulnerabilidades de cibersegurança em um nível que supera especialistas humanos. A empresa afirma que Mythos já encontrou milhares de falhas de “alta gravidade” no cenário tecnológico, alertando que, nas mãos erradas, poderia causar “consequências severas” para economias, segurança pública e nacional. Eles também anunciaram parcerias com mais de 40 organizações para corrigir essas vulnerabilidades antes que hackers as explorem.

No entanto, há ceticismo. Heidy Khlaaf, chefe de IA no AI Now Institute, questiona a falta de dados sobre taxas de falsos positivos — uma métrica padrão para avaliar ferramentas de segurança. A Anthropic não forneceu comparações com ferramentas existentes usadas por engenheiros há décadas, nem respondeu a alegações de que a retenção do Mythos pode estar ligada a limitações de poder computacional.

Esse não é um caso isolado. Em 2019, a OpenAI reteve o GPT-2 por “riscos maliciosos”, apenas para liberá-lo meses depois, com Sam Altman admitindo que os medos eram “equivocados”. A história se repete: criar alarde, reter a tecnologia e, eventualmente, lucrar com ela, enquanto a narrativa de perigo persiste.

Medo como Estratégia de Poder

Por trás dos avisos apocalípticos, há uma crítica crescente: o medo pode ser uma distração. Especialistas como Shannon Vallor, da Universidade de Edimburgo, argumentam que retratar a IA como uma força quase sobrenatural faz o público se sentir impotente, dependendo das próprias empresas para soluções. Isso desvia a atenção de danos reais já causados, como exploração trabalhista, destruição ambiental e impactos sociais, enquanto infla o valor percebido da tecnologia — e, por extensão, das ações dessas companhias no mercado.

Além disso, essa narrativa influencia a regulação. Se as empresas de IA são vistas como as únicas capazes de lidar com os “monstros” que criaram, governos podem hesitar em impor regras rígidas, temendo atrapalhar a “segurança” prometida. Quem ganha é o setor, que mantém autonomia; quem perde é a sociedade, que fica à mercê de decisões corporativas, muitas vezes opacas, como as de Anthropic e OpenAI, ambas em processo de se tornarem empresas de capital aberto.

Regulação ou Rendição? O Próximo Passo

O futuro imediato depende de como governos e a sociedade responderão a essa narrativa. Enquanto Sam Altman, da OpenAI, promete resistir à consolidação de poder e defende decisões democráticas sobre IA, críticos como Emily M Bender, da Universidade de Washington, alertam que o foco em ameaças hipotéticas ignora problemas concretos. A pressão por transparência, como a exigência de métricas claras sobre ferramentas como Mythos, será crucial para separar fato de ficção e garantir que o controle da IA não fique nas mãos de poucos.

Fonte: Hacker News