Empresas de IA como Anthropic e OpenAI estão vendendo medo junto com seus produtos, alertando que suas criações — como o novo modelo Claude Mythos — podem ter consequências catastróficas. Mas por que insistir tanto no apocalipse? Essa estratégia pode ser mais sobre poder e distração do que sobre segurança.

Uma indústria alimentada por hype e ansiedade

O setor de inteligência artificial vive um momento de ouro, com investimentos bilionários e promessas de transformar tudo, da saúde à segurança. Empresas como OpenAI, Anthropic e Google DeepMind competem ferozmente, enquanto líderes como Sam Altman e Dario Amodei fazem declarações bombásticas sobre o potencial de suas tecnologias — tanto para o bem quanto para o mal. Em 2023, centenas de executivos, incluindo Altman, Bill Gates e Elon Musk, assinaram declarações comparando os riscos da IA a pandemias e guerras nucleares, criando um clima de urgência e temor.

Esse discurso não é novo. Desde 2015, Altman já falava que a IA “provavelmente levará ao fim do mundo”, mas que, enquanto isso, haveria “grandes empresas”. Essa dualidade — prometer inovação enquanto acena com destruição — tornou-se uma marca do setor, distraindo de questões concretas como impacto ambiental e exploração de trabalho, como aponta Emily M. Bender, da Universidade de Washington.

A narrativa de perigo também tem um efeito colateral conveniente: posiciona essas empresas como as únicas capazes de lidar com os monstros que criaram. Shannon Vallor, da Universidade de Edimburgo, observa que isso nos faz sentir “impotentes”, como se só pudéssemos confiar nas próprias companhias para nos salvar.

O caso Claude Mythos: poder ou marketing?

No início de abril, a Anthropic lançou um alerta sobre seu novo modelo, Claude Mythos, afirmando que sua capacidade de identificar vulnerabilidades de cibersegurança supera a de especialistas humanos. Segundo a empresa, Mythos já encontrou milhares de falhas de “alta gravidade” em sistemas tecnológicos, e sua liberação irrestrita poderia ter “consequências severas” para economias, segurança pública e nacional. Eles anunciaram parcerias com mais de 40 organizações para corrigir essas falhas antes que hackers as explorem.

Mas nem todos compram essa história. Heidy Khlaaf, da AI Now Institute, questiona a falta de dados sobre taxas de falsos positivos — um indicador crucial de eficácia em ferramentas de segurança. A Anthropic também não comparou Mythos com ferramentas existentes, usadas há décadas por engenheiros, nem respondeu a alegações de que a retenção do modelo pode estar ligada a limitações de poder computacional, e não a preocupações éticas.

Esse não é o primeiro caso de “medo estratégico” da Anthropic ou de seus líderes. Dario Amodei, CEO da empresa, esteve na OpenAI em 2019, quando a companhia reteve o GPT-2 por “riscos maliciosos” — só para liberá-lo meses depois. Sam Altman, da OpenAI, também já admitiu que os temores sobre GPT-2 eram “equivocados”, mas continua a usar um discurso alarmista sobre ChatGPT.

Medo como moeda de poder e distração

Esses alertas apocalípticos não são apenas drama — são uma tática. Ao pintar a IA como uma força quase sobrenatural, empresas como Anthropic e OpenAI desviam a atenção de danos reais que já causam, como destruição ambiental e desigualdades no mercado de trabalho, enquanto sugerem que só elas podem nos proteger, como critica Shannon Vallor. Isso também desencoraja a regulação: se o perigo é tão grande e incompreensível, como governos poderiam intervir sem atrapalhar os “heróis” da tecnologia?

Além disso, o medo infla o valor percebido dessas tecnologias. Críticas sugerem que o alarmismo pode impulsionar preços de ações e atrair investidores, enquanto figuras como Elon Musk, que pediu uma pausa de seis meses no desenvolvimento de IA avançada em 2023, lançam suas próprias empresas de IA, como a xAI, logo depois. É um jogo de poder disfarçado de responsabilidade.

Regulação ou rendição: o próximo campo de batalha

O futuro imediato dessa narrativa de medo será um teste para reguladores globais, que já enfrentam pressão para agir sobre a IA, mas hesitam diante de alertas de “extinção” comparáveis a guerras nucleares. Enquanto OpenAI promete resistir à concentração de poder e defende decisões democráticas, como escreveu Sam Altman em um blog recente, a realidade é que empresas como ela e Anthropic estão se movendo para se tornarem públicas, priorizando lucros e acionistas sobre segurança coletiva.

Fonte: Hacker News