Empresas de IA como Anthropic e OpenAI estão constantemente alertando sobre os perigos catastróficos de suas criações, como o novo modelo Claude Mythos, que supostamente supera humanos em encontrar falhas de cibersegurança. Mas por trás dos avisos apocalípticos, há uma pergunta incômoda: por que elas querem que tenhamos medo? Essa narrativa pode ser mais sobre marketing e poder do que sobre segurança real.

Uma indústria alimentada por promessas e temores

O setor de inteligência artificial vive um paradoxo há anos: as mesmas empresas que prometem revolucionar o mundo com suas tecnologias também alertam que elas podem destruí-lo. Desde 2015, líderes como Sam Altman, CEO da OpenAI, falam abertamente sobre o risco de IA levar ao “fim do mundo”, enquanto continuam lançando produtos como ChatGPT. Em 2023, centenas de executivos, incluindo Altman, Bill Gates e Elon Musk, assinaram declarações comparando os riscos da IA a pandemias e guerras nucleares, pedindo até uma pausa de seis meses no desenvolvimento de sistemas avançados.

Esse discurso não é isolado. A Anthropic, fundada por ex-membros da OpenAI que alegaram preocupação com a falta de foco em segurança de sua antiga empresa, segue o mesmo roteiro. O padrão é claro: criar expectativa com promessas de poder quase sobrenatural, temperadas por alertas de perigo, enquanto o setor atrai bilhões em investimentos e pressiona por menos regulação, argumentando que só elas podem “salvar” a humanidade.

Críticos como Shannon Vallor, professora de ética em dados e IA na Universidade de Edimburgo, apontam que esse medo fabricado faz o público se sentir impotente, entregando o controle às próprias empresas. É uma narrativa conveniente para quem busca consolidar poder e justificar valuations estratosféricos no mercado.

O caso Claude Mythos: perigo real ou marketing?

A mais recente iteração desse drama vem da Anthropic com seu modelo Claude Mythos, anunciado em abril como uma ferramenta de cibersegurança tão avançada que supera especialistas humanos. Segundo a empresa, Mythos identificou milhares de vulnerabilidades “de alta gravidade” em sistemas tecnológicos, e seu potencial é tão disruptivo que liberá-lo amplamente poderia ter “consequências severas” para economias, segurança pública e nacional. Por isso, a Anthropic optou por restringir o acesso, enquanto firma parcerias com mais de 40 organizações para corrigir falhas críticas antes que hackers as explorem.

Mas nem todos compram essa história. Heidy Khlaaf, cientista-chefe de IA no AI Now Institute, questiona a falta de transparência da Anthropic sobre métricas básicas, como taxas de falsos positivos – um indicador essencial para avaliar a eficácia de ferramentas de segurança. Ela também aponta que a empresa não comparou Mythos com ferramentas existentes, usadas há décadas por engenheiros, levantando dúvidas sobre se o modelo é realmente revolucionário ou apenas mais um caso de hype.

Além disso, há rumores de que a decisão de não liberar Mythos amplamente pode estar ligada a limitações de poder computacional da Anthropic, e não a preocupações éticas. A empresa não comentou essas especulações, nem forneceu dados concretos para sustentar suas afirmações de superioridade tecnológica, o que só aumenta o ceticismo sobre suas intenções.

Medo como distração: o que está em jogo?

Além do hype técnico, a estratégia de fear-mongering (propagação de medo) das empresas de IA pode ter um propósito mais profundo: desviar o foco dos danos reais que já causam. Críticos como Emily M. Bender, da Universidade de Washington, argumentam que, enquanto o público se preocupa com cenários apocalípticos, questões como exploração trabalhista, destruição ambiental e impactos sociais negativos de sistemas de IA são ignoradas. Essa narrativa também beneficia as empresas ao inflar suas valuations – afinal, quem não investiria em uma tecnologia “tão poderosa que pode mudar o mundo” (ou destruí-lo)?

Outro ponto é o jogo de poder. Ao se posicionarem como as únicas capazes de lidar com os perigos da IA, empresas como Anthropic e OpenAI desencorajam regulação externa, criando um ciclo onde ganham mais autonomia e influência. Isso é especialmente preocupante quando ambas, originalmente fundadas com missões de segurança (OpenAI como uma organização sem fins lucrativos), agora buscam se tornar empresas de capital aberto, priorizando lucros e acionistas.

Regulação ou rendição: o próximo capítulo da IA

O futuro imediato dessa história provavelmente envolverá um embate entre a pressão por regulação e a resistência das empresas de IA, que continuarão a usar o medo como escudo. Enquanto isso, parcerias como as da Anthropic para corrigir vulnerabilidades podem ser um passo prático, mas sem transparência sobre ferramentas como Mythos, é difícil separar fato de ficção. O que está claro é que o público e os reguladores precisarão exigir mais accountability, ou correm o risco de ceder o controle a um punhado de corporações.

Fonte: Hacker News