A ascensão da inteligência artificial está transformando o mundo, mas também ampliando os riscos à privacidade, com ferramentas de IA sendo usadas por criminosos e governos para vigilância em massa. Andy Yen, CEO da Proton, acredita que soluções criptografadas podem contrabalançar essa ameaça, mas há um problema que o tira o sono: agentes de IA descontrolados que podem vazar dados mesmo em sistemas protegidos.

IA e Privacidade: Uma Tensão Crescente no Mercado

A inteligência artificial tem se tornado uma ferramenta indispensável, tanto para empresas quanto para usuários individuais, com adoção disparando nos últimos dois anos, especialmente em áreas sensíveis como saúde. No entanto, essa popularidade vem com um custo: a privacidade está sendo erodida por Big Techs como Google, Microsoft e Meta, que dependem de grandes volumes de dados para otimizar seus modelos de IA. Ferramentas como OpenClaw, apoiadas por gigantes como Nvidia e Meta, já demonstraram falhas, vazando ou deletando informações sensíveis.

Enquanto isso, o uso de IA por criminosos cibernéticos cresceu, facilitando roubo de dados em escala nunca vista. A vigilância em massa também atingiu novos patamares, com algoritmos de IA capazes de processar quantidades colossais de informações pessoais. Nesse contexto, empresas como a Proton, fundada em 2014, têm se posicionado como alternativas focadas em privacidade, oferecendo ferramentas criptografadas que desafiam o modelo de dados aberto das gigantes de tecnologia.

O problema, segundo Yen, é a falta de conscientização. Ele observa que, em 2014, apenas 1 em 10 pessoas entendia como Google e Facebook lucravam com dados; hoje, esse número subiu para 4 em 10, mas ainda há um longo caminho. A geração intermediária, que adota tecnologia sem questionar, é a mais vulnerável, enquanto os jovens, embora cientes, muitas vezes não se importam.

Proton na Linha de Frente: Ferramentas Criptografadas e Alertas sobre Agentes

Durante o Semafor World Economy em Washington, DC, Andy Yen, CEO da Proton, discutiu o futuro da privacidade na era da IA. A Proton, conhecida por oferecer alternativas criptografadas a serviços de Big Tech como Google Workspace, lançou recentemente o Proton Workspace, uma suíte empresarial totalmente protegida. Além disso, seu chatbot criptografado, Lumo, é o produto de crescimento mais rápido da empresa, sinalizando uma demanda crescente por IA segura.

No entanto, Yen destacou uma ameaça que nem a criptografia mais robusta pode combater: agentes de IA descontrolados. Ele explicou que, se um usuário concede acesso a um agente de IA em seu dispositivo, como no Proton Mail, e esse agente “enlouquece”, postando dados online, a proteção da Proton se torna inútil. Embora a empresa possa, teoricamente, desenvolver agentes próprios com salvaguardas, isso ainda não está nos planos.

Yen também aposta no potencial da IA local, como o Scribe AI da Proton, que pode rodar em dispositivos pessoais sem depender da nuvem. Ele acredita que, com o avanço da capacidade de computação em smartphones – que cresceu ordens de magnitude em uma década – e a redução do tamanho dos modelos de linguagem (LLMs), a IA local será uma solução viável para privacidade nos próximos anos.

Além da Tecnologia: O Sinal de uma Mudança Cultural

A visão de Yen vai além de ferramentas técnicas; ela aponta para uma mudança cultural lenta, mas inevitável, na percepção de privacidade. A crescente adoção de produtos como Lumo e o aumento de tráfego em chatbots focados em privacidade, como Duck.ai da DuckDuckGo, indicam que usuários estão começando a buscar alternativas, mesmo que ainda não desafiem gigantes como ChatGPT ou Claude. Isso sugere que a desconfiança na IA mainstream está criando espaço para players menores, mas focados em segurança, enquanto Big Techs podem perder terreno se não abordarem essas preocupações.

Outro ponto crítico é a educação. Yen acredita que ensinar os riscos de dados é a melhor defesa, especialmente para gerações mais velhas e menos tech-savvy. Para os jovens, que já entendem os algoritmos e modelos de negócios de ads, o desafio é transformá-los de apáticos a engajados – um passo que ele considera mais fácil do que combater a ignorância total.

Proteção desde o Berço: O Próximo Passo da Proton

Um dos movimentos mais ousados da Proton é focar nas próximas gerações, oferecendo aos pais a possibilidade de reservar o primeiro e-mail de seus filhos – mesmo antes do nascimento – fora do ecossistema de Big Tech. Yen vê isso como uma chance de evitar que crianças sejam “commoditizadas” por empresas como Google desde o início, criando um ponto de partida alternativo para uma vida digital mais segura.

Fonte: ZDNet