Vigilância por IA e Progresso Social

Bruce Schneier, Jon Penney*

Num futuro próximo, sistemas de vigilância com inteligência artificial (IA) serão capazes de rastrear tudo o que fazemos em público e grande parte do que fazemos em privado. E se fizermos algo errado – furtar em uma loja, jogar lixo na rua, atravessar a rua fora da faixa de pedestres etc. – o sistema perceberá, registrará a ocorrência, a vinculará ao nosso cadastro oficial, comunicará o fato a nós e enviará alertas em tempo real às autoridades competentes... e talvez também ao público em geral.

Imagine esses sistemas como radares de velocidade automatizados, só que muito mais potentes. A diferença é que eles não se limitam a fiscalizar os limites de velocidade, mas aplicam qualquer outra regra que você possa imaginar. E você não receberá uma multa pelo correio semanas depois; será notificado e multado imediatamente pela infração.

Esses sistemas combinarão inteligência artificial avançada, vigilância pública e privada por meio de tecnologia de reconhecimento facial em tempo real e rastreamento digital, bancos de dados massivos e aplicação da lei altamente personalizada. Se implementados em larga escala, terão efeitos profundamente inibidores não apenas sobre as liberdades individuais, mas também sobre a própria democracia e o progresso social.

A China vem desenvolvendo sua infraestrutura de vigilância há anos .¹ O país possui mais de 600 milhões de câmeras de vigilância, cada vez mais equipadas com inteligência artificial e reconhecimento facial para reforçar normas legais e sociais.² Um exemplo disso é Lao Duan, um cidadão chinês que entrou para a lista negra do sistema após perder o emprego e não conseguir pagar uma série de empréstimos.³ Quando visitou Pequim, o sistema de vigilância por IA da cidade o identificou pelo rosto em um cruzamento movimentado e exibiu sua foto, nome e número de identificação em um grande painel eletrônico próximo, com a mensagem de que ele era uma pessoa não confiável. Sistemas semelhantes estão sendo implantados em toda a China⁴ e integrados aos seus infames sistemas de monitoramento online, censura e crédito social.⁵

A vigilância por IA está sendo testada⁶ na América do Norte,⁷ América do Sul,⁸ Europa,⁹ Ásia¹⁰ e África.¹¹ De acordo com um novo relatório,¹² o Departamento de Segurança Interna dos EUA está aumentando rapidamente o uso de vigilância baseada em IA, incluindo reconhecimento facial e monitoramento de contas de redes sociais, para monitorar imigrantes, dissidentes, jornalistas, observadores legais e manifestantes. Embora os sistemas sejam ostensivamente usados para manter a segurança e a ordem pública, o objetivo real costuma ser o controle social. Larry Ellison, CEO da Oracle – uma poderosa gigante da tecnologia que trabalha em estreita colaboração com o governo Trump – afirmou: "Os cidadãos se comportarão da melhor maneira possível porque estamos constantemente gravando e relatando".¹³ Os efeitos intimidatórios são justamente o objetivo.

A vigilância por IA levanta uma série de desafios para as políticas públicas: vieses técnicos, sistemas não auditáveis e aplicação inflexível e automatizada das leis e normas sociais, que podem promover a discriminação e minar a transparência, a responsabilização e o Estado de Direito. Mas acreditamos que o impacto mais urgente e de longo prazo será o seu efeito inibidor mais amplo.

Em seu novo livro, Chilling Effects: Repression, Conformity, and Power in the Digital Age,¹⁴ Jon Penney explica como a vigilância, a tecnologia e o poder podem ser usados como armas para influenciar o comportamento em larga escala. Vigilância, personalização, incerteza e autoridade são mecanismos essenciais para ampliar o alcance e o impacto dos efeitos inibidores. Eles levam as pessoas a autocensurarem suas palavras e ações, a se tornarem mais conformistas e submissas, e, portanto, mais fáceis de gerenciar e controlar. E os efeitos são cumulativos: quanto mais mecanismos forem empregados e quanto mais poderosa for a forma utilizada, maior será o efeito inibidor.

A informatização há muito permite que coletores de dados rastreiem nossa localização, compilem listas de com quem nos comunicamos e monitorem nossos hábitos de consumo – a menos que usemos dinheiro em espécie. A novidade é uma fusão sem precedentes de cada um desses mecanismos, persistente e implacável. A IA traz uma capacidade analítica para espionar o conteúdo de nossas comunicações e responder a perguntas complexas sobre nosso paradeiro e atividades:¹⁵ ações que antes exigiam analistas humanos agora são automatizadas. O resultado será uma espécie de efeito inibidor em escala social amplificada, onde o medo, a autocensura e o pensamento de grupo prevalecerão, e a dissidência, a criatividade e a inovação se tornarão cada vez mais raras.

Nesse clima de medo e conformidade, ideias ousadas, ativismo social e reinvenção pessoal – especialmente por parte de grupos desfavorecidos e populações marginalizadas – também são inibidos.¹⁶ Isso terá efeitos a longo prazo no progresso social.¹⁷

Considere a normalização social relativamente recente das relações entre pessoas do mesmo sexo e do uso recreativo da maconha. Ao longo das décadas, essas ideias evoluíram gradualmente de imorais e ilegais para morais, porém ainda ilegais, e finalmente para morais e legais. Mas, para que isso acontecesse, foi necessária uma contracultura capaz de experimentar e, eventualmente, demonstrar ao mundo que a moralidade pode mudar com o tempo. Na medida em que a vigilância por IA inibe esse tipo de experimentação, seja em público ou em privado, o progresso social torna-se impossível.

Não existem precursores históricos reais para isso; essas tecnologias são muito recentes. Mesmo o programa de vigilância doméstica mais notório e em larga escala da história dos EUA,¹⁸ o uso de grampos telefônicos, abertura física de correspondências, informantes e fichas de papel pelo FBI para rastrear supostos comunistas durante as décadas de 1950 e 1960,¹⁹ parece genuinamente arcaico à luz da vigilância moderna aprimorada por IA. O mesmo se aplica à rede de vigilância centrada no ser humano da Alemanha Oriental durante a Guerra Fria. Apenas a ficção científica, de autores como George Orwell ou Aldous Huxley, se aproxima. Mas mesmo a "teletela" do Grande Irmão parece decididamente de meados do século XX em comparação.²⁰

Mas não precisamos ficar de braços cruzados. Agora que reconhecemos o perigo da vigilância em massa aprimorada por IA, podemos tomar as decisões políticas necessárias para não implementá-la. Proibições ao reconhecimento facial e outras formas de tecnologia de identificação podem desacelerar o desenvolvimento; novas e robustas proteções de privacidade e dados podem restringir o rastreamento e a retenção de dados; regulamentações sobre IA podem limitar seus usos mais invasivos; e reformas estruturais podem nos ajudar a examinar e desmantelar poderosos cartéis estatais/tecnológicos que abrem caminho para excessos tecnológicos como a vigilância por IA.

O impacto devastador da vigilância em massa impulsionada por inteligência artificial sufocará os próprios alicerces de sociedades democráticas saudáveis. Mas ainda podemos escolher um caminho diferente.

(*) Este ensaio foi publicado originalmente no The Guardian.²¹

Fonte: https://www.schneier.com/blog/archives/2026/07/ai-surveillance-and-soci…

Bruce Schneier é um especialista em tecnologia de segurança de renome internacional. Ele é autor de mais de uma dúzia de livros – incluindo o mais recente, Rewiring Democracy – bem como de centenas de artigos, ensaios e trabalhos acadêmicos. Seu influente boletim Crypto-Gram e seu blog "Schneier on Security" são lidos por mais de 250.000 pessoas. Schneier é pesquisador associado (“research fellow”) no Berkman Klein Center for Internet & Society da Universidade de Harvard; professor de Políticas Públicas na Harvard Kennedy School; membro do conselho da Electronic Frontier Foundation e da AccessNow; e membro do conselho consultivo do Electronic Privacy Information Center e da VerifiedVoting.org. Ele atua como Chefe de Arquitetura de Segurança na Inrupt, Inc.

Jon Penney é um pesquisador das áreas jurídica e de ciências sociais vinculado à Osgoode Hall Law School, da Universidade de York, em Toronto, onde é professor associado e titular da Cátedra de Pesquisa York em Inteligência Artificial, Governança de Dados e Direito. Ele também é, há longa data, membro associado do corpo docente do Berkman Klein Center for Internet and Society de Harvard e pesquisador associado (“research fellow”) no Citizen Lab, sediado na Munk School of Global Affairs and Public Policy da Universidade de Toronto, além de pesquisador associado do Citizens and Technology (CAT) Lab, vinculado ao Departamento de Comunicação da Universidade Cornell.