IA para espionagem: Anthropic denuncia China e Irã
IA para espionagem volta ao centro do debate após a Anthropic, desenvolvedora do modelo Claude, divulgar que desmantelou operações estatais de vigilância digital ligadas à China, Irã e Mali entre janeiro e julho deste ano.
Regimes miravam dissidentes e minorias
Segundo relatório divulgado pela empresa sediada em San Francisco, as campanhas identificadas tinham como alvo tradicionais críticos desses governos, incluindo ativistas pró-democracia de Hong Kong, comunidades tibetanas e opositores iranianos que vivem no exterior. A Anthropic afirma que os agentes utilizavam prompts no Claude para rastrear postagens em redes sociais, cruzar dados públicos e, assim, identificar indivíduos específicos.
Métodos sofisticados de coleta de inteligência
No caso do Irã, os operadores desenvolveram uma técnica para reconhecer pessoas a partir de perfis online. Já no Mali, um contratado das autoridades de segurança nacional recorreu ao modelo para arquitetar o software de espionagem utilizado na coleta de dados sensíveis. A companhia também relatou tentativas de destilação de respostas por desenvolvedores chineses, estratégia que consiste em usar a saída de um sistema de IA para treinar outro sem autorização.
Bloqueio a pesquisas biológicas suspeitas
Além da vigilância, a Anthropic barrou solicitações ligadas a armas biológicas. As consultas envolviam estudos sobre o vírus chikungunya, uma cepa altamente patogênica da gripe aviária, vírus da varíola e toxinas diversas. Embora os usuários se identificassem como cientistas, a empresa optou por interromper os pedidos para evitar potenciais riscos.
Medidas preventivas e transparência
A Anthropic declarou que reforçou seus filtros de conteúdo e monitora continuamente padrões de uso para impedir novos abusos. A divulgação integra a estratégia da companhia de manter transparência sobre ameaças emergentes no campo da inteligência artificial.
Imagem: Internet
Para acompanhar outras iniciativas que impactam a segurança digital, visite nossa editoria de tecnologia em Tech e continue informado.
Crédito da imagem: Reuters
