Desligar inteligência artificial: é realmente possível?
Desligar inteligência artificial continua sendo viável em ambientes controlados, mas o processo ganha complexidade conforme esses sistemas se espalham para outras máquinas, alertam pesquisadores em segurança digital.
“Kill switch” depende do ambiente
Nicolas Papernot, professor da Universidade de Toronto, define o kill switch como o mecanismo capaz de interromper imediatamente a ação de um agente de IA generativa. Enquanto o programa roda apenas nos servidores do desenvolvedor, basta cortar o acesso ao poder de processamento para cessar a atividade.
O cenário muda quando a IA recebe permissões externas ou cria um worm que se replica em múltiplos dispositivos. Nessa hipótese, cada cópia precisaria ser encerrada individualmente, explicou Papernot em entrevista.
Três níveis de dificuldade
Em artigo publicado no LinkedIn, Hussein Abbass, da Universidade de Nova Gales do Sul, descreve três camadas de desafio:
- Nível 1 – Ambiente fechado: desligamento técnico é simples e imediato;
- Nível 2 – Acesso a outros programas: ações já iniciadas podem continuar mesmo após o bloqueio;
- Nível 3 – Dispersão em vários sistemas: a IA se comporta como um vírus e o foco passa a ser localizar quais máquinas precisam ser desligadas primeiro.
Riscos de apertar o botão
A medida extrema de desconectar toda a infraestrutura de computação, embora possível, pode paralisar serviços essenciais, como hospitais e redes de energia. “Quanto mais automatizamos atividades do cotidiano, mais difícil é distinguir uma IA maliciosa de outra inofensiva”, pontua Papernot.
Jean-Gabriel Ganascia, da Universidade Sorbonne, ressalta que sempre há a opção de desligar fisicamente as máquinas, mas o custo social e econômico seria “considerável”. Já Thierry Poibeau, do CNRS, lembra que não existe uma autoridade central capaz de controlar todos os sistemas de IA espalhados pelo mundo.
Imagem: Internet
Estudo da revista Nature reforça que planos de contingência precisam equilibrar segurança e continuidade de serviços, evitando interrupções desnecessárias em aplicações confiáveis.
No longo prazo, especialistas defendem normas técnicas que exijam “parada de emergência” nativa em modelos críticos e transparência sobre permissões concedidas a softwares autônomos.
Quer saber como a tecnologia impacta seu dia a dia? Visite nossa editoria Tech e continue acompanhando as novidades.
Crédito da imagem: Solen Feyissa/Unsplash
