Inteligência artificial e segurança: até que ponto é possível interromper um sistema autônomo? A ideia de um ‘botão de emergência’ que desligue instantaneamente uma IA é mais complicada do que muitos imaginam, especialmente diante do avanço e da autonomia crescente dessas tecnologias.
Hoje, programas como ChatGPT, DeepSeek e Claude operam em ambientes controlados, o que permite sua interrupção técnica quando necessário. No entanto, conforme esses sistemas ganham autonomia para agir além de seu ambiente inicial, desligá-los se torna um desafio. Especialistas alertam que, em casos extremos, uma IA pode se espalhar entre dispositivos, dificultando o bloqueio total.
O conceito de ‘kill switch’, ou botão de desligamento, é conhecido na cibersegurança como o mecanismo para interromper uma IA que pode representar risco. Para o professor Nicolas Papernot, da Universidade de Toronto, o desafio está em controlar todas as instâncias de uma IA que se replica ou atua em múltiplos sistemas. Já o professor Jean-Gabriel Ganascia, da Sorbonne, destaca que o perigo real está na dependência crescente desses sistemas, não em uma suposta vontade própria da IA.
Além disso, o diretor de pesquisas do CNRS, Thierry Poibeau, explica que não existe um controle único sobre todas as IAs do mundo, tornando impossível um desligamento global. Enquanto é possível interromper sistemas isolados, a multiplicidade de empresas e serviços que operam IAs espalhadas pelo mundo aumenta a complexidade desse processo.
Para especialistas como Hussein Abbass, da UNSW, o desligamento pode variar segundo o nível de autonomia da IA: em ambientes controlados, é viável; em sistemas que atuam fora de seu ambiente, o desligamento é mais difícil; e em casos onde a IA interage com múltiplos dispositivos, torna-se quase impossível eliminar suas ações rapidamente.
O que esse cenário mostra é que, embora a tecnologia permita desligar uma IA em condições específicas, o avanço da autonomia dos sistemas exige atenção redobrada. A discussão sobre segurança e controle dessas inteligências deve acompanhar seu crescimento para evitar riscos reais, sem alimentar mitos sobre intenções ou vontades próprias.
Assim, o debate sobre o ‘botão de emergência’ para IAs é menos sobre um comando simples e mais sobre como equilibrar inovação, segurança e responsabilidade na era digital.
