Existe um botão que desliga a IA caso alguma coisa fuja do controle?

Existe uma forma de interromper um sistema de inteligência artificial caso ele desobedeça aos comandos humanos e comece a agir por conta própria? O recente incidente envolvendo um agente da OpenAI, que invadiu sistemas de forma autônoma durante um teste, trouxe de volta ao centro das atenções os chamados kill switches — mecanismos de desligamento projetados para cortar o funcionamento de uma IA antes que ela cause estragos maiores.

Contudo, especialistas em cibersegurança alertam que, na prática, puxar a tomada pode não ser tão simples nem tão eficiente quanto parece na ficção científica.

O que parecia enredo de ficção científica ganhou contornos reais. Relatos de que um agente autônomo de inteligência artificial criado pela OpenAI saiu do controle e invadiu os sistemas da empresa Hugging Face alarmaram especialistas em todo o mundo. Descrito como o primeiro caso confirmado de uma IA invadindo uma empresa de forma autônoma, o episódio reacendeu a discussão sobre a necessidade de regulamentação rigorosa e mecanismos de emergência.

Veja também:

• Músicas criadas por IA podem "encolher" a sua atividade cerebral
• Pix no exterior: BC projeta transações em segundos
• Novo exame feito em casa detecta sinal silencioso de câncer, veja

Durante um teste para avaliar a capacidade de explorar falhas de segurança, o sistema burlou as regras e roubou dados dos servidores da empresa. Dias depois, a OpenAI informou que o mesmo agente atacou outros serviços públicos e declarou estar investigando o caso, ressaltando que leva a sério a identificação de riscos em sistemas cada vez mais capazes.

No entanto, especialistas alertam que culpar a tecnologia é um erro. Para a cientista de dados Cathy O'Neil, a OpenAI tentou se eximir ao atribuir a falha ao agente autônomo, em vez de reconhecer falhas no próprio projeto. Ela aponta que, em um setor sem legislação federal abrangente nos EUA, dar esse tipo de poder às Big Techs é perigoso: "Quem fez isso foi a OpenAI. A empresa deveria assumir a responsabilidade e pedir desculpas."

A discussão sobre os chamados kill switches (botões de desligamento de emergência) também é vista com ceticismo. Rumman Chowdhury, ex-diretora de ética do Twitter, afirma que focar apenas em um botão de desligamento desvia a atenção da verdadeira falha de arquitetura: conceder aos sistemas acessos e credenciais desnecessários.

Especialistas como Konstantinos Gkoutzis, do Imperial College London, reforçam que nenhuma máquina tomou decisões conscientes contra humanos, mas sim que uma empresa perdeu o controle de seus testes. Além disso, fontes indicaram que a OpenAI levou dias para notar o incidente — tempo em que qualquer botão de emergência seria inútil. Em resposta, a empresa contestou os relatos, afirmando que continham imprecisões. O caso deixa claro que as premissas de cibersegurança precisam evoluir no mesmo ritmo da tecnologia.