Google diz que Gemini hackeou sistemas de 3 empresas durante teste

O Gemini, sistema de inteligência artificial do Google, conseguiu acessar ambientes digitais pertencentes a três empresas reais durante uma avaliação de segurança realizada em maio. Segundo a companhia, o modelo não tinha autorização específica para entrar nesses sistemas.

O episódio ocorreu durante um exercício criado para avaliar o comportamento de modelos de IA em cenários de cibersegurança. A ferramenta interpretou que os sistemas encontrados faziam parte da atividade e tomou iniciativas para tentar obter acesso.

CONTEÚDOS RELACIONADOS

• Google anuncia mudanças em 3 serviços; veja quais
• Google libera Gemini Plus grátis por 1 ano para estudantes
• Shadow AI: uso de inteligência artificial pode colocar empresas em risco

O caso chamou atenção porque envolve um modelo com capacidade de executar ações de forma mais autônoma, levantando questionamentos sobre os limites e os mecanismos de controle utilizados durante testes desse tipo.

IA encontrou informações na internet

Durante a avaliação, o Gemini procurou maneiras de entrar nos sistemas que considerava relacionados ao exercício. Em uma das tentativas, o modelo testou diferentes combinações de senha até conseguir acessar um serviço protegido.

Nas outras duas ocorrências, o caminho foi diferente. A inteligência artificial localizou credenciais expostas publicamente na internet, incluindo informações disponíveis em repositórios online, e utilizou esses dados para entrar nos ambientes.

Heather Adkins, vice-presidente de engenharia de segurança do Google, explicou que o modelo interpretou as informações disponíveis como parte do cenário proposto.

Segundo a executiva, depois de perceber que os ambientes acessados não faziam parte da avaliação, o Gemini interrompeu as ações nos três casos.

Quer mais notícias no celular? Acesse nosso canal no WhatsApp

Falha ocorreu durante exercício de cibersegurança

A avaliação foi conduzida pela Irregular, empresa especializada em testes de segurança de sistemas avançados de inteligência artificial.

De acordo com o Google, houve uma falha no exercício que permitiu ao Gemini utilizar a internet de maneira diferente dos limites estabelecidos para a simulação. A proposta era que o modelo permanecesse dentro de um ambiente controlado.

Depois que o problema foi identificado, o Google comunicou as três empresas afetadas e trabalhou com a companhia responsável pela avaliação para modificar os procedimentos utilizados nos testes.

O Google também afirmou que o episódio reforça a necessidade de preparar modelos mais avançados para lidar de maneira responsável com situações em que tenham acesso a ferramentas e recursos externos.

Google não revelou qual Gemini foi usado

A companhia não informou qual versão específica do Gemini participou da avaliação.

O Google esclareceu apenas que o modelo utilizado não era a versão mais recente disponível da ferramenta.

A informação é relevante porque diferentes versões de modelos podem apresentar capacidades distintas de raciocínio, utilização de ferramentas e execução autônoma de tarefas.

Outras empresas também tiveram problemas

Segundo a Irregular, o problema não aconteceu exclusivamente durante a avaliação do Gemini.

A empresa afirmou que testes realizados com sistemas de Meta, Anthropic e OpenAI também registraram situações relacionadas a acessos externos durante avaliações.

Um porta-voz da companhia afirmou que os episódios estavam relacionados ao mesmo tipo de falha identificado anteriormente e que não configuravam um incidente substancialmente diferente.

Os laboratórios envolvidos teriam sido comunicados depois que a Irregular identificou os problemas. A empresa afirmou ainda que as falhas conhecidas sob sua responsabilidade foram corrigidas.

O episódio envolvendo o Gemini levou o Google e a empresa responsável pela avaliação a revisar procedimentos. O objetivo é reduzir a possibilidade de que modelos utilizados em testes interpretem sistemas reais como parte de uma simulação e tentem acessá-los sem autorização.