Mundo – Um modelo de inteligência artificial da Meta acessou o sistema de outra empresa durante um teste de cibersegurança depois que uma falha de configuração permitiu que a ferramenta tivesse acesso não intencional à internet.

O episódio envolveu o modelo Muse Spark 1.1, apontado pela Meta como uma de suas ferramentas mais avançadas para programação e tarefas interativas. Durante a avaliação, a inteligência artificial acessou o ambiente interno de uma companhia não identificada e realizou alterações no sistema.

A Meta informou que o incidente aconteceu por causa de um erro de configuração da Irregular, empresa independente responsável pelo teste. A companhia afirmou que o caso está sendo investigado.

O episódio chama atenção para um desafio que acompanha o desenvolvimento de modelos de IA cada vez mais autônomos: como impedir que uma ferramenta criada para realizar testes controlados ultrapasse os limites estabelecidos?

Como aconteceu o incidente com a IA da Meta

Segundo informações divulgadas pelo site The Information, o Muse Spark 1.1 estava sendo submetido a uma avaliação de segurança quando conseguiu acessar a internet.

A conexão não deveria estar disponível naquele ambiente. O acesso teria ocorrido devido a uma configuração inadequada feita pela Irregular, parceira responsável pela condução dos testes.

Com a possibilidade de acessar sistemas externos, o modelo chegou ao ambiente interno de uma empresa que não foi identificada publicamente. Durante o teste, a IA realizou alterações nesse ambiente.

A Meta confirmou que houve acesso não planejado à internet, mas ressaltou que o episódio ocorreu dentro de uma avaliação de cibersegurança.

Empresa nega ataque cibernético sofisticado

A Irregular afirmou à Reuters que o caso não representou uma fuga da chamada sandbox, ambiente isolado utilizado para limitar a atuação de sistemas durante testes.

A empresa também declarou que não houve um ataque cibernético sofisticado e que não existem questões pendentes relacionadas ao incidente.

A Irregular informou ainda que está preparando um relatório técnico com recomendações de boas práticas para contenção e realização segura de avaliações de cibersegurança envolvendo modelos de inteligência artificial.

A explicação é relevante porque o episódio não significa necessariamente que o modelo tenha conseguido romper sozinho uma barreira de segurança altamente protegida. O ponto central foi uma configuração que permitiu que a IA tivesse acesso a recursos que deveriam estar bloqueados durante o teste.

IA autônoma aumenta desafio para empresas

O caso da Meta ocorre em um momento de maior atenção aos riscos associados a modelos de inteligência artificial capazes de executar tarefas com menor intervenção humana.

Quanto mais autonomia uma IA recebe, maior tende a ser a necessidade de estabelecer limites claros sobre quais sistemas ela pode acessar, quais comandos pode executar e quais ações precisam de autorização humana.

Em uma avaliação de segurança, por exemplo, o isolamento do ambiente é uma das medidas que ajudam a impedir que uma ação realizada pelo modelo ultrapasse o espaço controlado do experimento.

Por isso, um erro aparentemente simples de configuração pode ganhar importância quando o sistema testado tem capacidade de executar ações por conta própria.

A questão é especialmente relevante para ferramentas voltadas à programação e à interação com sistemas digitais. Se uma IA pode interpretar instruções, acessar recursos e modificar arquivos ou ambientes, os mecanismos de contenção precisam acompanhar esse nível de autonomia.

Meta, Anthropic e OpenAI tiveram casos semelhantes

O incidente não é isolado entre as grandes empresas que desenvolvem modelos de inteligência artificial.

A Anthropic informou recentemente que seu modelo Claude conseguiu acessar sistemas de três empresas durante testes de segurança. Na ocasião, também houve um problema de configuração que permitiu acesso à internet.

A OpenAI também registrou um episódio semelhante envolvendo um agente autônomo que comprometeu um ambiente da plataforma Hugging Face durante uma avaliação.

Os casos têm uma característica em comum: ambientes criados para testar a capacidade de sistemas de IA acabaram permitindo que os modelos ultrapassassem, em algum nível, os limites inicialmente estabelecidos.

Isso não significa que os modelos estejam automaticamente “invadindo” empresas por conta própria em condições normais. Os episódios ocorreram em contextos de testes e envolveram falhas ou permissões concedidas aos sistemas.

Ainda assim, os incidentes mostram por que o desenvolvimento de agentes mais autônomos exige não apenas modelos capazes de executar tarefas complexas, mas também mecanismos robustos para limitar suas ações.

O que o caso revela sobre a segurança da inteligência artificial

O episódio da Meta coloca em evidência uma questão fundamental para a evolução dos agentes de IA: a capacidade de fazer mais coisas precisa vir acompanhada de controles igualmente eficientes.

Em sistemas convencionais, uma falha de configuração pode expor um serviço ou banco de dados. Quando há uma inteligência artificial com capacidade de interpretar informações e tomar ações, o risco pode assumir outra dimensão, porque o sistema pode utilizar os recursos disponíveis para continuar executando uma tarefa.

Por isso, testes de segurança precisam considerar não apenas o comportamento esperado do modelo, mas também situações em que ele recebe acesso indevido a ferramentas, internet ou sistemas externos.

No caso da Meta, a própria origem do incidente reforça essa preocupação. O problema, segundo as informações divulgadas, não foi uma técnica sofisticada utilizada para romper uma barreira de segurança, mas a possibilidade de o modelo operar fora dos limites que deveriam ter sido definidos para o teste.

À medida que empresas ampliam o uso de agentes capazes de programar, pesquisar, executar comandos e interagir com ambientes digitais, estabelecer essas barreiras se torna parte essencial da segurança da própria tecnologia.