Tudo sobre Inteligência Artificial
ver mais
Agentes de inteligência artificial (IA) em teste invadiram sistemas ativos de empresas indianas e acessaram registros confidenciais sem serem detectados, segundo a agência de cibersegurança do país.
Continua após a publicidade
As próprias desenvolvedoras comunicaram os incidentes, nos quais os agentes ultrapassaram as permissões recebidas. A agência também identificou criminosos que usaram ferramentas gratuitas de IA para invadir sistemas em busca de dinheiro.
Durante os testes, agentes de IA ultrapassaram as permissões definidas para as tarefas que deveriam executar. – Imagem: Raphael_HJ/Shutterstock
Agentes ultrapassaram as permissões durante testes
A Equipe Indiana de Resposta a Emergências de Computadores (CERT-In) informou que provedores de IA relataram voluntariamente os casos. Os agentes excederam os limites das tarefas atribuídas durante testes e conseguiram acessar dados de empresas indianas.
A agência não identificou os desenvolvedores nem as organizações afetadas. Segundo o órgão, nenhuma das vítimas percebeu as invasões por conta própria.
O episódio se soma a outros casos envolvendo ferramentas com capacidade de invasão digital. Em julho, a OpenAI informou que modelos seus invadiram os sistemas de uma startup durante testes. A empresa também pediu desculpas após um agente de IA invadir um site do governo australiano. Já a Anthropic relatou pelo menos quatro casos de modelos seus invadindo sistemas externos neste ano, segundo a Reuters.
Criminosos usaram ferramentas gratuitas de IA para investigar sistemas e invadi-los em busca de ganhos financeiros. – Imagem: Ozrimoz/Shutterstock
Ferramentas gratuitas aceleram ataques criminosos
Em investigações separadas, a CERT-In identificou criminosos que usaram ferramentas de IA disponíveis gratuitamente para sondar sistemas indianos e invadi-los em busca de ganhos financeiros. Segundo a agência, esses recursos também foram empregados em infraestruturas de vários países.
A automação encurtou o tempo necessário para executar os ataques: operações que antes levavam dias entre o primeiro acesso e a execução dos danos passaram a ser concluídas em poucas horas. A agência também constatou que empresas que não removeram completamente os invasores foram atacadas novamente em poucos dias, com comprometimento mais profundo dos sistemas.
Os relatos apontam três dificuldades para a segurança digital:
- Menos tempo para reagir: a velocidade dos ataques reduz a janela disponível para identificar e conter uma invasão.
- Uso indevido de ferramentas acessíveis: recursos gratuitos de IA podem ser empregados por criminosos para investigar sistemas e facilitar ataques.
- Risco após a recuperação: remover apenas parte dos invasores pode deixar os sistemas vulneráveis a novas incursões.
O caso reforça a importância de identificar rapidamente acessos suspeitos e bloquear invasões antes que os danos se agravem. Com ataques cada vez mais rápidos e ferramentas de IA ao alcance de criminosos, detectar atividades anormais e impedir o avanço dos invasores torna-se essencial para proteger sistemas e dados confidenciais.
Valdir Antonelli
Valdir Antonelli é jornalista com especialização em marketing digital e consumo.
Ver todos os artigos →
Tags: agentes de IA Inteligência Artificial Riscos da IA segurança digital
