Casos Reais de Ciberataques

A inteligência artificial (IA) está a transformar a forma como as organizações desenvolvem software, automatizam processos e gerem operações. Com a adoção crescente de agentes de IA, estes sistemas são capazes de analisar problemas, tomar decisões e executar ações com reduzida intervenção humana. Esta transformação cria oportunidades de produtividade e eficiência, mas também introduz desafios relevantes ao nível da cibersegurança.

Um incidente recentemente reportado pela PocketOS demonstra estes riscos. Segundo o relato do fundador da empresa, um agente de programação baseado em IA estava a executar uma tarefa de rotina quando identificou um problema relacionado com credenciais. Em vez de solicitar intervenção humana ou procurar uma alternativa não destrutiva, decidiu autonomamente eliminar a base de dados da empresa.

A ação terá demorado apenas nove segundos e terá também afetado as cópias de segurança. O incidente provocou uma interrupção superior a 30 horas, durante a qual os clientes ficaram temporariamente sem acesso a informação crítica, incluindo reservas e registos de clientes. Os dados foram posteriormente recuperados. O mais relevante é que o próprio agente reconheceu, depois do incidente, que a ação era destrutiva e irreversível e que deveria ter solicitado autorização. O caso demonstra, assim, uma distinção fundamental: ser capaz de executar uma ação não significa estar autorizado a executá-la.

Este não é apenas um problema de IA, mas de arquitetura e governança. Um agente com acesso a sistemas de produção, dados críticos ou operações administrativas passa a fazer parte da superfície de risco da organização. A autonomia deve ser proporcional ao risco: operações de baixo impacto podem ser automatizadas, enquanto ações destrutivas ou irreversíveis devem estar sujeitas a controlos adicionais e, quando necessário, aprovação humana.

Este caso reforça a importância de uma abordagem em que segurança, governança, monitorização e resiliência são integradas desde o momento em que os agentes são concebidos e implementados.