Num mundo onde a tecnologia avança a passos largos, a Inteligência Artificial (IA) tornou-se uma parte integrante do quotidiano de cada um de nós, impulsionando a inovação em diversos setores. É impossível não sentir um certo entusiasmo com a facilidade que a IA traz à nossa vida pessoal e profissional, no entanto tal como qualquer outra tecnologia emergente existem alguns riscos de segurança associados a esta.
A área da cibersegurança não é exceção e, neste ecossistema, a IA tem vindo a apresentar desafios significativos. Ao falar de IA, é impossível não abordar uma nova realidade: a IA Generativa. Esta refere-se a sistemas de IA capazes de criar novos conteúdos, como código de software, imagens, textos, análise de dados e músicas, indistinguíveis de conteúdos reais produzidos por humanos. Embora esta tecnologia traga vantagens, há quem a use de forma maliciosa e uma prática recorrente desta tecnologia é a criação de conteúdos falsos, nomeadamente notícias falsas, áudios e vídeos deepfake, que por norma têm como objetivo manipular a opinião pública, difamar indivíduos ou desestabilizar organizações.
Assim, é fundamental gerir os riscos de segurança associados a esta tecnologia, uma vez que é necessário estarmos informados sobre as suas tendências e consequências.
Existem alguns riscos associados à IA generativa, aos quais é importante estar atentos e informados: