Logo  
abril 2024
 

Inteligência Artificial Generativa: Gerir Riscos de Segurança

Num mundo onde a tecnologia avança a passos largos, a Inteligência Artificial (IA) tornou-se uma parte integrante do quotidiano de cada um de nós, impulsionando a inovação em diversos setores. É impossível não sentir um certo entusiasmo com a facilidade que a IA traz à nossa vida pessoal e profissional, no entanto tal como qualquer outra tecnologia emergente existem alguns riscos de segurança associados a esta.

A área da cibersegurança não é exceção e, neste ecossistema, a IA tem vindo a apresentar desafios significativos. Ao falar de IA, é impossível não abordar uma nova realidade: a IA Generativa. Esta refere-se a sistemas de IA capazes de criar novos conteúdos, como código de software, imagens, textos, análise de dados e músicas, indistinguíveis de conteúdos reais produzidos por humanos. Embora esta tecnologia traga vantagens, há quem a use de forma maliciosa e uma prática recorrente desta tecnologia é a criação de conteúdos falsos, nomeadamente notícias falsas, áudios e vídeos deepfake, que por norma têm como objetivo manipular a opinião pública, difamar indivíduos ou desestabilizar organizações.

Assim, é fundamental gerir os riscos de segurança associados a esta tecnologia, uma vez que é necessário estarmos informados sobre as suas tendências e consequências.

Existem alguns riscos associados à IA generativa, aos quais é importante estar atentos e informados:

Intro
 
 
1. Conteúdo falso e ofensivo

Um dos principais riscos da IA generativa é a facilidade com que se criam conteúdos falsos e, até mesmo, ofensivos. Isto pode levar à desinformação, o que nos deixa mais vulneráveis em relação ao que se passa no mundo.

 
 
2. Aumento de ameaças cibernéticas

Através da utilização de IA generativa, os ciberatacantes conseguem produzir um e-mail, uma mensagem de texto ou um vídeo que seja idêntico aos que recebe da empresa onde trabalha ou do seu banco a solicitar a partilha de dados e informações pessoais e confidenciais. É importante estar atento a este risco, pois apesar de o conteúdo criado por IA generativa parecer real e autêntico, pode conter informações falsas.

 
 
3. Violações de privacidade

Um dos riscos associados à IA generativa é a capacidade de ligação entre dados pessoais e diversos conjuntos de dados, que ultrapassam a privacidade de dados de cada indivíduo.

 
 
4. Falha na resposta

Cada um de nós já experimentou ferramentas de IA generativa, como por exemplo o Chat GPT, e por vezes nem ele mesmo sabe todas as respostas e comete erros. Neste sentido, apesar de a IA generativa apresentar boas respostas às questões que lhe são colocadas, acontecem muitas outras vezes em que as respostas estão erradas e nos induzem em erro. Caso recorra à IA generativa regularmente, é importante estar informado de que existe um risco de esta também conter falhas e é fundamental confirmar sempre as informações fornecidas.

 
 
 

Apresentamos algumas dicas para garantir uma utilização da IA generativa mais segura:

 
 
1. Verificação de fontes e conteúdo

Quando recebe algum e-mail ou mensagens com links ou solicitações de dados, verifique sempre a fonte e a sua veracidade, mesmo que lhe pareça uma comunicação legítima. Desta forma, pode evitar um ataque de phishing ou de malware.

 
 
2. Não partilhar dados confidenciais

Ao usar ferramentas de IA, não partilhe dados sensíveis ou confidenciais, sejam pessoais ou profissionais. Estes dados podem ser utilizados para melhorias da própria ferramenta e partilhados com terceiros e, ainda, a IA generativa pode ser utilizada para criar conteúdo falso, utilizando dados pessoais dos utilizadores. É fundamental proteger os seus dados, através de boas práticas de cibersegurança, como a utilização de passwords únicas e fortes ou ativação de autenticação multifatorial.

 
 
3. Formação e consciencialização

Saiba quais são os avanços mais recentes da IA generativa e os riscos da mesma através de formação e consciencialização do tema, com o objetivo de poder reconhecer e contornar situações maliciosas. Estar atualizado sobre as últimas tendências e tecnologias associadas a IA generativa é fulcral para entender melhor de que forma é possível detetar conteúdo produzido pela mesma e de como se pode proteger contra possíveis ameaças cibernéticas.

 
 
 

É fundamental encontrar um equilíbrio perfeito entre aproveitar o poder da IA generativa e gerir os riscos que esta pode causar. O desenvolvimento desta nova tecnologia e a sua presença no quotidiano de cada um de nós é inevitável, por isso estar informado acerca dos seus riscos e acompanhar as tendências constantes que estão ligadas a este tema é o primeiro passo para poder utilizar esta ferramenta de forma segura e consciente.

 

Arquivo

2024

2023

2022

2021

2020

2019

Subscreva a nossa newsletter.


Consentimento Cookies X

A Devoteam Cyber Trust S.A. utiliza cookies para fins analíticos e de apresentação de informação mais personalizada, com base no perfil elaborado pelos seus hábitos de navegação. Se pretende informação mais pormenorizada, pode aceder à nossa Política de Cookies.