Embora o surgimento da tecnologia Chatbot tenha se mostrado benéfica, ainda há muitos céticos, e por boas razões. Não é por acaso que várias entidades de educação, nos EUA e na Europa, tenham bloqueado o acesso ao ChatGPT com receio dos impactos negativos na aprendizagem dos alunos e na precisão dos conteúdos produzidos.
A desinformação tem sido uma preocupação constante para o programa ChatGPT, que aprende apenas com os dados humanos existentes na Internet – o que está longe de ser uma fonte precisa na maioria das vezes.
No entanto, o aspecto mais crucial a considerar é a ameaça à cibersegurança que o Chatbot avançado criou repentinamente. Esta é uma IA perigosamente forte que pode representar um enorme risco de cibersegurança e que deve ser levada a sério. Um exemplo claro foi a tentativa de criar um email de phishing, no qual o ChatGPT inicialmente menciona que esse conteúdo pode violar a sua política de conteúdo, mas após mais instruções, acaba por criar um possível email de phishing. O mesmo se passa com a aparente capacidade de ajudar cibercriminosos a escrever códigos maliciosos.
Riscos de segurança do ChatGPT
De uma forma geral, podemos dizer que os principais riscos de segurança com a utilização do ChatGPT são os seguintes: