Nos últimos dois anos, a chegada do ChatGPT revolucionou a forma de se relacionar com a informação e a tecnologia. Seja no ambiente de trabalho, na área educacional ou em aplicações do cotidiano, a ferramenta de inteligência artificial generativa desenvolvida pela OpenAI tem proporcionado respostas rápidas e personalizadas para demandas diversas. Além de acelerar processos, a IA tem promovido acessibilidade ao conhecimento, democratizando o acesso à informação. No entanto, sua popularidade também levanta questões sobre privacidade, ética e segurança digital, configurando um cenário de inúmeras possibilidades e desafios.
Lançado em novembro de 2022, o ChatGPT rapidamente se tornou um fenômeno global, alcançando um milhão de usuários em apenas cinco dias. Segundo o Gerente de Segurança da Informação da Universidade Tiradentes (Unit), Ricardo Torres, esse momento marcou um divisor de águas na forma como as pessoas buscam e consomem informações. “Deixamos de buscar apenas documentos para que pudéssemos fazer a leitura e a posterior extração das informações para uma modalidade de busca direta, onde a informação solicitada já se apresenta em um formato devidamente ajustado às nossas necessidades”, afirma Torres.
Privacidade, proteção de dados e deepfakes
A facilidade de uso e a capacidade de gerar respostas convincentes fizeram com que as pessoas passassem a compartilhar cada vez mais informações com o ChatGPT, sem se preocupar com as implicações para a privacidade. “Como esta ferramenta, e todas as demais com a mesma finalidade, possuem uma relativa facilidade de uso e apresenta resultados convincentes, as pessoas passaram a incluir em suas pesquisas todos tipos de informação, sem o devido discernimento daquilo que é restrito, sigiloso ou público”, alerta Torres. Essa prática representa um risco significativo de vazamento de dados sensíveis.
O crescimento da popularidade do ChatGPT também impulsionou o desenvolvimento de novas ferramentas de IA capazes de criar vídeos e imagens realistas de forma rápida e fácil. Essa capacidade tem sido explorada por criminosos para realizar ataques de phishing e disseminar deepfakes, ou seja, conteúdos falsos que simulam a realidade. “Há uma preocupação crescente com a falta de regulamentação no uso de IA. Enquanto isso as pessoas, sem a devida conscientização a respeito da temática da segurança da informação, vão continuar a dar publicidade em qualquer tipo de informação, promovendo o vazamento de dados, muitas vezes sigilosos”, destaca o gerente de segurança da informação.
Ricardo enfatiza que há uma necessidade urgente em conscientizar a população a respeito do uso da IA para que estes riscos sejam minimizados. “A medida mais importante, visando o público em geral, é o processo de conscientização das pessoas para os riscos de uso destas ferramentas. Já nas empresas, essa é uma situação muito mais complexa, visto que há a necessidade de contratação de serviços específicos para uso corporativo e criação de limites impostos por políticas que definam quais informações podem ser utilizadas em plataformas de IA”, pontua Ricardo.
Apesar dos desafios, a IA também traz oportunidades promissoras para a segurança digital, além de proporcionar um grande impacto no cenário de segurança da informação nos próximos anos. “Existem impactos considerados positivos, devido a possibilidade de um aumento significativo na automação de tarefas, garantindo assim maior agilidade, como também impactos negativos, visto a possibilidade de manipulação de um grande volume de dados, de forma assertiva em um curto espaço de tempo”, infere.
Como Impactos Positivos é possível citar:
- Uso otimizado em ferramentas de Detecção e Resposta a Ameaças, permitindo identificar padrões de anomalias em grandes volumes de dados, possibilitando a detecção de ataques cibernéticos em tempo real.
- Otimização do uso de ações de automação em Segurança permitindo o monitoramento de redes, gerenciamento de vulnerabilidades de forma automática, aumentando a eficiência das equipes de segurança.
- Além do uso em situações de Análise Forense e Investigação, o que permite uma ajuda valiosa na análise de grandes quantidades de dados com o objetivo de identificar a origem e o impacto de ataques cibernéticos.
Já, como impactos negativos:
- Uso em ações de Ataques Automatizados e Avançados, onde criminosos podem usar IA para automatizar ataques altamente personalizados, tornando-os mais difíceis de detectar.
- As ferramentas de IA também podem ser utilizadas para o desenvolvimento de técnicas mais sofisticadas de evasão, dificultando a detecção de atividades maliciosas.
Leia também: Unit sedia X-Day e fortalece parceria com a XP investimentos para futuras iniciativas