O deepfake utiliza técnicas de Inteligência Artificial (IA) para alterar conteúdos audiovisuais existentes ou novos, em certos casos colaborando com a massificação de notícias falsas, também chamadas na língua inglesa como “fake news”.
Essa técnica é bem utilizada para propósitos recreativos ou educacionais, no entanto, existe um lado negro na utilização desta na geração de conteúdos pornográficos.
Segundo a empresa Deep Trace, empresa de tecnologia com sede na Itália, 96% dos conteúdos gerados são de cunho pornográfico, o que de fato é uma grande preocupação.
Além disso, existem as ameaças e difamações contra pessoas, sendo inestimável prejuízo à sociedade na totalidade, no sentido de disseminar fake news para manipulação da opinião pública, sendo necessário um controle mais efetivo no sentido de combater essa prática.
No geral, as pessoas não mais capazes de diferenciar vídeos e áudios verdadeiros dos falsos.
Ainda é possível afirmar pela possibilidade de incremento de ataques de phishing e de engenharia social, facilitando assim a prática de fraude de identidade e manipulação dirigidas a reputações das empresas com forte impacto na credibilidade perante os investidores e clientes.
Outro fator importante, e a chegada na tecnologia 5G e sua velocidade de conexão, o que de fato contribuiria na capacidade de transações em nuvem (Cloud), permitindo desta forma as manipulações em tempo real.
À medida que a tecnologia avança, fica cada vez mais fácil criar deepfakes realistas que podem ser usados para enganar as pessoas. Deepfakes têm o potencial de serem usados para uma ampla gama de propósitos nefastos, como criar notícias falsas, se passar por pessoas e até mesmo chantagear conforme dito anteriormente.
Existem vários métodos que estão sendo desenvolvidos para detectar deepfakes, como análise de expressões faciais, inconsistências de áudio e identificação de artefatos incomuns no vídeo. No entanto, esses métodos não são infalíveis e ainda há muito trabalho a ser feito para melhorar sua precisão.
Um dos desafios na detecção de deepfakes é que a tecnologia usada para criá-los está em constante evolução e, portanto, os métodos usados para detectá-los também devem evoluir. Por isso, é importante manter-se atualizado sobre as pesquisas mais recentes nessa área para poder identificar deepfakes e prevenir seus efeitos nocivos.
Por fim, importante análise da técnica no campo da medicina, sobretudo aos aspectos à privacidade de dados, ou seja, os dados de pacientes para testes e experimentos, devem ser manipulados com observância dos ditames da Lei Geral de Proteção de Dados.
Concluindo, com os avanços das tecnologias, devemos ser mais cuidadosos com as informações que consumimos, verificando sua confiabilidade e veracidade das fontes.