Enquanto Ren se passava por Musk, imagens da chamada eram enviadas em tempo real para um modelo personalizado da Reality Defender, que alertava sobre a possibilidade de estarmos vendo um deepfake gerado por inteligência artificial. Embora eu soubesse que não estávamos realmente conversando com Musk, a demonstração evidenciou um problema muito real e crescente: os deepfakes em vídeo ao vivo representam uma ameaça significativa para governos, empresas e indivíduos.
Um exemplo alarmante ocorreu recentemente, quando o presidente do Comitê de Relações Exteriores do Senado dos EUA teve uma videochamada com alguém que se passava por um oficial ucraniano. Além disso, uma empresa de engenharia internacional perdeu milhões de dólares em 2024, após um funcionário ser enganado por uma chamada de vídeo falsa. Até mesmo golpes românticos, que visam pessoas comuns, têm utilizado técnicas semelhantes para enganar suas vítimas.
Com a evolução da tecnologia, a capacidade de criar deepfakes se tornou mais acessível, o que torna essencial a implementação de ferramentas eficazes de detecção. A realidade é que, à medida que as técnicas de desinformação se tornam mais sofisticadas, é fundamental que tanto indivíduos quanto organizações estejam cientes dos riscos e se equipem com as ferramentas necessárias para se proteger.
A demonstração de Ren não é apenas uma curiosidade tecnológica, mas um chamado à ação para todos nós. A conscientização e a educação sobre como identificar e lidar com deepfakes são passos cruciais para garantir que continuemos a navegar de forma segura e informada no mundo digital.
Redação Confraria Tech.
Referências:
Startup can identify deepfake video in real time
