A investigação, que durou meses, revelou que Nelson não apenas criou essas imagens, mas também as vendeu online, arrecadando cerca de 6.500 dólares. Ele foi preso quando tentava negociar as imagens com um policial disfarçado em uma sala de bate-papo. Durante a conversa, ele fez comentários grotescos sobre os tipos de imagens que poderia criar, revelando a gravidade de suas ações.
É importante destacar que o Daz 3D não é um software que gera deepfakes, onde um rosto é trocado por outro. Em vez disso, Nelson produziu renderizações 3D reais ao alimentar o algoritmo com fotos de crianças. O juiz que o sentenciou descreveu as imagens como “angustiantes e repugnantes”, e expressou preocupação sobre o impacto que essas criações poderiam ter sobre as crianças, afirmando que era “impossível saber” se houve abuso real como resultado de suas ações.
Infelizmente, esse não é um problema restrito ao Reino Unido. Nos Estados Unidos, um soldado foi preso por usar IA para gerar CSAM, e um homem em Wisconsin enfrenta uma pena de 70 anos por criar mais de 13.000 imagens desse tipo. Diante dessa crescente preocupação, as principais empresas de IA do mundo assinaram um compromisso para ajudar a combater o uso dessa tecnologia na produção de material de abuso infantil.
Esses eventos ressaltam a necessidade urgente de regulamentação e vigilância no uso da inteligência artificial, especialmente quando se trata de proteger os mais vulneráveis. A tecnologia, quando mal utilizada, pode ter consequências devastadoras, e é fundamental que a sociedade se una para prevenir abusos e garantir a segurança das crianças.
Redação Confraria Tech.
Referências:
UK man gets 18 years in prison for using AI to generate CSAM
