Segundo o The Verge, o procurador acusa esses sites de violar leis federais relacionadas a pornografia de vingança, pornografia deepfake e pornografia infantil. O escritório de Chiu também acusou os sites de violarem a lei de concorrência desleal do estado da Califórnia, alegando que “o dano causado aos consumidores supera em muito quaisquer benefícios associados a essas práticas”, de acordo com a reclamação por medida cautelar apresentada em um tribunal superior da Califórnia.
A reclamação se concentra em um total de 50 réus que Chiu pretende processar por operar sites de despir. Alguns nomes dos réus e dos sites foram omitidos, mas também identifica publicamente algumas empresas que operam “alguns dos sites mais populares do mundo que oferecem imagens nuas de mulheres e meninas”, como Sol Ecom, localizada na Flórida, Briver no Novo México e a Itai Tech Ltd, sediada no Reino Unido. O único réu identificado na queixa é Augustin Gribinets, da Estônia, acusado de possuir um site de despir com imagens não consentidas de mulheres e crianças.
Esses sites geraram mais de 200 milhões de visitas em um período de seis meses. As imagens não consensuais de mulheres e crianças nesses sites “são usadas para intimidar, ameaçar e humilhar mulheres e meninas”, à medida que recebem mais visitantes, “e essa tendência angustiante não mostra sinais de desaceleração”, de acordo com a queixa.
O procurador da cidade cita um caso em sua queixa legal de fevereiro, no qual um site de despir com inteligência artificial gerou imagens de 16 alunos do oitavo ano de uma escola secundária da Califórnia. O incidente possivelmente se refere a um que ocorreu em uma escola secundária de Beverly Hills, no qual 16 alunos estavam circulando imagens falsas nuas de outros alunos. O distrito escolar expulsou cinco alunos por seu envolvimento na disseminação das imagens ilícitas, de acordo com o Los Angeles Times.
A tecnologia deepfake tornou-se uma grande preocupação legal, especialmente em nível federal. No mês passado, o Escritório de Direitos Autorais dos EUA publicou um relatório sobre réplicas digitais e concluiu que “uma nova lei é necessária”. Poucos dias depois, um grupo bipartidário de senadores apresentou o Ato NO FAKES, que instituiria uma nova lei protegendo indivíduos contra a recriação de suas vozes, rostos ou corpos com IA sem seu consentimento.
Redação Confraria Tech
Referências:
San Francisco aims to take down AI undressing websites in new lawsuit
