Kramer violou a Lei da Verdade na Identificação de Chamadas aprovada em 2009, que proíbe qualquer pessoa de “transmitir intencionalmente informações enganosas ou imprecisas de identificação de chamadas com a intenção de fraudar, causar danos ou obter indevidamente qualquer coisa de valor”, de acordo com registros legislativos. A lei antecedeu o uso generalizado de IA, mas a FCC votou unanimemente para que ela se aplique a tais deepfakes em fevereiro passado.
As ligações automáticas falsas entregavam áudio pré-gravado da voz do Presidente Biden usando a tecnologia deepfake de IA aos residentes de New Hampshire antes das eleições primárias presidenciais de 2024. O falso Presidente Biden disse aos eleitores para não votarem na próxima primária, afirmando “Seu voto faz diferença em novembro, não nesta terça-feira”, de acordo com um relatório anterior da CBS New York. As ligações automáticas foram falsificadas para parecerem originadas da ex-presidente do Partido Democrata de New Hampshire, de acordo com o New York Times.
Kramer contratou o mágico de Nova Orleans (sim, um mágico de verdade) Paul Carpenter para fazer as gravações falsas. Carpenter mostrou à NBC News como fez os arquivos de áudio deepfake do Presidente Biden usando um gerador de voz de IA chamado ElevenLabs. As gravações, ele afirma, levaram apenas cerca de 20 minutos para serem feitas. Carpenter diz que Kramer o pagou através do Venmo e ele pensou que o trabalho que estava fazendo estava autorizado pela campanha do Presidente Biden. A Eleven Labs desde então encerrou a conta de Carpenter.
Kramer alega que enviou as ligações automáticas para conscientizar sobre os perigos e o uso indevido da tecnologia. Seu aparente experimento só lhe custou $500, mas, segundo o consultor político, resultou em um retorno massivo. “Para mim, fazer isso e obter $5 milhões em exposição, não para mim”, disse Kramer à CBS New York. “Mantive-me anônimo para que as regulamentações pudessem se desenrolar ou começar a se desenrolar. Não preciso ser famoso. Essa não é minha intenção. Minha intenção era fazer a diferença.”
Kramer não enfrenta apenas uma pesada multa da FCC, ele também está enfrentando acusações criminais. O Procurador-Geral de New Hampshire, John M. Formella, anunciou em maio passado que Kramer recebeu 13 acusações de felonias de supressão de eleitores e 13 acusações de contravenção de falsa identidade de candidato.
Redação Confraria Tech.
Referências:
FCC fines political consultant $6 million for deepfake robocalls
