O MIT News conversou com dois co-autores do artigo, Nouran Soliman, estudante de pós-graduação em engenharia elétrica e ciência da computação, e Tobin South, estudante de pós-graduação no Media Lab, sobre a necessidade dessas credenciais, os riscos associados a elas e como elas podem ser implementadas de maneira segura e equitativa.
P: Por que precisamos de credenciais de personalidade?
Tobin South: As capacidades de IA estão melhorando rapidamente. Enquanto muito do discurso público tem sido sobre como os chatbots estão cada vez melhores, a IA sofisticada possibilita muito mais do que apenas um ChatGPT melhor, como a capacidade da IA de interagir online de forma autônoma. A IA poderia ter a capacidade de criar contas, postar conteúdo, gerar conteúdo falso, fingir ser humano online ou amplificar conteúdo algorítmico em grande escala. Isso desencadeia muitos riscos. Podemos pensar nisso como um problema de “impostor digital”, onde está ficando mais difícil distinguir entre IA sofisticada e humanos. As credenciais de personalidade são uma solução potencial para esse problema.
Nouran Soliman: Tais capacidades avançadas de IA poderiam ajudar atores mal-intencionados a realizar ataques em grande escala ou espalhar desinformação. A internet poderia estar repleta de IAs que estão compartilhando conteúdo de humanos reais para realizar campanhas de desinformação. Está se tornando mais difícil navegar na internet, e nas redes sociais especificamente. Poderíamos imaginar o uso de credenciais de personalidade para filtrar determinado conteúdo e moderar o conteúdo em seu feed de mídia social ou determinar o nível de confiança das informações que você recebe online.
P: O que é uma credencial de personalidade e como você pode garantir que tal credencial seja segura?
South: As credenciais de personalidade permitem que você prove que é humano sem revelar mais nada sobre sua identidade. Essas credenciais permitem que você obtenha informações de uma entidade como o governo, que pode garantir que você é humano, e então, por meio de tecnologia de privacidade, permite que você prove esse fato sem compartilhar nenhuma informação sensível sobre sua identidade. Para obter uma credencial de personalidade, você terá que se apresentar pessoalmente ou ter um relacionamento com o governo, como um número de identificação fiscal. Há um componente offline. Você terá que fazer algo que apenas os humanos podem fazer. As IAs não podem comparecer ao DMV, por exemplo. E mesmo as IAs mais sofisticadas não podem falsificar ou quebrar a criptografia. Portanto, combinamos duas ideias – a segurança que temos por meio da criptografia e o fato de que os humanos ainda têm algumas capacidades que as IAs não têm – para fazer garantias realmente robustas de que você é humano.
Soliman: Mas as credenciais de personalidade podem ser opcionais. Os provedores de serviços podem permitir que as pessoas escolham se querem usá-las ou não. Atualmente, se as pessoas só querem interagir com pessoas reais e verificadas online, não há maneira razoável de fazê-lo. E além de apenas criar conteúdo e conversar com pessoas, em algum momento os agentes de IA também vão tomar ações em nome das pessoas. Se eu for comprar algo online ou negociar um acordo, talvez, nesse caso, eu queira ter certeza de que estou interagindo com entidades que possuem credenciais de personalidade para garantir que são confiáveis.
South: As credenciais de personalidade se baseiam em uma infraestrutura e em um conjunto de tecnologias de segurança que temos há décadas, como o uso de identificadores como uma conta de e-mail para entrar em serviços online, e podem complementar esses métodos existentes.
P: Quais são alguns dos riscos associados às credenciais de personalidade e como você poderia reduzir esses riscos?
Soliman: Um risco advém de como as credenciais de personalidade poderiam ser implementadas. Há uma preocupação com a concentração de poder. Digamos que uma entidade específica seja a única emissora, ou o sistema seja projetado de tal forma que todo o poder seja dado a uma entidade. Isso poderia levantar muitas preocupações para uma parte da população – talvez eles não confiem nessa entidade e não sintam que é seguro se envolver com ela. Precisamos implementar as credenciais de personalidade de forma que as pessoas confiem nos emissores e garantam que as identidades das pessoas permaneçam completamente isoladas de suas credenciais de personalidade para preservar a privacidade.
South: Se a única maneira de obter uma credencial de personalidade é ir fisicamente a algum lugar para provar que você é humano, isso poderia ser assustador se você estiver em um ambiente sociopolítico onde é difícil ou perigoso ir a esse local físico. Isso poderia impedir que algumas pessoas tenham a capacidade de compartilhar suas mensagens online de forma irrestrita, possivelmente sufocando a liberdade de expressão. Por isso, é importante ter uma variedade de emissores de credenciais de personalidade e um protocolo aberto para garantir que a liberdade de expressão seja mantida.
Soliman: Nosso artigo está tentando encorajar governos, formuladores de políticas, líderes e pesquisadores a investir mais recursos em credenciais de personalidade. Estamos sugerindo que os pesquisadores estudem diferentes direções de implementação e explorem os impactos mais amplos que as credenciais de personalidade poderiam ter na comunidade. Precisamos garantir que criamos as políticas e regras corretas sobre como as credenciais de personalidade devem ser implementadas.
South: A IA está avançando muito rápido, certamente muito mais rápido do que a velocidade com que os governos se adaptam. É hora de os governos e as grandes empresas começarem a pensar em como podem adaptar seus sistemas digitais para estar prontos para provar que alguém é humano, mas de uma forma que preserve a privacidade e seja segura, para que possamos estar prontos quando alcançarmos um futuro onde a IA tenha essas capacidades avançadas.
Redação Confraria Tech
Referências:
3 Questions: How to prove humanity online
