A empresa afirmou que a marca d’água é uma das várias soluções, incluindo classificadores e metadados, que foram exploradas como parte de “extensa pesquisa na área de procedência de texto”. Segundo a OpenAI, a marca d’água “tem sido altamente precisa” em algumas situações, mas não se sai tão bem diante de certas formas de adulteração, “como o uso de sistemas de tradução, reformulação com outro modelo generativo, ou pedir ao modelo para inserir um caractere especial entre cada palavra e, em seguida, excluir esse caractere.” Além disso, a marca d’água em texto poderia “afetar desproporcionalmente alguns grupos”, escreveu a OpenAI. “Por exemplo, poderia estigmatizar o uso da IA como uma ferramenta útil de escrita para falantes não nativos de inglês.”
De acordo com o post do blog, a OpenAI tem considerado esses riscos. A empresa também afirmou que priorizou a divulgação de ferramentas de autenticação para conteúdo audiovisual. Em comunicado ao TechCrunch, um porta-voz da OpenAI afirmou que a empresa adota uma “abordagem deliberada” em relação à procedência de texto, devido “às complexidades envolvidas e seu provável impacto no ecossistema mais amplo além da OpenAI.”
Referências:
OpenAI confirms it’s looking into text watermarking for ChatGPT that could expose cheating students
