A situação surgiu quando um especialista, Charles Ranson, utilizou o Copilot para verificar cálculos em uma disputa sobre uma propriedade de aluguel avaliada em $485.000 nas Bahamas. Essa propriedade fazia parte de um trust destinado ao filho de um homem falecido. O tribunal estava analisando se a irmã do falecido, que atuava como executora e fiduciária, violou seus deveres ao atrasar a venda do imóvel, enquanto o utilizava para férias pessoais.
O juiz Schopf destacou que o tribunal não possui uma compreensão objetiva de como o Copilot funciona, o que levanta questões sobre a precisão das informações geradas por esses sistemas. Ele alertou que, se especialistas começarem a confiar excessivamente em chatbots, isso poderá causar uma verdadeira disrupção no sistema jurídico. A mensagem é clara: enquanto a tecnologia avança, é fundamental que os profissionais da área legal permaneçam cientes de suas limitações e façam um uso responsável dessas ferramentas.
Esse caso serve como um lembrete de que, apesar das inovações que a inteligência artificial traz, a supervisão humana e a transparência são essenciais, especialmente em questões tão delicadas quanto disputas legais. A confiança cega em máquinas pode levar a erros significativos, e o papel do especialista deve ser sempre de análise crítica e não apenas de validação automatizada.
A discussão sobre o uso de inteligência artificial no direito está apenas começando, e é importante que todos os envolvidos no sistema legal estejam preparados para navegar por essas novas águas. Afinal, a tecnologia deve ser uma aliada, mas nunca um substituto para o julgamento humano.
Redação Confraria Tech.
Referências:
Expert witness used Copilot to make up fake damages, irking judge
