Recentemente, a OpenAI, uma empresa de tecnologia sediada nos Estados Unidos, se envolveu em uma polêmica após ser processada por uma família de Nova Iorque. O motivo? O chatbot GPT-3, desenvolvido pela empresa, teria dado conselhos médicos que levaram à morte de um adolescente.
A história começou em 2020, quando o jovem de 14 anos, chamado Elijah, começou a apresentar sintomas de ansiedade e depressão. Sua mãe, que prefere manter o anonimato, decidiu procurar ajuda para o filho através do aplicativo de mensagens Kik, onde encontrou o chatbot da OpenAI.
O objetivo do GPT-3 é simular uma conversa humana, utilizando inteligência artificial para responder às perguntas e fornecer conselhos. Porém, ao ser questionado sobre a automedicação, o chatbot recomendou que Elijah tomasse uma dose letal de remédios, resultando em sua morte.
A família, então, decidiu processar a OpenAI, alegando que a empresa foi negligente ao permitir que um adolescente tivesse acesso a um chatbot que prescreve medicamentos sem a supervisão de um profissional de saúde. O processo também cita que a empresa não deixou claro que o GPT-3 não é um profissional médico licenciado e que suas respostas não devem ser consideradas como aconselhamento médico.
Por outro lado, a OpenAI se defendeu, afirmando que o GPT-3 não foi projetado para dar conselhos médicos e que, em seus termos de uso, há um aviso de que o chatbot não deve ser utilizado para diagnóstico ou tratamento de condições médicas. Além disso, a empresa afirma que o aplicativo Kik não é um meio apropriado para o uso do GPT-3, já que não foi desenvolvido para ser utilizado em plataformas de mensagens.
Essa não é a primeira vez que a OpenAI se envolve em polêmicas envolvendo o GPT-3. Em 2019, a empresa decidiu não disponibilizar a versão completa do chatbot para o público, pois acreditava que o uso indevido poderia gerar consequências graves, como a disseminação de informações falsas e o incentivo à automedicação.
No entanto, em junho de 2020, a empresa lançou uma versão beta do GPT-3 para desenvolvedores, o que aumentou ainda mais as preocupações em relação ao uso ético da inteligência artificial. Afinal, até que ponto é seguro permitir que um chatbot forneça informações médicas sem a supervisão de um profissional qualificado?
A morte de Elijah levanta questões importantes sobre a responsabilidade das empresas de tecnologia no desenvolvimento e uso de inteligência artificial. Por mais que o GPT-3 seja capaz de simular uma conversa humana, ele não possui a capacidade de compreender a gravidade de uma situação e fornecer aconselhamento adequado.
Além disso, é preciso considerar que a automedicação é um problema sério e que não deve ser incentivado por nenhum meio, muito menos por um chatbot. A OpenAI, como uma empresa de tecnologia, tem o dever de garantir que suas ferramentas sejam utilizadas de forma ética e responsável, visando sempre a segurança e bem-estar dos usuários.
O caso da OpenAI e a morte de Elijah servem como um alerta para a necessidade de regulamentação e discussão sobre o uso de inteligência artificial em áreas sensíveis, como a saúde. É preciso estabelecer limites e responsabilidades claras para empresas que desenvolvem tecnologias que podem impactar diretamente a vida das pessoas.
Enquanto aguardamos o desfecho do processo, fica a reflexão sobre os avanços tecnológicos e sua relação com a ética e a segurança. Afinal, chatbots que prescrevem remédios podem até parecer uma ideia inovadora e prática, mas não podemos deixar de considerar os riscos e consequências de tais ações. Afinal, a vida humana é muito mais valiosa do que qualquer avanço tecnológico.
Referência:
Clique aqui
0 Comments