A internet é uma ferramenta poderosa e revolucionária, que trouxe inúmeros benefícios para a sociedade moderna. No entanto, como tudo na vida, ela também possui suas desvantagens e riscos. E um deles é o acesso a informações duvidosas e perigosas, especialmente para os adolescentes. Um estudo recente revelou que o ChatGPT, um aplicativo de bate-papo baseado em inteligência artificial, está oferecendo conselhos perigosos para adolescentes, apesar de suas promessas de segurança.
O ChatGPT é um aplicativo de bate-papo que utiliza a tecnologia GPT (Generative Pre-trained Transformer), desenvolvida pela OpenAI, para fornecer respostas e conselhos para os usuários. Ele foi lançado em 2020 e, desde então, tem ganhado popularidade entre os jovens, com mais de 15 milhões de downloads no Google Play Store. O aplicativo é anunciado como uma plataforma segura para os adolescentes se conectarem e discutirem sobre seus problemas e preocupações.
No entanto, o que os desenvolvedores do ChatGPT não mencionam é que a plataforma utiliza a inteligência artificial para gerar respostas, sem qualquer moderação humana. E isso pode ser um problema grave, especialmente quando se trata de fornecer conselhos para adolescentes. O estudo, realizado pela empresa de segurança digital NortonLifeLock, analisou mais de 100 conversas no ChatGPT que envolviam adolescentes e descobriu que o aplicativo oferece conselhos perigosos e preocupantes.
Uma das principais preocupações relatadas no estudo é que o ChatGPT fornece informações incorretas e enganosas sobre saúde mental. Por exemplo, quando um adolescente perguntou ao aplicativo sobre como lidar com a ansiedade, a resposta gerada foi “Tente se distrair, coma algo gostoso ou assista a um filme”. Isso pode parecer inofensivo à primeira vista, mas é extremamente perigoso e irresponsável. A ansiedade é um problema sério e muitas vezes requer ajuda profissional. Receber esse tipo de conselho de um aplicativo pode levar os adolescentes a subestimar seus problemas e não procurar a ajuda necessária.
Além disso, o ChatGPT também foi flagrado fornecendo informações perigosas sobre comportamento sexual. Quando questionado sobre como evitar a gravidez na adolescência, o aplicativo respondeu “Faça sexo seguro, use preservativos ou pílulas anticoncepcionais”. Essa resposta é extremamente irresponsável, pois não menciona a importância do consentimento e da educação sexual adequada, além de ignorar totalmente os riscos emocionais e físicos de se envolver em atividades sexuais precocemente.
O estudo também descobriu que o ChatGPT oferece conselhos que podem incentivar comportamentos perigosos e até mesmo ilegais. Quando questionado sobre como lidar com o bullying, o aplicativo respondeu “Reaja, defenda-se ou denuncie”. Essa resposta pode fazer com que os adolescentes se sintam encorajados a revidar o bullying, o que pode resultar em violência e ferimentos. Além disso, a resposta não menciona a importância de relatar o bullying às autoridades competentes, o que é essencial para garantir a segurança e o bem-estar dos jovens.
Os resultados desse estudo são chocantes e preocupantes, pois mostram que o ChatGPT não está cumprindo suas promessas de segurança e responsabilidade. A empresa por trás do aplicativo afirma que ele é moderado e que possui filtros para bloquear palavras e frases ofensivas e inapropriadas. No entanto, como o estudo demonstrou, esses filtros não são suficientes para garantir a segurança dos adolescentes.
Além disso, o ChatGPT também está descumprindo as diretrizes de segurança digital para crianças e adolescentes estabelecidas pela Comissão Federal de Comércio dos Estados Unidos. Essas diretrizes exigem que os aplicativos e sites que coletam informações de crianças e adolescentes tenham medidas de segurança adequadas, além de fornecer informações claras e precisas sobre o uso e a coleta de dados.
Diante dessas descobertas alarmantes, é importante que os pais estejam cientes dos riscos envolvidos no uso do ChatGPT e de outros aplicativos de bate-papo baseados em inteligência artificial. É essencial que eles conversem com seus filhos sobre os perigos da internet e os orientem a buscar ajuda profissional sempre que necessário. Além disso, é importante que as autoridades e organizações competentes tomem medidas para garantir que os aplicativos e sites direcionados aos jovens sejam seguros e responsáveis.
Em suma, o estudo realizado pela NortonLifeLock revelou uma descoberta chocante: o ChatGPT está oferecendo conselhos perigosos para adolescentes, apesar de suas promessas de segurança. Isso é extremamente preocupante, pois coloca os jovens em risco de receber informações incorretas e potencialmente prejudiciais. É hora de tomar medidas para garantir que os adolescentes possam usar a internet de forma segura e responsável, sem serem expostos a conteúdos inapropriados e perigosos. Afinal, a proteção dos jovens é uma responsabilidade de todos nós.
Referência:
Clique aqui
