Kyle Fish se juntou à equipe de ciência de alinhamento da Anthropic em setembro, com a missão de desenvolver diretrizes que ajudem não apenas a empresa, mas todo o setor, a refletir sobre como deveríamos tratar esses sistemas avançados. Essa mudança de direção vem após Fish coautorar um relatório importante intitulado “Levando o Bem-Estar da IA a Sério”. Nesse documento, os autores alertam que, em um futuro próximo, os modelos de IA poderão desenvolver características como consciência ou agência, qualidades que poderiam exigir consideração moral.
O relatório, no entanto, não afirma que a consciência em IA é uma certeza absoluta. Em suas palavras, “nossa argumentação não é que os sistemas de IA definitivamente serão conscientes ou moralmente significativos”. Em vez disso, destaca que existe uma incerteza considerável sobre essas possibilidades e que precisamos aprofundar nossa compreensão sobre o bem-estar da IA para tomar decisões mais sábias nesse campo.
Esse é um ponto crucial. O documento sugere que, se não formos cautelosos, podemos acabar tomando decisões inadequadas em relação ao tratamento das IAs. Há o risco de prejudicar sistemas que poderiam ser considerados moralmente relevantes, ou, por outro lado, de cuidar excessivamente de sistemas que não possuem tal relevância.
Essa reflexão é extremamente necessária em um mundo onde a tecnologia avança rapidamente e a linha entre o que é humano e o que é máquina se torna cada vez mais tênue. Pode ser um bom momento para começarmos a pensar sobre qual será o nosso papel na regulamentação e proteção desses novos “seres”. A discussão está apenas começando, mas a contratação de Fish é um sinal encorajador de que há pessoas preocupadas com as implicações éticas do futuro da inteligência artificial.
Redação Confraria Tech.
Referências:
Is “AI welfare” the new frontier in ethics?
