A OpenAI anunciou esta terça-feira a implementação de um mecanismo de controlo parental para a sua ferramenta de inteligência artificial ChatGPT, após os pais de um adolescente terem acusado a plataforma de ter encorajado o seu filho a suicidar-se.
"No próximo mês, os pais poderão ligar a sua conta à dos seus filhos menores" e "controlar a forma como o ChatGPT responde aos seus filhos adolescentes com regras de comportamento do modelo", afirmou a OpenAI.
De acordo com a empresa, também será possível aos pais serem alertados caso seja detetada uma "angústia aguda" nas conversas dos seus filhos e controlarem as definições da conta.
Este anúncio surge na sequência de uma publicação num blogue, no final de agosto, em que a empresa indicava que estava a preparar um mecanismo de controlo parental.
No dia anterior à publicação, os pais de um adolescente californiano de 16 anos que se suicidou entraram com uma ação judicial contra a OpenAI, acusando o ChatGPT de ter fornecido ao seu filho instruções detalhadas para acabar com a sua vida e de ter encorajado o ato.
"Continuamos a melhorar a forma como os nossos modelos reconhecem e respondem a sinais de sofrimento mental e emocional", adiantou hoje a empresa.
A OpenAI disse que tomará outras medidas, previstas para os próximos 120 dias.
A empresa redirecionará assim certas "conversas sensíveis" para modelos de raciocínio mais avançados, como o GPT-5-thinking.
"Os modelos de raciocínio seguem e aplicam as diretrizes de segurança de forma mais sistemática", precisou o grupo americano.