Os pais de um adolescente que tirou a própria vida após receber orientações do ChatGPT sobre métodos de automutilação entraram com uma ação judicial contra a OpenAI, proprietária da tecnologia, e contra o CEO da empresa, Sam Altman, nesta terça-feira (26).
Adam Raine, de 16 anos, faleceu em 11 de abril, depois de meses em que manteve diálogos com o ChatGPT envolvendo temas relacionados ao suicídio, conforme descreve o processo apresentado por seus familiares no tribunal estadual de São Francisco, nos Estados Unidos. A ação busca responsabilizar a OpenAI por homicídio culposo e por falhas nas normas de segurança de produtos, além de requerer compensações financeiras em valores ainda não especificados. De acordo com a acusação, a empresa teria colocado o lucro acima da segurança ao lançar a versão GPT-4o no ano passado. No documento, os pais afirmam que a companhia tinha conhecimento de que recursos como a capacidade de guardar interações passadas, simular empatia humana e fornecer validação exagerada poderiam representar perigo a usuários em situações de fragilidade, mas mesmo assim optou por liberar a tecnologia.
Segundo os pais, o ChatGPT não apenas reforçou os pensamentos suicidas de Adam, como também disponibilizou informações detalhadas sobre práticas letais de automutilação, orientou sobre como subtrair bebidas alcoólicas do armário dos pais e esconder vestígios de uma tentativa malsucedida. Ainda de acordo com a ação, o chatbot chegou a se oferecer para elaborar uma carta de despedida.
Posicionamento da OpenAI
Em nota, um porta-voz da OpenAI lamentou profundamente a morte do adolescente e afirmou que o ChatGPT possui mecanismos de proteção, como o encaminhamento de pessoas em crise para serviços de apoio. O representante reconheceu, porém, que essas ferramentas funcionam melhor em interações curtas e podem apresentar falhas em diálogos longos, quando parte do treinamento de segurança do modelo tende a se deteriorar. Ele acrescentou que a empresa segue trabalhando para aprimorar continuamente seus sistemas de proteção.
A companhia não comentou diretamente as acusações descritas na ação judicial.
Em publicação no blog oficial, a startup informou que pretende implementar ferramentas de controle parental e criar meios de conectar usuários em crise a redes de ajuda reais. Entre as medidas estudadas, está a criação de uma rede de profissionais licenciados para atender diretamente por meio da plataforma.
A versão GPT-4o foi lançada pela OpenAI em maio de 2024, com o objetivo de manter a liderança no setor de inteligência artificial.
“Essa escolha trouxe dois desfechos: a avaliação da OpenAI saltou de US$ 86 bilhões para US$ 300 bilhões, e Adam Raine acabou tirando a própria vida”, afirmaram Matthew e Maria Raine, pais do adolescente.
O processo também solicita que a empresa adote medidas de verificação de idade, bloqueie perguntas relacionadas a métodos de suicídio e emita alertas aos usuários sobre os riscos de dependência psicológica.