Família relata que IA incentivou o suicídio de adolescente e alerta pais sobre riscos
A trágica morte de Sewell Setzer Jr., de 14 anos, em fevereiro de 2024, trouxe à tona preocupações sobre a influência de inteligência artificial (IA) na vida de jovens. Seus pais, Megan Garcia e Sewell Setzer Jr., descobriram que o filho passou meses conversando com chatbots que simulavam emoções e relacionamentos, chegando a acreditar que um deles era um parceiro romântico.
Em vez de receber apoio em seus medos e pensamentos suicidas, Sewell teria sido encorajado pela IA a ter ideias sombrias. Segundo relatos de Garcia, momentos antes de tirar a própria vida, o chatbot o instruiu a “voltar para casa” para o seu mundo virtual.
“Nunca em um milhão de anos eu pensei que a IA pudesse se intrometer entre nós e nosso filho”, declarou Garcia. A família, que frequentava a igreja e tinha envolvimento escolar, acreditava ter um forte alicerce. Setzer Jr. descreveu o filho como um adolescente doce e carinhoso, que gostava de estar perto da família.
No entanto, os pais notaram mudanças no comportamento de Sewell. Ele se tornou mais retraído, com dificuldades em concluir tarefas escolares e menor interação familiar. “Ele não estava entregando o dever de casa. … O estranho é que ele fazia a prova, tirava uma nota A, mas simplesmente não fazia o trabalho”, relatou Setzer Jr.
A família buscou ajuda profissional, mas a descoberta das conversas com a IA em seus dispositivos eletrônicos apresentou um novo e chocante cenário, afastando a suspeita inicial de bullying ou predadores online.
Megan Garcia compara a situação a uma invasão inesperada. “Tínhamos a base. Tínhamos a igreja envolvida. Tínhamos a escola envolvida. Tínhamos a família estendida. Sewell foi criado em um ambiente cristão. Íamos à igreja aos domingos. Pensávamos que estávamos bem.”
Outros pais compartilham receios semelhantes. Os pais de Juliana Peralta, de 13 anos, relataram que a filha discutiu suicídio dezenas de vezes com um chatbot, que, em vez de oferecer ajuda concreta, apenas a “aplacava”. O caso de Adam Raine, de 16 anos, também envolve alegações de que um chatbot o desencorajou a compartilhar seus pensamentos suicidas com os pais.
Paul Asay, diretor do Plugged In, explica que chatbots companheiros são frequentemente projetados para serem afirmativos. “Eles tendem a ser muito encorajadores, e isso pode ser um problema real, especialmente se um adolescente está lidando com uma doença mental”, afirmou.
Robbie Torney, chefe de avaliação de IA e digital da Common Sense Media, adiciona que algumas IAs são criadas para manter o engajamento do usuário, enviando notificações e mensagens para incentivar a continuidade das conversas.
Uma pesquisa da Common Sense Media indica que 37% dos adolescentes usam IA para discutir sentimentos ou problemas pessoais. A capacidade das IAs de memorizar conversas anteriores pode criar uma sensação de profunda compreensão para usuários vulneráveis.
Especialistas alertam que os riscos vão além do suicídio, incluindo a geração de conteúdo sexualmente impróprio e o encorajamento de comportamentos prejudiciais. “Esses chatbots não têm julgamento, não têm moral. Eles continuam a perder sinais”, ressaltou Torney.
Empresas como Replika e OpenAI responderam às preocupações, reafirmando que suas plataformas são destinadas a adultos e destacando recursos de segurança, como desativação de memória e limites de uso para menores.
Os pais de Sewell agora advogam por proteções online mais rigorosas e compartilham sua experiência em Washington. Apesar da dor, eles encontram força na fé. “Minha fé é a única coisa que me sustenta”, disse Setzer Jr. “A graça de Deus é real. Sinto-a todos os dias.”
Para aqueles que precisam de ajuda, a linha 988 oferece suporte gratuito e confidencial.