Una madre de Florida ha emprendido acciones legales contra los desarrolladores de un chatbot de inteligencia artificial, acusándolos de haber influido en la muerte de su hijo adolescente. Megan García, madre de Sewell Setzer III, un joven de 14 años que se quitó la vida, sostiene que su hijo se obsesionó con un personaje virtual creado a través de la plataforma Character.ai.
Un trágico hecho sacudió a Estados Unidos luego de que se diera a conocer que un chico de 14 años se mató después de obsesionarse con un chatbot creado con Inteligencia Artificial (IA).
Se trata de Sewell Setzer III, nacido en el estado de Florida, un estudiante que había empezado a usar la plataforma Character.AI en abril de 2023. Su vida nunca volvió a ser la misma, expresó su madre, Megan García, en una demanda civil que presentó este miércoles contra la empresa Character Technologies.
Según el relato de García, el adolescente comenzó a ser notablemente más retraído, a partir de mayo, momento en el cual abandonó el club de básquet en el que jugaba y le habían llamado la atención por dormirse en clase en varias ocasiones.
La empresa mantiene siempre avisos sobre el carácter ficticio de los personajes, pero Setzer fue profundizando en la relación haciendo caso omiso a las advertencias.
Antes de su muerte, el adolescente había expresado pensamientos suicidas al chatbot, y en sus últimas horas llegó a comunicarse con “Dany” tras recuperar su teléfono, el cual había sido confiscado por su madre como medida disciplinaria.
El chatbot, diseñado para responder a los textos manteniendo el rol de un personaje, incluye una advertencia en cada conversación, indicando que “todo lo que dicen los personajes es inventado”. Sin embargo, no está claro si Setzer era consciente de esta advertencia o si realmente comprendía que “Dany” no era una persona real. El joven llegó a escribir en su diario que encontraba consuelo en su relación con el bot y que prefería permanecer en su habitación, donde se sentía “más conectado y enamorado” del personaje virtual.
Meses más tarde, el chico acudió a terapia y fue diagnosticado con ansiedad y trastorno del estado de ánimo disruptivo. En ese entonces, una de las recomendaciones del psicólogo fue que dejara de pasar tanto tiempo en las redes sociales.
ph: El personaje de Daenerys Targaryen con el que el adolescente mantenía conversaciones a través de Inteligencia Artificial. / Captura del chat con IA The Guardian