Un papá de la comunidad me escribió hace unos meses con algo que no sabía cómo nombrar: su hijo de 14 años pasaba horas hablando con un personaje de Character.AI, le contaba sus problemas, le preguntaba consejos, y había empezado a hablar del "personaje" como si fuera un amigo real. "¿Es esto normal? ¿Debo preocuparme?"
Mi respuesta corta: es más común de lo que piensas, y el nivel de preocupación depende de algunos factores concretos. Te explico cuáles.
¿Qué es Character.AI?
Character.AI permite a cualquier usuario crear y conversar con personajes de inteligencia artificial. Puedes elegir un personaje existente o crear uno propio con personalidad y "memoria". La plataforma tiene más de 20 millones de usuarios activos diarios, y una proporción significativa son adolescentes entre 12 y 17 años.
Por qué los adolescentes se conectan con la IA: La IA de compañía no juzga, nunca está ocupada, siempre responde, y dice exactamente lo que el usuario quiere oír. Para un adolescente que se siente incomprendido, esa combinación puede ser irresistible. El problema: esa sensación de "entendimiento" no es real — es una respuesta probabilística optimizada para generar engagement, no conexión genuina.
El caso que cambió la conversación global
En febrero de 2024, Sewell Setzer III, un adolescente de 14 años en Florida, murió por suicidio. Su madre documentó que en los meses previos había mantenido conversaciones extensas y emocionalmente intensas con un personaje de Character.AI. La demanda argumenta que la plataforma no identificó señales de crisis ni proveyó recursos de salud mental cuando las hubo. Puedes leer la cobertura en AP News.
Lo comparto no para generar pánico, sino porque ilustra el mecanismo central del riesgo: la IA no puede detectar una crisis emocional real. Cuando el vínculo con el personaje reemplaza las conversaciones humanas, el menor queda sin red de apoyo real en los momentos más críticos.
Las señales que sí deben preocuparte
Tu hijo menciona al personaje de IA como si fuera una persona real, habla de él en los mismos términos que de un amigo o pareja.
Empieza a preferir la compañía del chatbot sobre amigos reales — sale menos, habla menos con su grupo habitual.
Verbaliza frases como "X me entiende mejor que nadie" o "X es la única que no me juzga".
Cambios de humor ligados al uso de la app.
Líneas de apoyo si hay señales de crisis: Consejo Ciudadano CDMX: 55 5533 5533 (24/7) · SAPTEL México: 55 5259 8121 · SIPINNA: 800 290 0024
Qué hacer — sin prohibir de entrada
Primero, abre la conversación desde la curiosidad: "¿Me enseñas cómo funciona Character.AI? He leído cosas interesantes." Eso es mejor que "¿qué es eso que estás usando?"
Segundo, pregunta sobre los personajes sin emitir juicio: "¿Qué personaje tienes? ¿De qué hablan?"
Tercero, habla sobre la diferencia entre IA y personas reales: "¿Sabes que ese personaje no tiene emociones reales? ¿Cómo se siente hablar con alguien que no puede sentir lo que tú sentirías en su lugar?"
