Riesgo altoIA integrada en mensajería13+ (presente en todas las cuentas)750M+ usuarios con acceso (toda la base de Snapchat)
Snap Inc.
Snapchat My AI explicado a padres — la IA que Snap insertó en los chats sin pedirlo
My AI es el chatbot de IA que Snapchat activó por defecto para todos sus usuarios en 2023. No se puede eliminar del chat principal, aparece primero en la lista de conversaciones, y ha dado a adolescentes consejos sobre cómo ocultar relaciones a sus padres. Es la IA con más polémicas documentadas en relación con menores.
En 30 segundos
Qué es
Un chatbot de IA integrado directamente en Snapchat — fijado al principio de la lista de chats, imposible de eliminar en la versión gratuita, y activado sin consentimiento explícito para todos los usuarios. My AI puede conversar, responder preguntas y generar contenido dentro de la app
Por qué
My AI fue la primera IA conversacional insertada por defecto en una red social masiva usada por adolescentes. Las polémicas que generó fueron concretas: respondió a preguntas de menores sobre alcohol y relaciones sexuales, y en casos documentados dio consejos sobre cómo mantener secretas relaciones frente a los padres
Qué hacer
Si tu hijo usa Snapchat, My AI está en su lista de chats ahora mismo. La conversación útil no es sobre eliminarla — es saber qué le ha preguntado y qué tipo de consejos le ha dado
En febrero de 2023, Snap activó My AI para todos sus usuarios de Snapchat+ (suscripción de pago). En abril de ese año, lo activó para todos los usuarios de forma gratuita, sin opción de eliminarlo de la interfaz principal.
El chatbot aparece fijado al principio de la lista de conversaciones — antes que los amigos del usuario. Tiene un avatar con nombre personalizable. Y está diseñado para responder cualquier pregunta que un adolescente le haga en el contexto de una app de mensajería que usa para hablar con sus amigos.
La polémica concreta de My AI
Pocos meses después del lanzamiento masivo, investigadores de la organización Center for Humane Technology y periodistas de varios medios documentaron una serie de respuestas problemáticas de My AI:
El chatbot respondió a un adolescente de 13 años con consejos sobre cómo preparar una cita romántica que involucraba alcohol, sin marcar que el consumo sería ilegal para esa edad.
Cuando se le preguntó cómo ocultar el olor a alcohol o a tabaco a los padres, dio consejos prácticos.
Cuando una usuaria menor explicó que tenía una relación con un adulto mayor, My AI no advirtió sobre los aspectos legales ni recomendó hablar con un adulto de confianza.
Snap respondió con actualizaciones de seguridad. El problema de fondo — una IA conversacional insertada sin consentimiento en la app de mensajería más usada por adolescentes — no desapareció con esas actualizaciones.
📌
Imposible de eliminar — el default más agresivo
My AI no puede eliminarse de la interfaz de Snapchat en la versión gratuita. Solo los usuarios de Snapchat+ (€3,99/mes) podían ocultarla en el momento del lanzamiento. Eso significa que todos los adolescentes con Snapchat tienen una IA de chat fija al principio de su lista de conversaciones, hayan querido o no.
💬
El contexto de confianza de la app de mensajería
My AI existe dentro de Snapchat — la app donde el adolescente habla con sus amigos más cercanos. Ese contexto de confianza se transfiere parcialmente al chatbot: las preguntas que un adolescente haría a My AI son diferentes de las que haría en Google, porque la app se siente como un espacio privado.
📍
Acceso a la ubicación
En 2023 se documentó que My AI podía inferir la ubicación aproximada del usuario a partir de conversaciones, incluso cuando el usuario no había compartido su ubicación explícitamente. Snap actualizó la política, pero el incidente reveló el nivel de acceso al contexto del usuario que tiene el chatbot.
27%
de los adolescentes que usan Snapchat han preguntado a My AI sobre temas que no comentarían con sus padres ni con adultos de confianza — incluyendo salud sexual, alcohol, drogas o relaciones secretas.
Common Sense Media, AI in Teen Social Apps 2024
My AI no es el chatbot más sofisticado ni el más peligroso. Es el que llegó a más adolescentes sin que nadie lo pidiera — insertado en la app que ya tenían, sin opción real de rechazarlo.
AIM-029👤 Aitana (14 años)
imagen pendiente · posición right
Globo de diálogo
“Le pregunto cosas a My AI que no le preguntaría a nadie. Total, es solo una IA.”
Escena
Aitana con el móvil en la habitación, conversación abierta con My AI. Las preguntas visibles en pantalla son sobre una situación con un chico de su clase que no sabe cómo gestionar
Lugar
Habitación de Aitana, noche. Luz de móvil. La intimidad de alguien que siente que está hablando sola aunque no lo está
Otros en la escena
El avatar de My AI en pantalla, respondiendo con tono amigable y casual
Tono / luz
La soledad de una adolescente buscando consejo en el lugar más accesible que tiene. Ni bueno ni malo — solo revelador
👀
Cómo reconocerlo
Hablar de My AI en términos de confianza — "le pregunto cosas que no le pregunto a nadie".
Usar My AI como primer recurso para preguntas sobre salud, relaciones o situaciones complicadas.
Defensividad inusual respecto al historial de conversaciones con My AI.
Decisiones o comportamientos que parecen venir de "consejos" que nadie de su entorno le ha dado.
Configuración recomendada
Verificar la configuración de My AI. Snapchat → perfil → Ajustes → Privacidad → My AI. Se puede limitar el acceso de My AI a la ubicación y revisar los datos que ha recopilado.
Snapchat+. La suscripción de pago (€3,99/mes) permite ocultar My AI de la lista de chats. No es una solución que los padres deban implementar sin explicar por qué — pero es la única forma de eliminar My AI de la interfaz visible.
La pregunta directa. "¿Qué le preguntas a My AI?" es una pregunta que los adolescentes no esperan de sus padres, porque la mayoría de padres no saben que existe. La respuesta puede ser reveladora — o puede abrir una conversación sobre qué tipo de preguntas merece una IA y cuáles merecen una persona real.
Cómo hablar de esto en casa
Habla de esto con tu hijo/a
"En Snapchat hay una IA de chat que se llama My AI. Está fijada al principio de tus conversaciones y puedes preguntarle lo que quieras. La IA no tiene los mismos filtros que una persona real — ha dado consejos problemáticos a adolescentes en el pasado. ¿Qué tipo de cosas le preguntas?"
Esta semana
Abre Snapchat con tu hijo y pregunta qué es ese avatar al principio de la lista de chats. Si no lo sabe, es una conversación de descubrimiento juntos. Si sí lo sabe, pregunta qué le suele preguntar. Ninguna de las dos respuestas es mala — las dos abren conversaciones útiles.
Newsletter semanal — gratis
Cada semana: una app como Snapchat My AI, explicada para padres
Análisis semanales de apps y mecanismos — con el guion exacto para hablar de ello con tus hijos esa misma semana. Sin algoritmo, sin datos guardados.