Qué leyes espanolas se aplican a las aplicaciónes de AI girlfriend?
Tres marcos normativos regulan las aplicaciónes de AI companion para los usuarios en España: el RGPD (Reglamento General de Protección de Datos), el AI Act de la UE y la LOPDGDD (Ley Organica de Protección de Datos y Garantia de los Derechos Digitales). Ninguna ley espanola prohibe el uso de estos servicios. La legislación se dirige principalmente a las plataformas (recogida de datos, transparencia, publicidad), no a los usuarios individuales que chatean con IA.
España no tiene una ley específica sobre AI companions y no existen propuestas públicas para introducir una. El debate en las Cortes se ha centrado hasta ahora en la IA en el ambito laboral, la sanidad y la educacion. Las aplicaciónes de AI companion quedan bajo la legislación vigente de consumo y protección de datos sin regulación específica.
El panorama jurídico es relevante para los usuarios espanoles por dos razones: tienes derechos específicos sobre tus datos que las plataformas deben respetar, y las plataformas tienen obligaciones hacia ti que no siempre cumplen plenamente.
Cómo afecta el AI Act de la UE a las aplicaciónes de AI girlfriend?
El AI Act de la UE, que entro en vigor en 2024 con implementacion gradual hasta 2026, clasifica los sistemas de IA en cuatro niveles de riesgo: riesgo inaceptable, riesgo alto, riesgo limitado y riesgo mínimo. Las aplicaciónes de AI companion se encuadran principalmente en la categoria de “riesgo limitado” con requisitos de transparencia específicos que afectan a como las plataformas deben informarte.
Qué requisitos concretos impone el AI Act a las aplicaciónes de AI girlfriend?
El AI Act exige que las plataformas que proporcionan sistemas de IA para interacción con personas informen claramente al usuario de que esta comúnicandose con IA, no con una persona real. Este requisito se denomina obligacion de transparencia (articulo 50) e implica que la plataforma no puede dar la impresion de que la conversación tiene lugar con una persona real.
Todas las plataformas de nuestra lista cumplen este requisito básico: Character.AI, Candy AI, Replika, Nomi AI, Kupid AI y HeraHaven se identifican claramente como servicios de IA. Ninguna plataforma intenta ocultar que las conversaciónes se realizan con inteligencia artificial. No obstante, la claridad varia: algunos servicios tienen la información enterrada en los terminos de uso en lugar de destacarla en la interfaz.
El AI Act también exige que el contenido generado por IA (imagenes, voz) se marque claramente como creado por IA. Esto afecta a la generación de imagenes de Candy AI y Nomi AI, que deben identificarse como imagenes generadas por IA. En la práctica, este marcado existe en los metadatos pero no siempre es visible para el usuario.
Qué implica la clasificacion de riesgo en la práctica?
“Riesgo limitado” significa que las aplicaciónes de AI companion no estan sujetas a los requisitos estrictos que se aplican a la IA de alto riesgo (como la identificación biometrica, la evaluación crediticia, la contratacion o el diagnostico medico). Las plataformas deben ser transparentes pero no necesitan someterse a auditorias de terceros, registrarse en la base de datos de IA de la UE ni cumplir estandares técnicos de fiabilidad.
Si una aplicación de AI companion afirmase poder diagnosticar problemas de salud mental, dar asesoramiento medico o funciónar como herramienta terapeutica, podria reclasificarse como IA de alto riesgo con requisitos considerablemente más estrictos. Ninguna plataforma de nuestra lista hace tales afirmaciones, aunque Replika se comercializa con enfasis en el apoyo emocional. El límite entre “apoyo emocional” (riesgo limitado) e “intervencion psicologica” (alto riesgo) es jurídicamente difuso y podria ser objeto de litigio.
Qué sanciones arriesgan las plataformas que incumplan el AI Act?
El AI Act específica sanciones en tres niveles: hasta 35 millones de euros o el 7% de la facturación global por el uso de sistemas de IA prohibidos, hasta 15 millones de euros o el 3% por incumplimiento de otros requisitos, y hasta 7,5 millones de euros o el 1% por información incorrecta. Las sanciones son proporcionadas y graduales, siguiendo un modelo similar al del RGPD.
Qué derechos te otorga el RGPD como usuario de AI girlfriend?
El RGPD otorga a los usuarios en España seis derechos concretos frente a las plataformas de AI companion, independientemente de donde tenga su sede la plataforma. Los derechos se aplican automáticamente: no necesitas “elegir” activamente la protección del RGPD.
Cómo solicitas todos los datos que una plataforma almacena sobre ti?
Envia un correo electrónico al delegado de protección de datos (DPO) o al soporte de la plataforma y haz referencia al articulo 15 del RGPD (derecho de acceso). La plataforma dispone de 30 dias para responder. La solicitud debe resultar en una copia completa de todos los datos personales: datos de la cuenta, historial completo de conversaciónes, información de pago, direcciónes IP, datos de comportamiento y cualquier perfil elaborado a partir de tus conversaciónes.
Character.AI y Replika tienen procesos documentados a través de la configuración de sus cuentas con exportaciones de datos descargables. Candy AI, Nomi AI y Kupid AI gestionan las solicitudes por correo electrónico a sus equipos de soporte. No esperes nunca más de 30 dias: si la plataforma no responde, puedes denunciar ante la AEPD (Agencia Espanola de Protección de Datos).
La forma en que las plataformas gestionan los datos técnicamente se describe en la guia sobre seguridad de AI girlfriend, incluyendo estandares de cifrado y riesgos de privacidad.
Cómo eliminas todos tus datos de forma permanente?
El articulo 17 del RGPD (“derecho al olvido”) te da derecho a solicitar la eliminación de todos los datos personales. Contacta con el soporte de la plataforma y haz referencia explícita al articulo 17. El plazo de tramitacion varia entre 7 y 30 dias. La plataforma puede conservar ciertos datos si tiene base legal, por ejemplo, la obligacion de conservacion contable de las transacciónes de pago (normalmente se conservan 7 anos según la legislación mercantil).
Limitacion importante: los datos ya útilizados para el entrenamiento de modelos de IA pueden ser prácticamente imposibles de separar y eliminar. Si tus conversaciónes ya se han integrado en los datos de entrenamiento de la plataforma, permanecen como parte de los parametros del modelo, incluso si tu cuenta se elimina. Esta es una limitación conocida en la industria de la IA y aun no se ha litigado en España.
Qué otros derechos del RGPD son relevantes?
Además del acceso (articulo 15) y la supresion (articulo 17), tienes derecho a: rectificacion de datos inexactos (articulo 16), limitación del tratamiento (articulo 18), portabilidad de datos en formato legible por maquína (articulo 20) y oposicion al tratamiento basado en interés legítimo (articulo 21).
El derecho a la portabilidad de datos (articulo 20) es especialmente interésante: te da derecho a obtener tus datos en un formato estructurado y legible por maquína que teoricamente podrias importar a otro servicio. En la práctica, las plataformas de AI companion carecen de formatos de importacion compatibles, pero el derecho te da control sobre tus propios datos.
Cómo afecta la legislación espanola de protección al consumidor a las aplicaciónes de AI girlfriend?
La LOPDGDD y la Ley de Servicios de la Sociedad de la Información (LSSI) exigen que la publicidad de estos servicios en España sea transparente, veraz y no enganosa. La ley se aplica a toda publicidad dirigida a consumidores espanoles independientemente de donde se encuentre el anunciante.
Qué metodos publicitarios específicos estan prohibidos?
Tres metodos publicitarios pueden infringir la legislación espanola en el contexto de las aplicaciónes de AI companion:
- Afirmaciones enganosas sobre las capacidades de la IA: Afirmaciones como “ella te entiende de verdad” o “IA con sentimientos reales” pueden considerarse enganosas si dan la impresion de que la IA tiene conciencia o emociones genuinas.
- Declaraciones de salud falsas: Publicidad como “reduce la ansiedad con tu AI companion” o “terapia con IA que funcióna” sin respaldo cientifico vulnera las normas básicas de la ICC para la publicidad.
- Publicidad encubierta: Las colaboraciones con influencers y las resenas patrocinadas que no se marquen claramente como publicidad vulneran la LSSI. Las públicaciones en redes sociales sobre aplicaciónes de AI companion deben marcarse como “publicidad” o “colaboracion” si el autor ha recibido compensación.
Se aplica la legislación espanola a plataformas extranjeras?
Si, la legislación espanola de protección al consumidor se aplica a toda publicidad dirigida a consumidores espanoles independientemente de donde tenga su sede la empresa. Una plataforma estadounidense como Character.AI queda incluida si su publicidad se dirige a usuarios espanoles, por ejemplo mediante anuncios en espanol o publicidad segmentada basada en geolocalizacion espanola.
En la práctica, la supervision es limitada para plataformas sin presencia fisica en España. Las autoridades de consumo pueden emitir requerimientos, pero la ejecucion contra empresas estadounidenses requiere cooperacion internacional. La Red de Cooperacion en materia de Protección del Consumidor (CPC) de la UE proporciona a las autoridades de supervision de los estados miembros herramientas para la supervision transfronteriza.
Cómo te proteges jurídicamente como usuario en España?
Cuatro medidas te proporcionan la mejor protección jurídica posible:
- Documenta: Guarda capturas de pantalla de las condiciones de uso, precios y políticas de privacidad al registrarte. Las condiciones pueden cambiar y tu versión en el momento del registro es la que se aplica a tu período.
- Solicita exportaciones de datos regularmente: Al menos una vez cada seis meses, solicita una exportacion completa conforme al articulo 15 del RGPD. Esto crea una documentacion de lo que la plataforma almacena.
- Ten en cuenta la jurisdiccion: Las plataformas estadounidenses (Character.AI, Candy AI, Replika) pueden tener condiciones de uso que remitan los litigios a tribunales estadounidenses. La legislación de consumo de la UE te da, no obstante, derecho a demandar en tu pais de residencia.
- Denuncia las infracciónes: Si sospechas una infracción del RGPD, denuncia ante la AEPD (aepd.es). Si sospechas publicidad enganosa, denuncia ante la Dirección General de Consumo.
Una comparación de todos los precios de AI girlfriend te ayuda a comparar los servicios antes de compartir datos personales.
