En un mundo cada vez más digitalizado, Alemania ha tomado la iniciativa para establecer un marco legal específico contra uno de los fenómenos más preocupantes de la era de la inteligencia artificial: los deepfakes. Esta tecnología, que permite crear o manipular contenido audiovisual de manera hiperrealista, plantea desafíos sin precedentes para la protección de los derechos individuales y la integridad de la información pública.
El Bundesrat (Consejo Federal alemán) aprobó en julio de 2024 un proyecto de ley pionero titulado «Ley para la protección penal de los derechos de personalidad frente a los deepfakes» (Gesetz zum strafrechtlichen Schutz von Persönlichkeitsrechten vor Deepfakes, https://dserver.bundestag.de/btd/20/126/2012605.pdf ), que busca establecer mecanismos concretos de protección legal ante este fenómeno creciente.
Contexto legislativo y proceso parlamentario
La iniciativa legislativa fue presentada originalmente por el estado federado de Baviera el 14 de mayo de 2024 (BR-Drucksache 222/24). Tras su presentación, el proyecto fue sometido a la consideración de varios comités del Bundesrat:
- Comité de Asuntos Jurídicos (como comité principal)
- Comité de Mujeres y Juventud
- Comité de Asuntos Internos
En la sesión plenaria del Bundesrat del 17 de mayo de 2024 (BR-Plenarprotokoll 1044), el Dr. Florian Herrmann, Ministro de Estado para Asuntos Federales y Medios de Comunicación de Baviera, presentó la iniciativa. Posteriormente, el 5 de julio de 2024, en su sesión 1046, el Bundesrat aprobó la propuesta y, conforme al artículo 76, párrafo 1 de la Ley Fundamental alemana, la envió al Bundestag (parlamento federal).
El 21 de agosto de 2024, el proyecto fue oficialmente presentado ante el Bundestag como BT-Drucksache 20/12605, incluyendo una opinión del Gobierno Federal. Sin embargo, el proceso legislativo no pudo completarse antes del final de la 20ª legislatura, por lo que el proyecto quedó pendiente.
¿Qué son los deepfakes y por qué son peligrosos?
Los deepfakes son contenidos mediáticos creados o alterados mediante inteligencia artificial y tecnología computacional que imitan de manera realista la apariencia, comportamiento o voz de una persona. A diferencia de las manipulaciones tradicionales, los deepfakes actuales son increíblemente sofisticados y difíciles de detectar sin herramientas especializadas.
La propuesta legislativa identifica tres áreas principales de riesgo asociadas con los deepfakes:
1. Desinformación y manipulación política
Los deepfakes pueden utilizarse para crear campañas de desinformación creíbles, particularmente mediante la manipulación de contenido que involucra a figuras públicas. Estos contenidos falsos pueden influir en procesos democráticos e interferir en la formación de la opinión pública. La ley señala casos en el extranjero donde esta técnica se ha utilizado en contextos electorales para desacreditar a oponentes políticos.
2. Fraude económico y estafas
El proyecto destaca el uso de material audiovisual generado artificialmente para fines fraudulentos, particularmente:
- «Llamadas de shock»: Donde los delincuentes simulan ser familiares en situaciones de emergencia utilizando software de clonación de voz.
- «CEO/CFO Fraud»: Estafas donde empleados son engañados mediante llamadas o videoconferencias falsas que imitan a ejecutivos de la empresa para autorizar transferencias fraudulentas.
3. Violaciones a la privacidad y derechos de personalidad
Esta categoría, principal motivación de la ley, abarca casos donde el contenido manipulado viola gravemente los derechos de personalidad. Particularmente preocupantes son los «deepnudes», donde principalmente mujeres y niñas son colocadas en contextos sexuales no consentidos mediante la manipulación de imágenes originales no sexuales.
El proyecto menciona que más del 90% de los deepfakes en internet están relacionados con pornografía, afectando casi exclusivamente a mujeres. Un caso específico mencionado en la propuesta involucra a más de 20 niñas en España que recibieron fotos manipuladas de ellas mismas desnudas, creadas a partir de imágenes inocentes tomadas de sus cuentas de Instagram.
Contenido principal de la propuesta legislativa
Nueva tipificación penal específica
La ley propone añadir una nueva sección al Código Penal alemán (§201b StGB) titulada «Violación de derechos de personalidad mediante falsificación digital». Los elementos clave de esta tipificación incluyen:
- Tipo básico (§201b párrafo 1): Penaliza a quien «viole el derecho de personalidad de otra persona, haciendo accesible a un tercero un contenido mediático creado o alterado por medios informáticos que dé la impresión de ser una grabación auténtica de la apariencia, comportamiento o declaraciones orales de esa persona». Este delito se castigaría con pena de prisión de hasta dos años o multa.
- Protección póstuma: Extiende la protección a personas fallecidas cuando la violación del derecho de personalidad es grave.
- Tipo agravado (§201b párrafo 2): Prevé penas de hasta cinco años de prisión cuando:
- El contenido se hace accesible al público en general
- El contenido afecta a la esfera más íntima de la vida privada
- Excepciones (§201b párrafo 3): Establece que la disposición no se aplica a actos realizados en ejercicio de intereses legítimos predominantes, particularmente para fines artísticos, científicos, de investigación, docencia, información sobre eventos actuales o históricos, o propósitos similares.
- Decomiso (§201b párrafo 4): Permite el decomiso de los soportes de imagen o sonido u otros medios técnicos utilizados para cometer el delito.
Modificaciones complementarias
La propuesta también incluye modificaciones a otras disposiciones para integrar coherentemente el nuevo delito:
- Modificación del §205 StGB: Establece que la persecución del delito requiere, por regla general, una denuncia formal de la parte afectada, aunque también puede ser perseguido de oficio cuando existe un interés público especial.
- Modificación de la Ley de Procedimiento Penal:
- Inclusión del nuevo delito en §100k, permitiendo la recopilación de datos de uso en investigaciones
- Modificación del §374, permitiendo la acusación privada para este delito
Fundamentos jurídicos de la propuesta
El proyecto se basa en una interpretación amplia del derecho general de la personalidad, protegido por los artículos 2.1 y 1.1 de la Ley Fundamental alemana. Cita jurisprudencia del Tribunal Constitucional Federal alemán que ya en 2005 reconocía que:
«La imagen fotográfica transmite información sobre la persona fotografiada sin usar palabras. Las fotos sugieren autenticidad, y los espectadores asumen que la persona representada se ve así en realidad. Esta suposición, sin embargo, no es cierta en el caso de una manipulación de imagen que altera la apariencia… La persona titular del derecho de personalidad tiene derecho a que una imagen fotográfica no esté distorsionada de manera manipuladora cuando se hace accesible a terceros sin el consentimiento del retratado.»
La propuesta argumenta que el marco legal existente es insuficiente para abordar adecuadamente la problemática de los deepfakes, ya que las disposiciones actuales (como §201 StGB sobre confidencialidad de la palabra, §201a StGB sobre violación de la intimidad mediante imágenes, o leyes de derechos de autor) solo cubren aspectos parciales del fenómeno o están sujetas a interpretaciones divergentes.
Reacciones y postura del gobierno federal
El gobierno federal alemán, en su posición incluida en la propuesta presentada al Bundestag, reconoció la seriedad del fenómeno de los deepfakes pero señaló que el marco legal existente ya permite la persecución de la distribución de deepfakes abusivos en diversas configuraciones, particularmente mediante los delitos de calumnia (§187 StGB) y violación de la privacidad y derechos de personalidad mediante imágenes (§201a párrafo 2 StGB).
Además, expresó preocupaciones sobre la formulación del elemento «viola el derecho de personalidad de otra persona» en la propuesta, cuestionando si esta formulación cumple adecuadamente con el principio de determinación legal (artículo 103, párrafo 2 de la Ley Fundamental).
Iniciativas complementarias
Junto con la propuesta legislativa, el Bundesrat aprobó una resolución solicitando al gobierno federal:
- Iniciar y apoyar programas para promover el desarrollo e implementación de tecnologías para detectar y marcar deepfakes
- Evaluar regularmente la implementación de leyes que regulan el uso de IA, incluidos los deepfakes
- Establecer un punto de contacto central para asesorar a las PYMES sobre la detección y marcado de deepfakes
En marzo de 2025, el gobierno federal respondió a esta resolución indicando que ya está apoyando proyectos para la detección y el marcado de deepfakes, como el concurso de innovación «SPRIND Funke Deepfake Detection and Prevention» lanzado por la Agencia Federal para Innovaciones Disruptivas. También señaló que la evaluación regular está prevista en el Reglamento de IA de la UE, y que la elaboración de la ley nacional para la implementación de dicho reglamento está en curso.
Contexto europeo y global
Esta iniciativa alemana se enmarca en un contexto más amplio de regulación de la IA a nivel europeo. El proyecto menciona la próxima Directiva europea para combatir la violencia contra las mujeres y la violencia doméstica, que incluirá disposiciones sobre el intercambio no consensuado de material íntimo o manipulado.
Asimismo, el Reglamento de IA de la UE, mencionado en la respuesta del gobierno federal a la resolución del Bundesrat, contempla obligaciones de transparencia para los deepfakes.
Conclusión
La propuesta alemana para regular los deepfakes representa un paso significativo hacia la protección de derechos fundamentales en la era digital. Aunque el proyecto no pudo completar su trámite legislativo en la 20ª legislatura, establece un precedente importante y un marco conceptual detallado que probablemente influirá en futuras iniciativas legislativas, tanto en Alemania como en otros países.
El enfoque específico en la protección de los derechos de personalidad ante las nuevas amenazas planteadas por la inteligencia artificial refleja la necesidad de adaptar continuamente el marco legal a las realidades tecnológicas emergentes. La iniciativa reconoce que, si bien la IA ofrece oportunidades sin precedentes, también requiere salvaguardas legales para prevenir su uso malicioso.
La evolución de este debate legislativo será fundamental para determinar cómo las sociedades democráticas encuentran el equilibrio entre fomentar la innovación tecnológica y proteger los derechos fundamentales de sus ciudadanos en un mundo cada vez más digitalizado.
