Corea del Sur busca criminalizar la pornografía con deepfakes de IA tras una absolución—¿desencadenará una ofensiva más amplia?

Corea del Sur se está moviendo para cerrar un vacío legal que permitía evitar sanciones por distribuir pornografía generada por IA con “personas” ficticias, después de que un tribunal absolviera a un acusado en un caso relacionado con deepfakes. Los legisladores están trabajando en enmiendas orientadas a que el contenido sexual de IA “ficticio” pueda ser procesado, en lugar de tratarlo como algo fuera de los estatutos existentes de obscenidad o de distribución de imágenes. El detonante fue una resolución en Goyang, en la provincia de Gyeonggi, donde se consideró no culpable a un hombre acusado de distribuir imágenes deepfake de mujeres desnudas a través de Telegram. El esfuerzo de política pública indica que los reguladores intentan ponerse al día con la capacidad de la IA generativa para crear imágenes sexuales no consentidas a gran escala. Geopolíticamente, el episodio encaja en una carrera más amplia en el Indo-Pacífico por regular los medios sintéticos, donde los marcos legales internos se están convirtiendo en un terreno estratégico para la confianza digital. El movimiento de Corea del Sur probablemente presione a otras jurisdicciones a aclarar si los deepfakes “ficticios” siguen constituyendo un daño, lo que podría reconfigurar la aplicación transfronteriza contra plataformas y distribuidores. La absolución también evidencia cómo las definiciones legales se quedan atrás frente a la tecnología, dando a los infractores una “salida” de cumplimiento hasta que las normas se actualicen. Si bien los beneficiarios inmediatos son las víctimas y los fiscales que buscan una mayor disuasión, los perdedores probables son las plataformas y los intermediarios que dependen de interpretaciones estrechas de la ley vigente. La implicación más amplia es que la gobernanza de la IA se tratará cada vez más como una regulación cercana a la seguridad nacional, y no solo como protección al consumidor. Las implicaciones de mercado y económicas son indirectas, pero relevantes para el cumplimiento, los servicios legales y el riesgo para plataformas. Si Corea del Sur amplía la responsabilidad penal por deepfakes sexuales generados por IA, podría aumentar los costos de moderación de contenidos, flujos de reporte y sistemas de detección automatizada, con un efecto arrastre hacia la demanda de herramientas de seguridad de IA y análisis forense de deepfakes. En paralelo, la historia de sanciones a Meta—donde un juez federal sancionó a Meta por destruir evidencia en un caso presentado por un multimillonario australiano—refuerza que las grandes firmas tecnológicas enfrentan una exposición legal y regulatoria en escalada en distintas jurisdicciones. Estos desarrollos pueden elevar las primas de riesgo para negocios de redes sociales y ad-tech en mercados donde la aplicación se endurece, mientras que favorecen a segmentos ligados a gobernanza, eDiscovery y cumplimiento de ciber/privacidad. No se señalan efectos directos sobre divisas o materias primas, pero el canal de riesgo regulatorio puede influir en el sentimiento bursátil y la volatilidad de plataformas globales. Lo que conviene vigilar a continuación es si el lenguaje legislativo de Corea del Sur cubre explícitamente las “personas ficticias”, el estándar probatorio para demostrar intención sexual no consentida y cómo tratarán los fiscales la distribución a través de aplicaciones de mensajería como Telegram. Un punto de activación clave será el avance del proyecto por comités y si incluye obligaciones de “safe harbor” o de retirada para intermediarios. Por separado, inversores y equipos de cumplimiento deberían seguir cómo los tribunales cuantifican las sanciones en el caso de destrucción de evidencia de Meta, ya que eso puede sentar precedentes sobre la severidad de la aplicación. Por último, el debate en Australia sobre una comisión real de IA en Australia del Sur sugiere una posible extensión de políticas hacia marcos nacionales, lo que podría acelerar la armonización de reglas de IA. La escalada se vería como una criminalización más amplia y sanciones más altas, mientras que la desescalada serían señales de excepciones, definiciones más claras o salvaguardas procesales más fuertes para los acusados.

Implicaciones Geopolíticas

• 01

  La gobernanza de la IA se está convirtiendo en un terreno regulatorio estratégico en el Indo-Pacífico.

• 02

  Las definiciones legales van por detrás de la IA generativa, creando vacíos de aplicación que los tribunales pueden cerrar.

• 03

  El aumento de sanciones por mala conducta procesal eleva el nivel de exigencia de cumplimiento para las tecnológicas globales.

Señales Clave

• —Redacción legislativa sobre “personas ficticias” e intención no consentida.
• —Avance en comités y si se incluyen deberes de safe-harbor/retirada.
• —Magnitud y razonamiento de la sanción a Meta por destrucción de evidencia.
• —Si la comisión de IA en Australia deriva en reglas nacionales vinculantes.