Recientemente, se descubrió que se están vendiendo en línea datos de aprendizaje adicionales para que la IA genere imágenes que se asemejen a menores reales. Entre estos datos se encontraron datos de ex actores infantiles japoneses, y también se venden en sitios web separados imágenes generadas con estos datos que contienen contenido sexual.

La IA generadora de imágenes funciona aprendiendo de una gran cantidad de datos visuales, lo que le permite generar imágenes detalladas simplemente recibiendo instrucciones de texto. Si bien generalmente es difícil crear imágenes que se asemejen a personas específicas escribiendo solo sus nombres, algunos sistemas de IA pueden lograrlo al aprender datos adicionales, conocidos como archivos "LoRA&#8221".

El periódico Yomiuri Shimbun identificó un sitio web en inglés que vende estos datos adicionales sobre varios artistas infantiles nacionales e internacionales por aproximadamente tres dólares en criptomonedas por archivo. También se encontraron datos de mujeres adultas a la venta. Imágenes sexuales de artistas infantiles japoneses generadas a partir de estos datos se vendieron por varios cientos de yenes en otro sitio web japonés.

La creación de imágenes sexuales a partir de datos de niños plantea graves problemas jurídicos. Según el Ministerio de Justicia de Japón, la Ley de Prohibición de la Pornografía Infantil exige que la víctima sea menor de edad para que la ley se aplique. Si bien las imágenes generadas por computadora que se asemejan a menores reales pueden ser reguladas, los expertos dicen que las imágenes generadas por IA pueden no caer en esa categoría si no se parecen completamente a las características físicas de menores reales, lo que deja un vacío en la ley.

Takashi Nagase (長瀬貴志), ex juez y profesor de la Universidad de Kanazawa, destaca que “El uso indebido de la IA y de datos adicionales ha revelado una violación de los derechos de los niños. Existe el riesgo de que el daño se extienda a niveles más profundos. La situación no está contemplada en las leyes actuales, por lo que se debería considerar una legislación específica para regular las imágenes sexuales de menores generadas por IA.“.

El avance de la tecnología de IA ha traído consigo numerosos beneficios, pero también presenta serios desafíos éticos y legales. La capacidad de generar imágenes realistas de menores con contenido inapropiado pone de relieve una grave amenaza a la protección de los derechos de los niños. Es imperativo que se implementen medidas legislativas apropiadas para abordar estos nuevos tipos de explotación y garantizar que las tecnologías emergentes no se utilicen para dañar a los más vulnerables. La cooperación internacional y la actualización constante de las leyes serán esenciales para abordar eficazmente estos desafíos.

Fuente: ¡Yaraon!

La publicación Las Lolis se convertirían en la pesadilla de las IA apareció primero en Kudasai.