Recientemente, se descubrió que se están vendiendo en línea datos de aprendizaje adicionales para que la IA genere imágenes que se asemejen a menores reales. Entre estos datos se encontraron los de ex actores infantiles japoneses, y las imágenes generadas con estos datos, que contienen contenido sexual, también están siendo comercializadas en sitios web separados.

La IA generadora de imágenes funciona aprendiendo de una gran cantidad de datos visuales, lo que le permite generar imágenes detalladas simplemente al recibir instrucciones textuales. Si bien generalmente es difícil crear imágenes que se asemejen a personas específicas escribiendo solo sus nombres, algunos sistemas de IA pueden lograrlo al aprender datos adicionales, conocidos como archivos “LoRA&#8221”.

El periódico Yomiuri Shimbun identificó un sitio web en inglés que vende estos datos adicionales sobre varios artistas infantiles nacionales e internacionales a un precio de alrededor de tres dólares en criptomonedas por archivo. También se encontraron a la venta datos de mujeres adultas. Las imágenes sexuales de niños artistas japoneses generadas a partir de estos datos se vendieron por varios cientos de yenes en otro sitio web japonés.

La creación de imágenes sexuales a partir de datos de niños plantea graves problemas jurídicos. Según el Ministerio de Justicia de Japón, la Ley de Prohibición de la Pornografía Infantil exige que la víctima sea menor de edad para que se aplique la ley. Si bien las imágenes generadas por computadora que se asemejan a menores reales pueden ser reguladas, los expertos dicen que las imágenes generadas por IA pueden no caer en esa categoría si no se parecen completamente a las características físicas de menores reales, lo que deja un vacío en la ley.

Takashi Nagase (長瀬貴志), ex juez y profesor de la Universidad de Kanazawa, destaca que “El mal uso de la IA y de datos adicionales reveló una violación de los derechos de los menores. Existe el riesgo de que el daño se extienda bajo la superficie. La situación no está contemplada en las leyes actuales, por lo que se debería considerar una legislación específica para regular las imágenes sexuales de menores generadas por IA.“.

El avance de la tecnología de IA ha traído consigo numerosos beneficios, pero también presenta serios desafíos éticos y legales. La capacidad de generar imágenes realistas de menores con contenido inapropiado pone de relieve una grave amenaza para la protección de los derechos de los niños. Es imperativo que se implementen medidas legislativas apropiadas para abordar estos nuevos tipos de explotación y garantizar que las tecnologías emergentes no se utilicen para dañar a los más vulnerables. La cooperación internacional y la actualización constante de las leyes serán esenciales para abordar eficazmente estos desafíos.

Fuente: ¡Yaraon!

La publicación Las Lolis se convertirían en la pesadilla de las IA apareció primero en Kudasai.