Recentemente, descobriu-se que dados adicionais de aprendizagem para IA geradora de imagens estão sendo vendidos na Internet para criar imagens que se assemelham a menores de idade reais. Entre esses dados, foram encontrados os de ex-atores infantis japoneses, e as imagens geradas com esses dados, que contêm conteúdo sexual, também estão sendo comercializadas em sites separados.

A IA geradora de imagens funciona aprendendo com uma grande quantidade de dados visuais, o que lhe permite gerar imagens detalhadas simplesmente recebendo instruções textuais. Embora geralmente seja difícil criar imagens que se assemelhem a pessoas específicas digitando apenas seus nomes, alguns sistemas de IA podem conseguir isso aprendendo dados adicionais, conhecidos como arquivos “LoRA&#8221”.

O jornal Yomiuri Shimbun identificou um site em inglês que vende esses dados adicionais sobre vários artistas infantis, nacionais e internacionais, a um preço de cerca de três dólares em criptomoedas por arquivo. Dados sobre mulheres adultas também foram encontrados para venda. Imagens sexuais geradas a partir desses dados de artistas infantis japoneses foram vendidas por várias centenas de ienes em outro site japonês.

A criação de imagens sexuais a partir de dados de crianças levanta sérias preocupações legais. De acordo com o Ministério da Justiça do Japão, a Lei de Proibição de Pornografia Infantil exige que a vítima seja realmente menor de idade para que a lei seja aplicada. Embora as imagens geradas por computador que se assemelham a menores reais possam ser regulamentadas, os especialistas dizem que as imagens geradas por IA podem não se enquadrar nessa categoria se não se assemelharem completamente às características físicas de menores reais, deixando uma lacuna na lei.

Takashi Nagase (長瀬貴志), ex-juiz e professor da Universidade de Kanazawa, ressalta que “o uso indevido de IA e de dados adicionais revelou uma violação dos direitos dos menores. Há um risco de que os danos se expandam sob a superfície. A situação não é coberta pelas leis atuais, portanto, é necessário considerar uma legislação específica para regulamentar as imagens sexuais de menores geradas por IA.“.

O avanço da tecnologia de IA trouxe inúmeros benefícios, mas também apresenta sérios desafios éticos e legais. A capacidade de gerar imagens realistas de menores com conteúdo inadequado destaca uma séria ameaça à proteção dos direitos das crianças. É imperativo que medidas legislativas apropriadas sejam implementadas para lidar com esses novos tipos de exploração e garantir que as tecnologias emergentes não sejam usadas para prejudicar os mais vulneráveis. A cooperação internacional e a atualização constante das leis serão essenciais para enfrentar esses desafios de forma eficaz.

Fonte: Yaraon!

O post Lolis se tornaria a ruína das IAs apareceu primeiro em Kudasai.