Kürzlich wurde entdeckt, dass zusätzliche Lerndaten für bildgenerierende KI online verkauft werden, um Bilder zu erstellen, die echten Minderjährigen ähneln. Unter diesen Daten wurden auch Daten ehemaliger japanischer Kinderschauspieler gefunden. Außerdem werden mit diesen Daten erstellte Bilder mit sexuellem Inhalt auf separaten Websites verkauft.

Bildgenerierende KI funktioniert, indem sie aus einer großen Menge visueller Daten lernt und so detaillierte Bilder einfach durch den Empfang von Textanweisungen generieren kann. Während es im Allgemeinen schwierig ist, Bilder zu erstellen, die bestimmten Personen ähneln, indem man nur ihre Namen eingibt, können einige KI-Systeme dies erreichen, indem sie zusätzliche Daten lernen, die als „LoRA&#8221“-Dateien bezeichnet werden.

Die Zeitung Yomiuri Shimbun identifizierte eine englischsprachige Website, die diese zusätzlichen Daten zu mehreren nationalen und internationalen Kinderkünstlern für etwa drei Dollar in Kryptowährung pro Datei verkauft. Es wurden auch Daten erwachsener Frauen zum Verkauf gefunden. Sexuelle Bilder japanischer Kinderdarsteller, die aus diesen Daten erstellt wurden, wurden auf einer anderen japanischen Website für mehrere hundert Yen verkauft.

Die Erstellung sexueller Bilder aus Daten von Kindern wirft ernsthafte rechtliche Bedenken auf. Nach Angaben des japanischen Justizministeriums ist es für die Anwendung des Gesetzes zum Verbot von Kinderpornografie erforderlich, dass das Opfer tatsächlich minderjährig ist. Während computergenerierte Bilder, die echten Minderjährigen ähneln, reguliert werden können, sagen Experten, dass KI-generierte Bilder möglicherweise nicht in diese Kategorie fallen, wenn sie den physischen Merkmalen echter Minderjähriger nicht vollständig ähneln, was eine Gesetzeslücke hinterlässt.

Takashi Nagase (長瀬貴志), ehemaliger Richter und Professor an der Universität Kanazawa, betont: „Der Missbrauch von KI und zusätzlichen Daten hat eine Verletzung der Kinderrechte offenbart. Es besteht die Gefahr, dass sich der Schaden unter der Oberfläche ausbreitet. Die Situation wird durch die geltenden Gesetze nicht abgedeckt, daher müssen spezielle Rechtsvorschriften zur Regulierung von KI-generierten sexuellen Bildern von Minderjährigen in Betracht gezogen werden.“.

Die Weiterentwicklung der KI-Technologie hat zahlreiche Vorteile mit sich gebracht, bringt aber auch ernsthafte ethische und rechtliche Herausforderungen mit sich. Die Möglichkeit, realistische Bilder von Minderjährigen mit unangemessenem Inhalt zu erzeugen, stellt eine ernsthafte Bedrohung für den Schutz der Kinderrechte dar. Es ist zwingend erforderlich, dass geeignete gesetzliche Maßnahmen ergriffen werden, um diesen neuen Formen der Ausbeutung entgegenzuwirken und sicherzustellen, dass die neuen Technologien nicht dazu verwendet werden, den Schwächsten zu schaden. Um diese Herausforderungen wirksam zu bewältigen, sind internationale Zusammenarbeit und die ständige Aktualisierung der Gesetze von entscheidender Bedeutung.

Quelle: Yaraon!

Der Beitrag „Lolis würden zum Fluch der KIs werden“ erschien zuerst auf Kudasai.