KI und Kinderschutz
Für die einen ist sie die Lösung zahlreicher Probleme, für andere eine gewaltige Gefahr: Künstliche Intelligenz (KI). Dieser Zwiespalt gilt auch für den kinderrechtlichen Blick auf KI. Die Politik tut sich schwer, KI zu regulieren.
Die EU gibt sich gerade einen Rahmen, der große Linien zieht um den Schutz der Demokratie und der freien Gesellschaft, um Wirtschaft und Verbraucher, Forschung und Sicherheit. Der Schutz von Kindern und Jugendlichen spielt in diesem Werk keine große Rolle. Aber in Deutschland hat eine intensive Debatte darüber begonnen, wie künftige Gesetze zum Kinder- und Jugendmedienschutz mit KI umgehen. Im Fokus steht ein Gutachten des Instituts für Europäisches Medienrecht (EMR) für die Kommission für Jugendmedienschutz (KJM). Das Thema: „Kinder- und Jugendmedienschutz und Künstliche Intelligenz – Herausforderung für den Jugendmedienschutz-Staatsvertrag (JMStV)?“. Wir haben mit dem Autor des Gutachtens, Dr. Jörg Ukrow, gesprochen. Er ist stellvertretender Direktor der Medienanstalt Rheinland-Pfalz.
Wir treffen uns am Rande einer Konferenz in Berlin. Eine Frage drängt sich hier auf: Welches ist die größte Sorge mit Blick auf KI? Dr. Ukrow reagiert bedächtig – die Auswahl ist groß. Aber die Antwort ist eindeutig: Die neue Qualität von Fake News und Desinformation kann unsere Demokratie gefährden. Es wird immer schwieriger, falsche von echten Bildern, Videos und Texten zu unterscheiden. Auf Platz 2 folgen die immer häufiger von KI generierten Darstellungen sexualisierter Gewalt gegen Kinder sowie pornografische Inhalte. Dabei werden oft Alltagsbilder und -videos aus dem Netz missbraucht – auch die von Kindern. Da liegt die nächste Frage auf der Hand:
Wieviel Zeit bleibt uns noch, den negativen Auswüchsen von KI Grenzen zu setzen?
Solche Entwicklungsprozesse sind schwer zu prognostizieren. Aber diese hier verlaufen tendenziell schneller als erwartet.
Die EU hat ihr KI-Gesetz („AI-Act“) auf den Weg gebracht. Berücksichtigt es auch Kinder- und Jugendmedienschutz?
Die Ansätze dazu im AI-Act sind leider überschaubar. Aber einzelne Regelungen weisen Bezüge zum Kinder- und Jugendmedienschutz auf, auch die starke Ausrichtung auf die Wahrung von Grundrechten. Denn die Grundrechte der EU haben ausdrücklich auch den Schutz Minderjähriger im Blick. Auch die Regelungen zu biometrischen Gesichtserkennungen sind mit Blick auf die Gewährleistung von Kinder- und Jugendmedienschutz durch Altersverifikationssysteme bedeutsam.
Wie lassen sich Chancen und Risiken von KI gesetzlich austarieren?
Förderung von und Schutz vor neuen Technologien sind immer wieder aufs Neue auszutarieren, wenn unsere Gesellschaft innovativ und kreativ, aber auch empathisch und fürsorglich sein und bleiben will. Es gilt: Was vor der Entwicklung von KI verboten war, bleibt es auch dann, wenn KI zum Einsatz kommt. Der sexuelle Missbrauch Minderjähriger in medialen Angeboten, insbesondere sogenannte Kinder- und Jugendpornografie, war, ist und bleibt in Deutschland absolut unzulässig. Dies gilt auch dann, wenn die Darstellungen durch KI geschaffen wurden.
Die Entwicklung ist rasant. Kann die Gesetzgebung da überhaupt mithalten?
Es gibt auch das Gebot des Bundesverfassungsgerichts, Fehlentwicklungen in der Medienordnung so rasch wie möglich gegenzusteuern, weil einmal eingetretene Fehlentwicklungen kaum rückholbar sind. Dies spricht dafür, Evaluierungen geltenden Rechts häufiger und schneller als bislang vorzunehmen und zugleich stärker nach der Methode „Versuch und Irrtum“ zu handeln. Dies setzt besonderen gesetzgeberischen Mut voraus. Allerdings scheint in Zeiten von Empörungswellen in sozialen Medien eher das Prinzip Vorsicht das Gebot politischen Agierens zu sein.
Medienkompetenz wird seit Jahren als Schlüssel zur Lösung des Problems betrachtet. Wie soll das bei KI klappen?
Nur ein Zusammenspiel von Medienregulierung und Vermittlung von Medienkompetenz verspricht einen bestmöglichen Kinder- und Jugendmedienschutz. Beide müssen dabei dynamisch fortentwickelt werden. Die klassische Medienkompetenzvermittlung bleibt wichtig. Aber sie muss um Aspekte der Förderung von Digital- und KI-Kompetenz angereichert werden.
Gesetze zum Kinder- und Jugendschutz berücksichtigen auch die Risiken, die durch digitale Interaktion entstehen. Welche Gefahren kommen durch KI hinzu?
Durch KI werden bisherige Risiken potenziert. Die Verletzung der Rechte von Kindern und Jugendlichen kann häufiger vorkommen und billiger werden. Die Trainingsdaten von KI haben bislang nicht die Perspektive des Schutzes Minderjähriger in Deutschland und der EU im Blick, sondern eher die Interessen Erwachsener in den USA und das totalitäre Weltbild der chinesischen Führung. Das spricht dafür, auch die Entwickler von KI auf einen effektiven Kinder- und Jugendmedienschutz zu verpflichten.
Sie warnen davor, dass KI mit Falschnachrichten und Blasenbildung die Demokratie untergräbt – und damit auch viele Kinderrechte in Frage stellt.
Auch KI und der Kinder- und Jugendmedienschutz müssen als Themen wahrgenommen werden, die für eine wehrhafte Demokratie bedeutsam sind. Wir brauchen nicht nur Datenschutz by design, sondern auch Jugendmedienschutz by design. Wer mit der Entwicklung von KI Geld verdient, sollte seiner Verantwortung für eine freiheitliche, demokratische und gemeinschaftsfähige Zukunft unserer Kinder Rechnung tragen müssen.
KI kann helfen, Risiken zu erkennen, Täter zu entlarven, das Netz sicherer zu machen – aber auch das muss reguliert werden. Welche roten Linien ziehen Sie?
Auch beim Einsatz von KI gilt der Verhältnismäßigkeitsgrundsatz. Der gute Zweck heiligt nicht jedes Mittel – auch nicht jedes KI-Mittel. Und auch beim Einsatz von KI gelten rechtsstaatliche Vorgaben wie zum Beispiel die Unschuldsvermutung. Die Grundrechts- und Grundwertebindung im AI-Act greift diesen Rechtsgedanken erfreulich auf. Social Scoring, wie es die chinesische Überwachungsdiktatur betreibt, ist in der EU durch den AI-Act untersagt. Auch dann, wenn dieses Scoring zum Beispiel die Unterbindung von potenziellem Kindesmissbrauch erleichtern könnte. Die EU bleibt auch im Zeitalter von KI eine Gemeinschaft der Freiheit und des Rechts – und das ist auch gut so.
Die Medienanstalten der Länder arbeiten an einem neuen JMStV; der wird sich auch mit KI befassen. Lassen Sie uns an ihren Ideen dazu teilhaben?
Dr. Marc Jan Eumann, Vorsitzender der KJM, hat sich bei der Präsentation des Gutachtens dafür ausgesprochen, dass KI-Anbieter in die jugendmedienschutzbezogene Verantwortung genommen werden. Diesen Ansatz hat auch das Gutachten. KI-Systeme sollten explizit in den Geltungsbereich des Jugendmedienschutz-Staatsvertrags (JMStV) aufgenommen werden. Ähnlich wie bei Telemedien, Games, Kinofilmen oder Rundfunk ist es dabei sinnvoll, Selbstkontrolleinrichtungen der Branche im Rahmen eines Systems regulierter Selbstregulierung einzubeziehen. Mit einem unabhängigen KI-Jugendschutzbeauftragten sollte zudem eine Ansprechperson existieren, die bei Entwicklung, Training sowie Anwendung von KI-Anwendungen einbezogen ist.
Joachim Türk, Vizepräsident Kinderschutzbund
