Berlin (dpa/tmn) – KI-generierte Inhalte wirken inzwischen oft so echt, dass man praktisch keine Chance hat, sie zu erkennen. Das kann weitreichende Folgen haben – meist negative.
Deshalb tritt am 2. August (Sonntag) der Artikel 50 der EU-KI-Verordnung – besser bekannt als AI-Act – in Kraft: Er schreibt vor, dass bestimmte von künstlicher Intelligenz (KI) erstelle Inhalte transparent gekennzeichnet werden müssen. Aber was genau – und von wem?
Die Verordnung betrifft keine Privatpersonen ...
Das Wichtigste vorneweg: Die Regelung betrifft keine Privatpersonen. Niemand muss KI-generierte Bilder, Songs, Videos, Audio-Files oder Texte kennzeichnen, die er oder sie privat ins Netz stellt oder dort teilt. Wenngleich dies natürlich sinnvoll sein kann, vor allem, wenn absehbar ist, dass der KI-Inhalt Täuschung oder Missverständnisse nach sich ziehen könnte.
Die EU-Kommisson erklärt aber in ihren Leitlinien zur KI-Verordnung, wer über was informieren muss, um Täuschung und Fehlinformationen zu bekämpfen und das öffentliche Vertrauen zu stärken. Dabei geht es um zwei Gruppen.
... aber Unternehmen, die Privatpersonen informieren müssen
Das sind als erste Gruppe Anbieter von KI-Systemen, also etwa Google, Meta oder OpenAI. Sie müssen ihre Systeme so gestalten, dass Nutzende informiert werden, wenn
- KI – etwa in Gestalt eines Chatbots – zum Einsatz kommt oder
- wenn sie mit KI erzeugte oder manipulierte Inhalte verbreiten, deren Herkunft sie zuverlässig überprüfen können.
Die Anbieter müssen diese KI-Inhalte technisch markieren, also etwa mit Wasserzeichen oder maschinenlesbaren Metadaten. Achtung: Für KI-Systeme, die zum Stichtag 2. August 2026 schon auf dem Markt waren, gilt eine Übergangsfrist bis zum 2. Dezember 2026.
Wer KI geschäftlich einsetzt, muss kennzeichnen
Und da ist die zweite Gruppe, die alle umfasst, die KI-Systeme geschäftlich betreiben, also jede Art von Unternehmung. Sie müssen Nutzende informieren, wenn sie diese folgenden KI-Situationen aussetzen:
- Emotionserkennung
- biometrische Kategorisierung
- Deepfakes, also täuschend echt wirkende Medien wie Videos oder Audio-Files, die mithilfe von KI erstellt oder stark verändert wurden.
- KI-generierter oder -manipulierter Text ohne menschliche Überprüfung oder redaktionelle Kontrolle, wenn dieser Angelegenheiten von öffentlichem Interesse behandelt.
Die Information über Deepfakes und ungeprüften KI-Text muss mittels klar gefasster und deutlich wahrnehmbarer Labels erfolgen. Achtung: Was vor dem Stichtag generiert worden ist, muss nicht mehr rückwirkend gekennzeichnet werden.
In Zukunft gilt: Keine Labels – hohe Geldbußen
Unternehmen, die sich nicht an die Regeln halten, drohen Geldbußen von bis zu 15 Millionen Euro oder bis zu drei Prozent ihres weltweiten Jahresumsatzes.
Für die Durchsetzung der Verordnung verantwortlich sind die nationalen Marktüberwachungsbehörden (in Deutschland die Bundesnetzagentur), das Europäische Amt für künstliche Intelligenz (für Systeme unter seiner Aufsicht) und die Europäischen Datenschutzbeauftragten (wenn EU-Institutionen Anbieter sind).
© dpa-infocom, dpa:260730-930-461490/1
