Zum Inhalt
CoVince logoCoVinceEuropäische Alternative Zurück zur europäischen Alternative
KI

KI-Verordnung, Artikel 50: Transparenz

CoVince11. November 20264 Min. Lesezeit

Eine Führungskraft liest am Fenster einen Bericht auf einem Tablet. Ablauf: KI erstellt, Kennzeichnung, Transparent.

Artikel 50 der europäischen KI-Verordnung (Verordnung 2024/1689) legt Transparenzpflichten für KI-Systeme fest, die mit Menschen interagieren, und für KI-generierte oder bearbeitete Inhalte. Menschen müssen wissen, dass sie mit einer KI sprechen, und generierte Inhalte müssen maschinenlesbar erkennbar sein.

Was Artikel 50 verlangt

  • Interaktion: Wer ein KI-System anbietet, das mit Menschen interagiert, muss dafür sorgen, dass diese wissen, dass sie es mit einer KI zu tun haben, sofern das nicht aus dem Kontext klar ist.
  • Generierte Inhalte: Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen die Ausgabe in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert kennzeichnen.
  • Deepfakes: Wer sie einsetzt, muss offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde.

Die Verordnung ist im August 2024 in Kraft getreten und wird schrittweise anwendbar. Die genauen Anwendungsdaten und etwaige Übergangsfristen werden in Europa noch angepasst. Verfolgen Sie daher den aktuellen Text und die Leitlinien der Europäischen Kommission.

CrewMate erstellt einen Plan, um einen Piloten live zu bringen, mit Namen und Terminen
Echter CoVince-Bildschirm mit Demodaten (Meridiaan B.V.).

Anbieter und Betreiber

Die Pflichten unterscheiden sich je nach Rolle. Ein Anbieter eines KI-Systems muss die Kennzeichnung technisch ermöglichen. Eine Organisation, die solche Inhalte veröffentlicht (der Betreiber), muss in bestimmten Fällen selbst offenlegen, dass etwas von einer KI erstellt wurde. Sorgen Sie also dafür, dass Sie wissen, welche Werkzeuge in Ihrer Organisation Inhalte erzeugen.

Was Sie jetzt regeln können

  1. Erfassen Sie, welche Werkzeuge KI-Inhalte erzeugen (Video, Audio, Bild, Text).
  2. Fragen Sie Ihre Anbieter, wie sie generierte Inhalte kennzeichnen.
  3. Wählen Sie bewusst, welches KI-Modell wofür genutzt wird, und halten Sie das fest.
  4. Vereinbaren Sie intern, wie Sie den KI-Einsatz für Empfänger sichtbar machen.

In CoVince erhalten KI-generierte Audio- und Videodateien eine maschinenlesbare Kennzeichnung in den Dateimetadaten. Ein sichtbares Label im Bild fügen wir nicht automatisch hinzu; wie Sie das gegenüber Empfängern gestalten, entscheiden Sie selbst. Mehr dazu in KI-generierte Inhalte kennzeichnen.

Beispiele aus dem Arbeitsalltag

  • Ein Chatbot auf Ihrer Website, der Fragen beantwortet: Besucher müssen wissen, dass sie mit einer KI sprechen.
  • Ein Schulungsvideo mit KI-generierter Stimme: Das Audio muss maschinenlesbar gekennzeichnet sein.
  • Ein KI-generiertes Bild, das ein echtes Ereignis zu zeigen scheint: Das verdient besondere Sorgfalt.

Verankern Sie es in Ihren Regeln

Beschreiben Sie in einer kurzen KI-Richtlinie, welche Werkzeuge erzeugen dürfen, wer freigibt, wie Sie Empfänger informieren und wo die Herkunft einer Datei nachzulesen ist. Wer vorab weiß, welches Modell wofür läuft, kann schneller antworten, wenn ein Kunde oder eine Aufsichtsbehörde danach fragt. Siehe auch Europäische KI-Modelle.

Ein Beispiel: die Kommunikationsabteilung einer Pflegeeinrichtung

Die Kommunikationsabteilung einer regionalen Pflegeeinrichtung produziert ein Informationsvideo für Patientinnen und Patienten. Eine KI-generierte Stimme liest den Text vor, und ein KI-Werkzeug erzeugt die Hintergrundbilder. Vor der Veröffentlichung geht das Team vier Fragen durch: Welche Teile wurden von einer KI erstellt, ist die Ausgabe maschinenlesbar gekennzeichnet, müssen Zuschauer es wissen (und wenn ja, wie sagen wir es, ohne das Video zu stören) und wer hat es freigegeben? Die Antwort wird in einer Zeile in der Projektakte festgehalten. Das kostet fünf Minuten und erspart später ein unangenehmes Gespräch.

Welches Modell, und warum es darauf ankommt

Transparenz betrifft nicht nur die Ausgabe, sondern auch die Kette dahinter: Welches Modell hat den Text oder das Bild erzeugt, und wo läuft es? In CoVince kann eine Organisation in der Modellauswahl europäische Modelle wählen, etwa Mistral AI (über den EU-Endpunkt) und Scaleway (Europa), sowie lokale Modelle. Das bedeutet nicht, dass alle KI in der EU läuft: Es ist eine Entscheidung, die Sie als Organisation treffen und dokumentieren.

Checkliste für Ihre KI-Richtlinie

  • Welche KI-Werkzeuge sind erlaubt, und für welche Aufgaben?
  • Wer gibt KI-generierte Inhalte vor der Veröffentlichung frei?
  • Wie und wann informieren Sie Empfänger, dass etwas von einer KI erstellt wurde?
  • Wo lässt sich die Herkunft einer Datei nachlesen?
  • Wer beantwortet Fragen von Kunden oder Aufsichtsbehörden dazu?

Was Artikel 50 nicht ist

Artikel 50 betrifft Transparenz, nicht die Frage, ob eine KI-Anwendung zulässig ist. Diese Frage ergibt sich aus den Risikoklassen der Verordnung, in denen manche Anwendungen verboten sind und andere als Hochrisiko zusätzliche Anforderungen erfüllen müssen. Ein Chatbot, der Kunden hilft, kann also unter Artikel 50 und je nach Funktion zusätzlich unter andere Regeln fallen. Prüfen Sie deshalb je Anwendung sowohl die Transparenzpflicht als auch die Risikoklasse und halten Sie beides fest. So vermeiden Sie, dass sich ein korrekt gekennzeichnetes Video als Anwendung herausstellt, die mehr verlangt, und Sie können Aufsichtsbehörden und Kunden eine nachvollziehbare Übersicht vorlegen.

Häufige Fehler

  • Denken, Artikel 50 gelte nur für KI-Anbieter und nicht für Organisationen, die veröffentlichen.
  • Ein sichtbares Label als Ersatz für die maschinenlesbare Kennzeichnung ansehen, oder umgekehrt.
  • Keinen Überblick haben, welche Abteilung welches KI-Werkzeug nutzt.

Was Sie am Montag tun können

Fragen Sie jede Abteilung, welche KI-Werkzeuge sie nutzt, um etwas zu erstellen, das nach außen geht. Tragen Sie die Antworten in eine Liste ein und klären Sie mit Ihrer Juristin oder Ihrem Juristen, welche Fälle unter Artikel 50 fallen. Eine Organisation mit diesem Überblick kann schnell reagieren, wenn sich Anwendungsdaten oder Leitlinien ändern. Dies ist allgemeine Information und keine Rechtsberatung, und eine Plattform macht Sie nicht von selbst konform.

Häufig gestellte Fragen

Was ist die KI-Verordnung?

Die Verordnung (EU) 2024/1689, das europäische Gesetz, das KI-Systeme risikobasiert regelt, mit Transparenzregeln in Artikel 50.

Müssen KI-Inhalte sichtbar gekennzeichnet werden?

Artikel 50 verlangt eine maschinenlesbare Kennzeichnung durch den Anbieter und in bestimmten Fällen eine Offenlegung durch den Veröffentlichenden. Prüfen Sie Ihre Situation mit Ihrer Juristin oder Ihrem Juristen.

Wann gelten die Regeln?

Anwendungsdaten und Übergangsfristen werden angepasst. Ziehen Sie den aktuellen Text der Europäischen Kommission zurate.

Unternimmt CoVince hier etwas?

Ja, KI-generiertes Audio und Video erhält eine maschinenlesbare Kennzeichnung in den Metadaten. Das ist eine Grundlage, keine Garantie, dass Ihre Organisation konform ist.

Kann ich in CoVince ein europäisches KI-Modell wählen?

Ja. In der Modellauswahl können Sie europäische Modelle (Mistral AI über den EU-Endpunkt, Scaleway) und lokale Modelle wählen. Es ist eine Wahl, nicht automatisch jede KI.

Wer ist verantwortlich, wenn eine Mitarbeiterin KI-Inhalte veröffentlicht?

Die Organisation, die veröffentlicht. Halten Sie in einer KI-Richtlinie fest, wer freigibt und wie Sie Empfänger informieren.