Was Artikel 50 tatsächlich besagt

Dieser Leitfaden ist keine Rechtsberatung. Er führt Absatz für Absatz durch den tatsächlichen Wortlaut von Artikel 50 der KI-Verordnung der EU, übersetzt in die Sprache von Website-Betreibern. Wo wir zitieren, zitieren wir die Verordnung. Wo wir auslegen, sagen wir es.

Warum man den Originaltext überhaupt lesen sollte

Das meiste, was über die KI-Offenlegungspflichten kursiert, ist die Zusammenfassung einer Zusammenfassung, und jede Schicht schleift eine Nuance ab, auf die es ankam. Artikel 50 umfasst sieben Absätze. Sie können die wesentlichen Teile in zehn Minuten lesen und wissen danach, welche der selbstbewussten Behauptungen in Ihrem Feed zutreffen, welche halbwahr sind und welche der Newsletter von jemandem sind, der Ihnen Angst machen will. Hier ist der gesamte Artikel, Absatz für Absatz.

Absatz 1: Informieren Sie Personen, wenn sie mit einer Maschine sprechen

Die Verordnung verlangt, dass KI-Systeme, „die für die direkte Interaktion mit natürlichen Personen bestimmt sind“, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen „informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist … offensichtlich“.

Bedeutung: Chatbots müssen sagen, dass sie Chatbots sind. Das ist eine Pflicht des Anbieters des Systems, Ihr Chat-Widget-Anbieter trägt also die Gestaltungspflicht. Für Website-Betreiber ist die ehrliche Lesart einfacher: Prüfen Sie, ob Ihr Chatbot sich als solcher vorstellt. Die Ausnahme „es sei denn, dies ist … offensichtlich“ deckt den Roboter ab, der erkennbar ein Roboter ist; sie deckt nicht das Support-Widget mit menschlichem Namen und Stock-Foto ab.

Absatz 2: die maschinenlesbare Kennzeichnung

Anbieter von KI-Systemen, die „synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen“, müssen sicherstellen, dass die Ausgaben „in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind“.

Bedeutung: Die KI-Unternehmen müssen kennzeichnen, was ihre Modelle erzeugen, auf Dateiebene, damit Software es erkennt. Beachten Sie, wen das bindet: den Anbieter, nicht Sie. Und beachten Sie, was es ist: maschinenlesbar. Dieser Absatz ist der Grund, warum es Content Credentials gibt, und er ist auch der Grund, warum Metadaten allein die späteren Pflichten des Artikels nie erfüllen, denn bei denen geht es darum, was Menschen sehen. Zwei verschiedene Ebenen, zwei verschiedene Zielgruppen.

Absatz 3: Emotionserkennung und biometrische Systeme

Betreiber eines Emotionserkennungssystems oder eines Systems zur biometrischen Kategorisierung informieren die davon betroffenen natürlichen Personen über den Betrieb des Systems. Wenn Ihre Website weder Gesichter analysiert noch auf Gefühle schließt, ist dieser Absatz nicht Ihr Problem, und wir erwähnen ihn nur, damit Sie wissen, dass nichts Relevantes übersprungen wird.

Absatz 4, erster Teil: Deepfakes

Das ist der Absatz, auf den es bei Bildmaterial am meisten ankommt. Betreiber eines KI-Systems, „das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden“.

Ein Deepfake ist im Sinne der Verordnung ein KI-Inhalt, der echten Personen, Gegenständen, Orten oder Ereignissen ähnelt und fälschlicherweise als echt erscheinen würde. Diese Definition deckt das generierte Teamfoto und das gerenderte Bild der Geschäftsräume bequem mit ab, nicht nur den Gesichtertausch bei Prominenten. Die Pflicht liegt beim Betreiber – für Inhalte auf Ihrer Website heißt das: bei Ihnen.

Es gibt eine Erleichterung: Ist der Inhalt Teil eines „offensichtlich künstlerischen, kreativen, satirischen, fiktionalen“ oder analogen Werks, beschränkt sich die Pflicht darauf, das Vorhandensein der erzeugten Inhalte „in geeigneter Weise offenzulegen, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt“. Ehrlichkeit ohne Warnaufkleber. Das entscheidende Wort ist „offensichtlich“, und beurteilt wird es vom Stuhl des Besuchers aus, nicht von Ihrem.

Was Sie in diesem Teil nirgends finden: eine Ausnahme für menschliche Überprüfung. Es gibt keine. Bilder lassen sich nicht aus der Pflicht heraus überprüfen. Unser Leitfaden zu Bildern gibt es wegen dieses einen Satzes.

Absatz 4, zweiter Teil: KI-Text zur Information der Öffentlichkeit

Betreiber eines KI-Systems, „das Text erzeugt oder manipuliert, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, müssen offenlegen, dass der Text künstlich erzeugt oder manipuliert wurde“.

In diesem Satz stecken zwei Grenzen. Der Text muss veröffentlicht werden, um die Öffentlichkeit zu informieren, und es muss um Angelegenheiten von öffentlichem Interesse gehen. Ihr mit KI entworfener Ratgeber zu Mieterrechten liegt innerhalb beider Grenzen. Ihr eigenes Unternehmen, das sich selbst beschreibt, liegt am äußeren Rand, weshalb unsere eigene Empfehlung lautet: Die Selbstdarstellung trägt ein geringeres Risiko, ein einzeiliger Offenlegungshinweis erkauft trotzdem Ruhe.

Dann kommt die praktischste Ausnahme der gesamten Verordnung. Die Pflicht gilt nicht, „wenn die durch KI erzeugten Inhalte einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und wenn eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt“.

Lesen Sie die tragenden Wörter. „einem Verfahren … unterzogen wurden“: etwas, das tatsächlich stattgefunden hat, mit Schritten, nicht das Gefühl, kurz daraufgeschaut zu haben. „menschlichen Überprüfung oder redaktionellen Kontrolle“: Eine Person hat sich mit dem Inhalt befasst. „die redaktionelle Verantwortung … trägt“: Jemand Identifizierbares steht dahinter. Erfüllen Sie alle drei, braucht Ihr überprüfter KI-Text keinen Offenlegungshinweis. Die ungeschriebene vierte Anforderung ist die praktische: Wenn jemand fragt, ob das Verfahren stattgefunden hat, brauchen Sie mehr als Ihr Wort. Eine Überprüfung ohne Eintrag ist beweisrechtlich keine Überprüfung. Wer den Rest dieser Website liest, wird in diesem Satz unser gesamtes Geschäftsmodell wiedererkennen; wägen Sie unsere Begeisterung entsprechend ab, lesen Sie den Absatz dann selbst und prüfen Sie, ob wir falsch liegen.

Absatz 5: Art und Zeitpunkt der Offenlegung

Sämtliche nach den Absätzen 1 bis 4 erforderlichen Informationen werden „den betreffenden natürlichen Personen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt“ und müssen den geltenden Barrierefreiheitsanforderungen entsprechen.

Bedeutung: Der Offenlegungshinweis muss dort stehen, wo die Person ihm tatsächlich begegnet, und zwar bis zu dem Zeitpunkt, an dem sie dem Inhalt begegnet. Für eine Seite im Web heißt das: auf der Seite, beim Inhalt, sichtbar ohne Ausgrabungsarbeiten. Dieser eine Satz erledigt den Footer-Hinweis, die versteckte Richtlinienseite und den reinen Metadaten-Ansatz in einem Zug.

Absätze 6 und 7: Rahmenbestimmungen

Absatz 6 sagt, dass diese Transparenzpflichten neben den übrigen Pflichten der Verordnung und neben sonstigem Unionsrecht oder nationalem Recht stehen und diese nicht ersetzen. Absatz 7 beauftragt das Büro für Künstliche Intelligenz damit, Praxisleitfäden für die Feststellung und Kennzeichnung erzeugter Inhalte zu fördern, die die Kommission genehmigen oder andernfalls durch Durchführungsvorschriften ersetzen kann. Dieser Apparat läuft bereits: Die Kommission hat im Juli 2026 abschließende Leitlinien zu diesen Pflichten veröffentlicht, rechtlich nicht bindend, aber das Referenzdokument, mit dem die Durchsetzungsbehörden arbeiten. Sie klären unter anderem, dass vor dem 2. August 2026 veröffentlichte Inhalte nicht rückwirkend gekennzeichnet werden müssen. Bedeutung: Wie die Kennzeichnung in der Praxis erfolgt, wird auf EU-Ebene weiter verfeinert, und die vernünftige Haltung ist, den Praxisleitfäden und Leitlinien zu folgen, sobald sie entstehen, statt eine eigene Lehre zu erfinden.

Fazit

Artikel 50 ist kürzer und pragmatischer als sein Ruf. Chatbots müssen sich zu erkennen geben. KI-Unternehmen müssen auf Dateiebene kennzeichnen. Realistisches KI-Bildmaterial muss sichtbar offengelegt werden, ohne Ausnahme durch Überprüfung. KI-Text zur Information der Öffentlichkeit muss offengelegt werden, es sei denn, eine reale Person hat ihn nachweisbar überprüft und übernimmt die Verantwortung. Und jede Offenlegung muss dort platziert sein, wo Menschen tatsächlich hinschauen, und zwar rechtzeitig.

Wenn Sie das nicht abstrakt, sondern an Ihrer eigenen Website geprüft haben möchten: Der Scan ist kostenlos und dauert etwa eine Minute: swornmark.com. Und die Geldbußen, nach denen Sie ohnehin fragen werden, stehen in Artikel 99: bis zu €15m oder 3% des weltweiten Umsatzes, wobei bei kleineren Unternehmen der niedrigere der beiden Beträge gilt.

Fragen, die tatsächlich gestellt werden

Gibt es ein offizielles EU-Label oder eine vorgeschriebene Formulierung für KI-Inhalte? Nein. Artikel 50 verlangt eine Offenlegung „in klarer und eindeutiger Weise“ und schreibt weder Formel noch Siegel noch Logo vor. Wer Ihnen den amtlich korrekten Satz verkaufen will, improvisiert, denn es gibt keinen. Verhaltenskodizes dürften die Praxis mit der Zeit vereinheitlichen, ein Grund mehr, jetzt schlicht zu formulieren und den Leitlinien zu folgen, sobald sie sich festigen.

Welche Teile von Artikel 50 betreffen eine normale Unternehmenswebsite? Meist drei. Absatz 1, wenn Sie einen Chatbot betreiben: Er muss sagen, dass er einer ist. Absatz 4 für Inhalte: Realistische KI-Bilder brauchen eine sichtbare Offenlegung, und KI-Texte, die die Öffentlichkeit informieren, brauchen eine, sofern nicht eine echte Person sie überprüft hat und die redaktionelle Verantwortung trägt. Und Absatz 5 regelt die Platzierung für alles: Die Offenlegung muss da sein, wenn der Inhalt es ist. Emotionserkennung und Biometrie in Absatz 3 sind für die meisten Websites kein Thema.

Was gilt nach der KI-Verordnung als Deepfake? KI-erzeugte oder manipulierte Inhalte, die realen Personen, Objekten, Orten oder Ereignissen ähneln und fälschlich echt wirken würden. Das umfasst ohne Weiteres das generierte Teamfoto und die gerenderte Ansicht der Geschäftsräume, nicht nur den prominenten Gesichtstausch. Offensichtlich künstlerische oder satirische Inhalte unterliegen einer milderen Pflicht, wobei sich das Offensichtliche vom Stuhl der Besucher aus bemisst, nicht von Ihrem.

Befreit menschliche Überprüfung von der Kennzeichnungspflicht für KI-Inhalte? Bei Texten ja, und es ist die praktischste Ausnahme der Verordnung: ein Verfahren menschlicher Überprüfung oder redaktioneller Kontrolle, bei dem eine natürliche oder juristische Person die redaktionelle Verantwortung trägt. Tragend ist das Wort Verfahren, also etwas, das tatsächlich stattgefunden und eine Aufzeichnung hinterlassen hat, kein Gefühl, jemand habe kurz draufgeschaut. Für Bilder gibt es keine Überprüfungsausnahme.

Gilt Artikel 50 schon, und erfasst er unsere alten Inhalte? Die Pflichten gelten unmittelbar seit dem 2. August 2026, unabhängig davon, ob Ihr Land seine Aufsichtsbehörde schon benannt hat. Nach den Leitlinien der Kommission brauchen Inhalte, die vor diesem Datum veröffentlicht wurden, keine nachträgliche Kennzeichnung. Die Ausnahme schützt aber nur, was unangetastet bleibt: Wird eine alte Seite aktualisiert oder neu veröffentlicht, gilt sie als neue Veröffentlichung.

Dieser Leitfaden ist keine Rechtsberatung, und wo unsere Lesart und der Wortlaut der Verordnung auseinandergehen, gewinnt die Verordnung. Er wurde mit KI-Unterstützung entworfen und vor der Veröffentlichung überprüft. Swornmark trägt die redaktionelle Verantwortung dafür.