Aufsatz : Transparenz beim KI Einsatz im politischen Kontext : aus der RDV 5/2026, Seite 246 bis 251

II. KI‑generierte Bilder (Deep Fakes)

Für die Veröffentlichung von KI‑generieren Bildern und Videos gelten strenge Maßstäbe. Immer dann, wenn ein Bild einer wirklichen Person, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt, handelt es sich um einen sog. Deepfake und muss als KI‑generiert gekennzeichnet werden.^[2] Entscheidend hierbei ist, dass keine Ähnlichkeit zu einer real existierenden Person oder einem tatsächlichen Ereignis bestehen muss. Es genügt, dass das Bild jemandem oder etwas ähnelt, das in der Realität existieren kann oder hätte existieren können.^[3]Das bedeutet ein Bild, das auch ein Foto sein könnte und das KI‑generiert ist, muss als solches gekennzeichnet sein, wenn es nicht völlig offenkundig künstlich ist, wie ein Dinosaurier, der den Kölner Dom bestaunt. Diese Pflicht gilt zwar immer, gerade im Wahlkampf muss hierauf aber besonders geachtet werden. Denn der Wahlkampf bewegt sich in einem für die Demokratie besonders sensiblen Bereich, in dem besondere Vorsicht geboten ist.^[4]

Denn es könnte ein Foto sein, da Kinder, Ponys und Schiedsrichter reale Personen sind oder sein könnten. Da für jeden erkennbar ist, dass Kinder nicht auf Seepferden über einen Parcours und dann auch noch nicht im Wasser reiten, kann Bild 2 nicht real sein und die Kennzeichnungspflicht entfällt ebenso wie in Bild 1, das als Cartoon erkennbar keine echte Lebenssituation darstellt.

Losgelöst von der Rechtsfrage wird die Frage erörtert, ob Bilder in der Politik überhaupt mithilfe von KI generiert werden sollten. Dieser Streit entbrannte kürzlich aufgrund eines erkennbar KI‑generierten Bildes auf dem Instagram-Profil der Bundespräsidentin Julia Klöckner, das die Politikerin gemeinsam mit Kindern und dem Slogan „Alles Gute zum Schulstart“ zeigt. Kritiker wenden ein, die Nutzung KI‑generierter Bilder schädige das Handwerk des Grafik-Designs und sorge für einen grafischen Qualitätsabfall. Die Bundespräsidentin will mit synthetischen Kinderbildern die Rechte von existierenden Kindern schützen, die anderenfalls im Internet zu sehen gewesen wären. Konkretes Ergebnis ist ein Diskurs über das Thema.

III. KI‑Einsatz bei Texterstellung

Auch bezüglich KI‑generierter oder mithilfe von KI überarbeiteter Texte schreibt die KI‑VO grundsätzlich eine Kennzeichnungspflicht vor. Eine Ausnahme besteht nach der KI‑VO dann, wenn der Text vor der Veröffentlichung in einem Verfahren der menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde.^[5] Zudem muss ein Mensch oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernehmen, d.h. für die Inhalte haften.^[6]Auf eine Kennzeichnung kann daher nur verzichtet werden, wenn eine gründliche Kontrolle erfolgt, die über eine oberflächliche oder rein formale Korrektur hinausgeht und sich substanziell mit dem Text auseinandersetzt. Durchführen muss diese Kontrolle eine fachlich kompetente natürliche Person, die den Text inhaltlich beurteilen und über seine Veröffentlichung entscheiden kann.^[7]Eine zusätzliche Ausnahme besteht, wenn der Text nicht dazu dient, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Diese Ausnahme dürfte bei der Kommunikation eines politischen Akteurs nach außen selten erfüllt sein. Sie gilt aber für etwa für die interne Einladung zu einer Weihnachtsfeier.

In vielen Fällen wird der Einsatz von KI die menschliche Arbeit verbessern, aber nicht zwangsläufig beschleunigen können. Der Mensch muss sich schließlich kritisch mit weiteren Impulsen auseinandersetzen und diese in sein Ergebnis einbeziehen. Erfolgt der Einsatz von KI, muss man sich aber der besonderen Verantwortung beim Einsatz des autonomen Werkzeugs gerade im politischen Kontext bewusst sein. Der Weg von einer Idee hin zu einer oft nicht durchdachten, aber so klingenden Ausformulierung ist wegen der großen Sprachmodelle kurz. Auch Überarbeitungen erfolgen häufig nicht mehr rein menschlich. Das kann Erleichterung schaffen und dazu dienen, die Qualität menschlicher Beiträge zu erhöhen.

Allerdings birgt der Einsatz von KI bei der Texterstellung auch erhebliche Risiken. Immerhin transportieren Texte unsere Ideen, Ziele und Werte. Nutzt man KI also leichtfertig, nimmt diese dem Menschen nicht nur das Formulieren ab, sondern ersetzt auch das Denken.

Sie bewertet an unserer Stelle. Promptet man etwa schlicht „Formuliere eine Rede für die Ausschusssitzung zum Thema Kinderarmut passend zum Wahlprogramm“, ersetzt die KI einen großen Teil des Denkens, der beim Menschen liegen muss. Welche Aspekte sollen besonders betont werden? Anhand welcher Werte werden die allgemeinen Ziele ausdifferenziert? Aus welchem gesellschaftlichen Bereich werden Beispiele gewählt? Für wen setzt man sich konkret ein? All diese Entscheidungen darf die KI nicht für uns treffen. Und selbst wenn das fertige Ergebnis von einem Menschen überarbeitet wird, ähnelt es dem Output der KI oft noch. Denn wenn man sich nicht dagegen schützt, wirkt der erste Impuls der KI als Anker, an dem sich jede weitere Entscheidung unbewusst ausrichtet (sog. Ankereffekt).^[8]

IV. KI in der politischen und parlamentarischen Arbeit

Besonders anspruchsvoll und potenziell gefährlich ist der KI‑Einsatz im Kern der Demokratie, der parlamentarischen Arbeit. KI darf als mathematischer Impuls keine Überzeugungen auslösen. Die Gefahr dafür ist aber bei der Sprachgewalt von KI sehr hoch.^[9] Dem muss man aktiv entgegenwirken.^[10] KI ist schließlich weder einem menschlichen Wesen mit Verantwortung zurechenbar_[11], noch ist der mathematische Impuls (politisch) neutral^[12]. Jede Ausgabe der KI ist mit einer Tendenz versehen, die schon in der Datenbasis angelegt ist und die sich dem Einfluss des Menschen entzieht.^[13]

1. KI darf Menschen unterstützen, nicht ersetzen

Auf KI muss deswegen nicht verzichtet werden. Das tragende Prinzip lautet aber: KI darf den Menschen unterstützen, ersetzen darf sie ihn nicht.^[14] Das gilt neben der Bildgenerierung durch KI auch für den Bereich der Textgenerierung, insbesondere dann, wenn Texte für die öffentliche Meinungsbildung formuliert werden. Allein vertretbar ist daher ein Vorgehen nach dem Prinzip „Mensch‑Maschine‑Mensch“. In vielen Fällen bedeutet das, zunächst denkt der Mensch und verfasst einen ersten Entwurf zumindest in substanziellen Stichpunkten und sortiert seine tragenden Ideen. Dann nutzt er die KI zur Optimierung seiner Ergebnisse per Austausch über die Textgestaltung. Über das Ergebnis entscheidet am Ende der Mensch nach eigener Kontrolle, Recherche und Abwägung. Nur so lässt sich verhindern, dass die KI prägt und der Mensch geprägt wird. Hinzu kommt, dass KI‑generierte Texte bisweilen erkennbaren sprachlichen Mustern folgen. Solchen Texten fehlt es oft an menschlicher Originalität. Vermeiden lässt sich „KI‑Sound“, indem man Substanz und Formulierungen selbst liefert und KI nur bei einer nachträglichen Durchsicht nutzt.

2. Kontext und Zweck des KI‑Einsatzes bestimmen

Beim Einsatz von KI gilt es immer, den Kontext und den Einsatzzweck des Werkzeugs zu bestimmen.^[15] In risikolosen Kontexten gelten andere Anforderungen als in riskanten. Es macht einen Unterschied, ob man einen Social-Media-Post über das Sommerfest der eigenen Partei schreibt, einen Post über eine Rede im Wahlkreis oder gar eine Wahlkampfrede entwirft. Während der Bericht über das Sommerfest kaum demokratische Bedeutung hat, ist das bei einer Wahlkampfrede unbestreitbar. Die KI‑Verordnung ordnet KI‑Systeme, die bestimmungsgemäß verwendet werden sollen, um das Ergebnis einer Wahl oder das Verhalten natürlicher Personen bei der Ausübung ihres Wahlrechts bei der Wahl zu beeinflussen, als hochriskant ein.^[16] Anders als im täglichen politischen Betrieb ist der Einsatz von KI im Wahlkampf daher besonders kritisch zu betrachten. Hochriskant ist beispielsweise eine unmittelbare Beeinflussung der Wähler durch personalisierte Wahlwerbung auf Social-Media oder Tools wie den Wahl-OMaten, insofern diese KI‑gestützt arbeiten. Ebenfalls hochriskant ist etwa der Fall, dass ein Chatbot auf der Website einer Partei eigenständig für die Partei wirbt oder Auskünfte gibt.

3. KI‑Einsatz im Wahlkampf

Die Risikobewertung des Einsatzes KI‑generierter Inhalte im Kontext des Wahlkampfes ist bisher noch nicht eindeutig geklärt. Es spricht jedoch einiges dafür, einen hochriskanten Zweck nur dann anzunehmen, wenn KI‑Systeme genutzt werden, die Inhalte nicht nur generieren, sondern auch selbst verbreiten. Dies umfasst beispielsweise einen Chatbot, der in einem Forum selbstständig Werbung für einen Kandidaten macht. Ebenfalls umfasst ist die Erstellung von Bildern und Videos zu Wahlkampfzwecken, wenn diese unmittelbar von dem generierenden KI‑System auf YouTube oder Instagram veröffentlicht werden. Rechtlich auf der sicheren Seite ist man dann, wenn KI nur eingesetzt wird, um menschlich erzeugte Inhalte zu überarbeiten. In jedem Fall müssen Texte und Bilder eines politischen Akteurs um deren Bedeutung für den demokratischen Willensbildungsprozess gerecht zu werden vor der Veröffentlichung substanziell von einem Menschen geprüft werden. Nach Ansicht der EU-Kommission ist die KI‑gestützte Generierung politischer Werbeinhalte im Wahlkampf wohl nicht hochriskant im Sinne von Anhang III Nr. 8 b), wenn die Inhalte nicht unmittelbar von einem Chatbot, sondern von einem Menschen verbreitet werden.^[17] Um nicht in den Anwendungsbereich der hochriskanten Fälle zu geraten, genügt bei derartiger Lesart der KI‑VO die formale Kontrolle des „Ob“ der Veröffentlichung. Ob eine inhaltliche Prüfung der Beiträge stattfindet, ist für die Einordnung als hochriskant dann nicht entscheidend. Eindeutig sind die Kommissionsleitlinien diesbezüglich allerdings nicht. Zwar stellen sie auf die formale Verbreitungsform der Inhalte als Abgrenzungsmerkmal ab, als Beispiel für nicht hochriskantes Verhalten nennen sie jedoch die Verbreitung und Prüfung von Inhalten durch eine Partei. Selbst aber wenn es der Kommission auf eine Prüfung tatsächlich nicht ankommt, ist unklar, ob auch der EuGH dieser Einschätzung folgen würde. Plausibel wäre es auch, die Einordnung von KI‑generierter Wahlwerbung anhand einer Abgrenzung zwischen inhaltlicher Unterstützung und Ersetzung der menschlichen Aussagen zu bemessen.^[18] Die Grenzen sind dabei aktuell noch offen. Eindeutig nicht erfasst wäre die rein stilistische Überarbeitung bereits verfasster Kampagnentexte, so beispielsweise die Kennzeichnung unklarer Formulierungen oder Widersprüche zu vorhandenem Parteimaterial.^[19] Bei einer Rede könnte für die Annahme einer bloßen Unterstützung sprechen, dass sich bereits im Vortrag ein durchaus erhebliches menschliches Element zeigt. („Es gilt das gesprochene Wort“).

4. „KI‑Bekenntnis“

Unabhängig von rechtlichen Pflichten steht es einer staatlichen Stelle und politischen Akteuren gut zu Gesicht, offen zum Einsatz von KI zu bekennen, wenn sie sich zum Einsatz entscheidet. So könnte ein allgemeiner Hinweis auf der Website einer staatlichen Stelle und insbesondere auch politischen Akteurs platziert werden. Der konkrete Wortlaut hängt dabei vom tatsächlichen Einsatz der KI ab. Zentral ist es nicht nur, die rechtlichen Grenzen einzuhalten, sondern ehrlich und transparent zu kommunizieren und den Einsatz so zu beschreiben, wie er in der Praxis tatsächlich erfolgt. Ein Hinweis könnte zum Beispiel wie folgt lauten:

Bei der Erstellung von Texten und Bildern und sonstigen Inhalten wie Übersichten oder Grafiken setzen wir Künstliche Intelligenz unterstützend ein. Wir sind uns der Möglichkeiten und Risiken der autonomen Technik bewusst. Wir differenzieren nach den Zwecken des Einsatzes der KI und beachten die rechtlichen Vorgaben für die Unterstützung des Menschen durch KI. Wir haben darüber hinausgehende Standards, die unserer politischen und demokratischen Verantwortung gerecht werden. Dazu stellen wir sicher und versichern, dass der Einsatz von KI als Werkzeug gewissenhaft und gründlich menschlich kontrolliert wird. Wir setzen KI zu rechtlich zulässigen und politisch verantwortbaren Zwecken ein. Wir nutzen KI bei der Texterstellung etwa bei der konkreten und kontextbezogenen Recherche zu klar vorgegebenen Inhalten, bei formalen Korrekturen sowie bei der sprachlichen Optimierung von Texten. Das bedeutet, dass wir Ideen selbst entwickeln und textlich konkrete Vorgaben machen. Der entscheidende und insbesondere erste Impuls geht dabei von uns aus. Die Reihenfolge lautet stets Mensch-Maschine-Mensch. Sämtliche Impulse der KI prüfen wir gewissenhaft. Jede Formulierung und jeder Gedanke werden bewusst von uns verantwortet und getragen. Die inhaltliche und redaktionelle Verantwortung liegt vollständig bei uns. Bei Bildern, Übersichten und Grafiken etc., wägen wir den Einsatz gewissenhaft ab und achten auf die Wahrung von Transparenz- und Kennzeichnungspflichten.

5. Selbstverpflichtung

Neben dem so formulierten Selbstbekenntnis mit Blick auf den Umfang der Unterstützung durch Künstliche Intelligenz sollte im politischen Betrieb ein Bekenntnis insbesondere zum politisch faire Einsatz der Technologie erfolgen. Deepfakes stellen nämlich eine ernst zu nehmende Gefahr für die demokratische Willensbildung dar. Im Wahlkampfsommer 2026 kursieren in sozialen Netzwerken gefälschte Videos und Art. über deutsche Politikerinnen und Politiker. Ihnen werden Suchtprobleme, Korruption und sexuelle Übergriffe unterstellt. Als Initiator der Kampagne wird Russland vermutet. Durch die neuen Möglichkeiten, die mit KI entstehen, lassen sich solche Deepfakes leicht erstellen. Einfluss gewinnen solche Kampagnen nicht nur darüber, dass sie täuschend echte Ergebnisse produzieren, sondern auch über die Masse an Uploads. Wenn sich der Wähler aber nicht mehr darauf verlassen kann, dass das, was er sieht, Realität ist, ist kaum noch echter Wahlkampf möglich. Da in einem solchen Fall der gesellschaftliche Schaden besonders groß ist, bietet sich eine gemeinsame Selbstverpflichtung aller parlamentarischen Parteien an. Verboten ist die Verbreitung eines KI‑generierten Bildes als Fotografie zwar schon jetzt, genauso wie das Publizieren von zahllosen Texten ohne, dass ein Mensch dafür einsteht und ohne, dass auf die nicht menschliche Herkunft hingewiesen wird. Ein Verbot hat aber leider allzu oft keine durchschlagende Kraft. Daher würde eine zusätzliche Selbstverpflichtung einen Teil zur Sicherung der Fairness im Wahlkampf beitragen, indem sie noch einmal an demokratische Werte erinnert. Sie hält dazu an, das eigene Verhalten an den öffentlich vertretenen Werten auszurichten.

Fazit

Künstliche Intelligenz eröffnet Chancen und birgt Risiken. Ein verantwortungsbewusster Umgang mit der Technik ist daher gerade für politische Akteure unerlässlich. Dazu gehört, ihren Einsatz zu kennzeichnen. Den Mindeststandard setzt Art. 50 KI‑VO. Konsequent als KI generiert auszuweisen sind daher Texte, die keiner sorgfältigen Kontrolle unterlagen, ebenso Bilder, die für eine Fotografie gehalten werden können, da ihr Gegenstand real ist oder sein könnte. Es sprechen aber gute Gründe dafür, den Einsatz auch unterhalb dieser Schwelle offen zu legen. Ein „KI‑Bekenntnis“ öffnet den Diskurs über den gesellschaftlich verantwortbaren Nutzen von KI. Politische Akteure sollten außerdem Bewusstsein für den Ankereffekt schaffen und ihm durch den Dreischritt „Mensch‑Maschine‑Mensch“ beim Einsatz der Technik bestmöglich begegnen. So kann vermieden werden, dass mit Hilfe von Maschinen erzeugte Inhalte unbemerkt Einfluss auf Werte und Positionen im Wahlkampf nehmen.

_{[1] Die Übersicht ist der Schulungsunterlage des Kurses GDD-AI-Privacy-Expert entnommen}

_{[2] Art. 3 Nr. 60 KI‑VO.}

_{[3] Europäische Kommission, Draft Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of Regulation (EU) 2024/1689 (the ‘AI Act’), 2026, Rn. 107.}

_{[4] Die Schwelle des Anhang III Nr. 8 b) dürfte dann überschritten sein, wenn kein Mensch mehr zwischen die demokratierelevante Äußerung des Bots und den Wähler tritt.}

_{[5] Art. 50 Abs. 4 UAbs. 2, S. 2.}

_{[6] Europäische Kommission, Draft Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of Regulation (EU) 2024/1689 (the ‘AI Act’), 2026, Rn. 128.}

_{[7] Europäische Kommission, Draft Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of Regulation (EU) 2024/1689 (the ‘AI Act’), 2026, Rn. 126-127.}

_{[8] Köhler, Richterliche Verantwortung und Künstliche Intelligenz, 2026, S. 53.; Schwartmann, Über Leben mit KI, S. 106 ff.}

_{[9] Schwartmann, Über Leben mit KI, S. 54.}

_{[10] Dazu eingehend unter Entwicklung eines Verfahrens zur Kontrolle, Schwartmann, Über Leben mit KI, S. 146 ff.}

_{[11] Schwartmann, Über Leben mit KI, S. 225 ff.}

_{[12] Schwartmann, Über Leben mit KI, S. 74}

_{[13] Schwartmann, Über Leben mit KI, S. 69 ff.}

_{[14] Schwartmann, Über Leben mit KI, S. 247 ff. m.w.N.}

_{[15] Dazu am Beispiel der Bilderstellung eingehend, Schwartmann, Über Leben mit KI, S. 146 ff}

_{[16] Anhang III Nr. 8 b) KI‑VO.}

_{[17] Europäische Kommission, Draft Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of Regulation (EU) 2024/1689 (the ‘AI Act’), 2026, Rn. 447.}

_{[18] Als Tatbestandsmerkmale zur Anknüpfung kommen zwei Aspekte in Anhang III Nr. 8 b KI‑VO in Betracht. Zum einen „Beeinflussung“ (S. 1): Das KI‑System wird nicht verwendet, „um zu beeinflussen“, wenn es einen in der Gesamtbetrachtung gegenüber den menschlichen Aussagen unbedeutenden Beitrag zur Rede leistet. Zum anderen “nicht direkt ausgesetzt“ (S. 2): Die Hörer sind den Ausgaben des KI‑Systems nicht direkt ausgesetzt, wenn die Ausgaben aufgrund der bloßen Unterstützungsfunktion des KI‑Systems in den menschlichen Aussagen aufgehen}

_{[19] Europäische Kommission, Draft Guidelines on the implementation of the transparency obligations for certain AI systems under Article 50 of Regulation (EU) 2024/1689 (the ‘AI Act’), 2026, Rn. 447.}