Du erstellst täglich Inhalte mit KI-Tools — Texte, Bilder, Chatbot-Antworten. Der EU AI Act betrifft genau diese Arbeit. Was ist erlaubt, was muss gekennzeichnet werden, und was gilt für Kundendaten?
Du erstellst täglich Inhalte mit KI-Tools — Texte, Bilder, Chatbot-Antworten. Der EU AI Act betrifft genau diese Arbeit. Nicht als Entwickler, sondern als Person, die KI-Systeme für ihre Arbeit einsetzt.
Dieser Artikel erklärt, was das konkret bedeutet: Was darfst du, was musst du kennzeichnen, was gilt für Kundendaten?
Rechtlicher Hinweis: Dieser Artikel ist eine persönliche Zusammenfassung öffentlich zugänglicher Gesetzestexte, insbesondere der Verordnung (EU) 2024/1689. Er stellt keine Rechtsberatung dar. Für verbindliche rechtliche Einschätzungen wende dich an eine zugelassene Rechtsberatung. Aktueller Stand: EUR-Lex.
Deine Rolle: Betreiber, nicht Anbieter
Das Gesetz unterscheidet KI-Anbieter (die KI entwickeln — z. B. OpenAI, Adobe) und KI-Betreiber (die fertige KI-Systeme nutzen). Als Marketingmitarbeiter:in bist du fast immer Betreiber — und hast damit deutlich weniger Pflichten als ein Anbieter.
Das Gesetz gilt für alle Unternehmen, die KI in der EU anbieten oder einsetzen — unabhängig davon, wo das Unternehmen sitzt. Ähnlich wie die DSGVO.
Die 4 Risikoklassen — wo bewegt sich Marketing?
EU AI Act · Verordnung (EU) 2024/1689
Die 4 Risikoklassen des EU AI Acts
Was gilt für welche KI-Anwendungen?
✕
Verbotene Praktiken — nicht erlaubt in der EU
Unterschwellige Manipulation, Social Scoring, gezielte Ausnutzung von Schwachstellen
Chatbots, KI-generierte Inhalte — Nutzer:innen müssen wissen, dass sie mit KI interagieren
✓
Minimales Risiko — typisches Marketing
Textgeneratoren, Spam-Filter, KI-Bildoptimierung, Social-Media-Content — kaum Einschränkungen
www.ai-marketing-learnagency.de
Als Marketingmitarbeitende bewegst du dich meistens in den unteren beiden Kategorien. Aber auch dort gibt es Regeln, die du kennen musst — besonders bei Inhalten, Chatbots und Kundendaten.
Wichtig: Die Einstufung hängt nicht allein vom Tool ab, sondern vom Anwendungskontext. ChatGPT für Blogtexte ist minimal riskant — derselbe Anbieter in einem HR-Tool zur Bewerberbewertung kann in den Hochrisiko-Bereich fallen.
Was im Marketing verboten ist
Unterschwellige Manipulation — KI, die psychologische Schwachstellen ausnutzt, ohne dass Nutzer:innen es merken. Ein Algorithmus, der emotionale Verletzlichkeit erkennt und gezielt eine manipulative Botschaft platziert. Personalisierte Werbung ist erlaubt — der freie Wille darf nicht gezielt untergraben werden.
Social Scoring — Kunden aufgrund ihres Lebenswandels oder gesellschaftlichen Verhaltens benachteiligen: verboten.
Gezielte Ausnutzung von Schwachstellen — KI darf nicht eingesetzt werden, um vulnerable Gruppen zu manipulieren: Kinder, ältere Menschen, Menschen in schwierigen Lebenssituationen.
Inhalte erstellen: Was muss gekennzeichnet werden?
Normale Marketingtexte — Social-Media-Posts, Newsletter, Blogartikel, Werbetexte — müssen in der Regel nicht als „KI-generiert” gekennzeichnet werden. Eine Ausnahme gilt, wenn Inhalte täuschend wirken könnten — dann kann aus Verbraucherschutzsicht Transparenz erforderlich sein.
Deepfakes müssen gekennzeichnet werden. Das gilt für synthetische Inhalte, die realen Personen, Orten oder Ereignissen ähneln — also nicht nur für offensichtliche Personendarstellungen, sondern auch für realitätsnahe Simulationen.
Chatbots müssen für Nutzer:innen erkennbar machen, dass sie KI sind — z. B. durch einen klaren Hinweis im Interface oder zu Beginn der Interaktion. Ein exakter Wortlaut ist nicht vorgeschrieben; entscheidend ist, dass die KI-Natur klar erkennbar ist.
Bei aktiver Nachfrage gilt Transparenz. Wenn ein Kunde fragt, ob ein Inhalt KI-generiert ist, sollte die Antwort ehrlich sein — keine gesetzliche Pflicht, aber eine Frage des Vertrauens.
DSGVO und KI — beide gelten gleichzeitig
Der EU AI Act ersetzt die DSGVO nicht — er ergänzt sie. Für Marketingmitarbeitende ist das besonders relevant:
Kundendaten gehören nicht ungefiltert in KI-Tools. Wenn du personenbezogene Daten (Namen, E-Mail-Adressen, Verhaltensdaten) in ein KI-Tool eingibst, greift die DSGVO. Du benötigst einen Auftragsverarbeitungsvertrag (AVV) mit dem Anbieter — viele wie OpenAI stellen diesen bereit, aber er muss aktiv eingerichtet sein.
Datenschutzerklärung prüfen. Wenn dein Unternehmen KI-Tools nutzt, bei denen Personendaten verarbeitet werden, muss das in der Datenschutzerklärung erwähnt sein.
Training-Opt-out. Viele Anbieter nutzen Eingaben standardmäßig für das Training ihrer Modelle — das lässt sich in den Einstellungen meist deaktivieren.
Was dein Unternehmen dokumentieren sollte
Eine einfache interne Übersicht reicht als Ausgangspunkt:
Welche KI-Tools werden verwendet — Name, Anbieter, Zweck
Für welche Aufgaben die Tools eingesetzt werden
Welche Daten dabei verarbeitet werden
Wie Ergebnisse geprüft werden, bevor sie veröffentlicht werden
Chatbot kennzeichnen: Ist für Nutzer:innen klar erkennbar, dass sie mit KI interagieren?
Deepfake-Prüfung: Nutzt du KI, um reale Personen, Orte oder Ereignisse darzustellen? Kennzeichnung sicherstellen.
Kundendaten schützen: Keine personenbezogenen Daten ungefiltert in KI-Tools eingeben — AVV prüfen.
Datenschutzerklärung prüfen: Ist der KI-Einsatz mit Personendaten erwähnt?
Team informieren: Weiß das Marketing-Team, was erlaubt ist und was nicht?
Die wichtigsten Fristen
Datum
Was gilt
2. August 2024
EU AI Act tritt in Kraft
2. Februar 2025
Verbotene KI-Praktiken (Art. 5) und KI-Kompetenzpflicht (Art. 4) — gilt bereits
2. August 2025
Regeln für allgemeine KI-Modelle (GPT-4, Claude etc.) — gilt bereits
2. August 2026
Hochriskante KI-Systeme (Anhang I)
Aktueller Stand: EUR-Lex oder Bundesnetzagentur
Fazit
Der EU AI Act macht KI-Arbeit im Marketing nicht komplizierter — er macht transparent, was ohnehin gelten sollte: keine Manipulation, ehrliche Kennzeichnung, verantwortungsvoller Umgang mit Kundendaten.
Wer das versteht und in den Arbeitsalltag überträgt, setzt KI bewusst ein — und das wird zum Vertrauenssignal gegenüber Kunden.
Du möchtest KI im Marketing gezielt und informiert einsetzen? Im Kurs KI-Kompetenz für das Marketing erklären wir den EU AI Act verständlich — für Marketingmitarbeitende, Gründer:innen, Soloselbständige und KMUs ohne juristische Vorkenntnisse.
Muss ich kennzeichnen, wenn ich ChatGPT für Texte nutze?
In der Regel nicht. Für normale Marketingtexte wie Social Posts, Newsletter oder Blogartikel gibt es keine gesetzliche Kennzeichnungspflicht. Eine Ausnahme gilt, wenn Inhalte täuschend wirken könnten — dann kann Transparenz aus Verbraucherschutzsicht erforderlich sein. Deepfakes (synthetische Inhalte, die realen Personen, Orten oder Ereignissen ähneln) und KI-Chatbots müssen jedoch klar als KI erkennbar sein.
Was gilt für Kundendaten, die ich in KI-Tools eingebe?
Wenn du personenbezogene Daten (z. B. Namen, E-Mail-Adressen) in ein KI-Tool eingibst, greift die DSGVO. Du benötigst einen Auftragsverarbeitungsvertrag (AVV) mit dem Anbieter. Viele Anbieter wie OpenAI stellen einen solchen Vertrag bereit — prüfe, ob er für deinen Account aktiv ist. Grundsätzlich gilt: Kundendaten nicht ungefiltert in KI-Tools eingeben.
Was passiert, wenn ich gegen den EU AI Act verstoße?
Die Strafen sind gestaffelt nach Schwere des Verstoßes. Bei verbotenen Praktiken sind hohe Bußgelder möglich. Unwissenheit schützt nicht.
Gilt der EU AI Act nur in der EU?
Nein. Wie die DSGVO gilt er für alle, die KI in der EU anbieten oder einsetzen — unabhängig davon, wo das Unternehmen sitzt. Rein private Nutzung ist ausgenommen.
Dieser Artikel entstand mit KI-Unterstützung und wurde redaktionell überarbeitet.
Marketing-Expertin mit über 25 Jahren Erfahrung · Gründerin der AI Marketing LearnAgency in Karlsruhe · Dozentin · Certified KI Architect – Expertin für KI Agenten · Certified AI Marketing Innovation Leader · Certified AI Prompt Engineer.
