ChatGPT & offizielle Dokumente: Was KI darf – und wofür Sie im Sekretriat verantwortlich bleiben 

KI im Büro – zwischen Effizienz und Verantwortung

Stellen Sie sich vor: Sie erhalten die Aufgabe, eine Zusammenfassung der aktuellen EU-KI-Verordnung für ein wichtiges Meeting zu erstellen. Die Zeit drängt, also nutzen Sie ChatGPT, um schnell eine strukturierte Übersicht zu generieren. Doch dürfen Sie das einfach so? Was sagt das Gesetz dazu? Und wer trägt die Verantwortung, wenn etwas schiefgeht?

Die EU-KI-Verordnung: Aktueller Stand und Übergangsregelungen

Ziel und Geltungsbereich Die EU-KI-Verordnung (Verordnung (EU) 2024/1689) wurde am 12. Juli 2024 im Amtsblatt der EU veröffentlicht und ist seit dem 1. August 2024 in Kraft getreten. Allerdings gelten die meisten Bestimmungen erst ab dem 2. August 2026 vollständig. Bis dahin laufen Übergangsphasen, in denen Unternehmen und Behörden Zeit haben, sich auf die neuen Anforderungen vorzubereiten.

Das Ziel der Verordnung:

„Die Einführung einer auf den Menschen ausgerichteten KI in Europa zu fördern und dabei ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und die Grundrechte der Bürger sicherzustellen.“ — Artikel 1, EU-KI-Verordnungai-act-law.eu+2

Wichtige Fristen und Übergangsregelungen

• Seit 1. August 2024: Die Verordnung ist in Kraft getreten, aber die meisten Bestimmungen gelten noch nicht.
• Ab 2. Februar 2025: Verbotene KI-Praktiken (z. B. Social Scoring) sind bereits verboten.
• Ab 2. August 2026: Die vollständige Anwendbarkeit der Verordnung – dann gelten alle Pflichten für Unternehmen, darunter:
  • Risikomanagement für Hochrisiko-KI-Systeme
  • Transparenzpflichten für KI-Systeme mit begrenztem Risiko (z. B. ChatGPT)
  • Dokumentations- und Kennzeichnungspflichtenai-act-law.eu+3

Was bedeutet das für Sie heute?

Auch wenn die Verordnung noch nicht vollständig gilt, sollten Sie sich jetzt vorbereiten:

• Schulungen zu den neuen Anforderungen besuchen.
• Interne Richtlinien für den KI-Einsatz entwickeln.
• Dokumentationsprozesse für KI-generierte Inhalte einführen.

Warum ist das wichtig? Die Übergangszeit bis August 2026 gibt Ihnen die Möglichkeit, sich schrittweise an die neuen Regelungen zu gewöhnen. Nutzen Sie diese Zeit, um Compliance-Lücken zu schließen und Ihre Kollegen zu schulen. So vermeiden Sie später teure Bußgelder oder rechtliche Risiken.

In diesem Beitrag erfahren Sie:

• Was die EU-KI-Verordnung konkret für Ihren Büroalltag bedeutet
• Welche Pflichten Sie und Ihr Unternehmen bei der Nutzung von ChatGPT haben
• Wie Sie KI rechtssicher und verantwortungsvoll einsetzen – mit Checklisten und Praxisbeispielen

Die EU-KI-Verordnung: Aktueller Stand und Pflichten

Ziel und Geltungsbereich

Die EU-KI-Verordnung (Verordnung (EU) 2024/1689) ist ab dem 2. August 2026 vollständig anwendbar. Ihr Ziel:

„Die Einführung einer auf den Menschen ausgerichteten KI in Europa zu fördern und dabei ein hohes Schutzniveau in Bezug auf Gesundheit, Sicherheit und die Grundrechte der Bürger sicherzustellen.“— Artikel 1, EU-KI-Verordnung

Das bedeutet: KI-Systeme müssen transparenter, sicherer und diskriminierungsfreier gestaltet werden. Die Verordnung gilt EU-weit – und auch für Unternehmen außerhalb der EU, wenn ihre KI-Systeme in der EU genutzt werden oder Ergebnisse in der EU wirken.

1.2. Risikoklassen: Was ist erlaubt, was verboten?

Die Verordnung unterteilt KI-Systeme in vier Risikoklassen:

Für den Büroalltag besonders relevant:ChatGPT fällt unter „begrenztes Risiko“. Das bedeutet:

• Sie müssen KI-generierte Inhalte kennzeichnen (z. B. mit dem Hinweis: „Dieser Text wurde mit KI-Unterstützung erstellt und redaktionell geprüft.“).
• Sie dürfen keine personenbezogenen Daten ohne Einwilligung in ChatGPT, Mistral, Copilot oder Gemmini eingeben

1.3. Pflichten für Unternehmen und Nutzer

• Dokumentation: Unternehmen müssen nachweisen, dass ihre KI-Systeme den Vorschriften entsprechen. Das betrifft auch die Nutzung von ChatGPT im Büro (z. B. durch Protokollierung und interne Richtlinien)
• Schulung: Mitarbeitende müssen über die Anforderungen der KI-Verordnung informiert und geschult sein
• Kennzeichnung: KI-generierte Inhalte müssen als solche erkennbar sein

Praxistipp:Erstellen Sie eine interne Checkliste für den KI-Einsatz:

• Hinweis auf KI-Nutzung in Dokumenten
• Keine Verarbeitung personenbezogener Daten ohne Einwilligung
• Regelmäßige Überprüfung der KI-Outputs auf Richtigkeit

ChatGPT & Nutzungsbedingungen: Aktuelle Regelungen (Stand Februar 2026)

Nutzungsbedingungen von OpenAI

Die Nutzungsbedingungen für ChatGPT wurden zum 1. Januar 2026 aktualisiert. Wichtige Punkte für Sie:

• Verantwortung für Inhalte: Sie sind verantwortlich für alle Inhalte, die Sie in ChatGPT oder anderen KIs eingeben und die daraus generierten Ergebnisse. OpenAI und andere Anbieter übernehmen  keine Haftung für Fehler oder rechtliche Konsequenzen
• Datenschutz: Personenbezogene Daten dürfen nicht ohne Einwilligung der Betroffenen in ChatGPT oder anderen KIs eingegeben werden
• Urheberrecht: Die mit ChatGPT oder anderen KIs erstellten Inhalte gehören Ihnen, aber Sie müssen sicherstellen, dass keine Urheberrechte Dritter verletzt werden

Was ChatGPT nicht darf

• Rechtsberatung: ChatGPT darf keine verbindliche Rechtsberatung geben. Seit 2026 warnt OpenAI mit einem Disclaimer, dass KI-Antworten zu Rechtsfragen nur als Orientierung dienen und immer durch Fachleute geprüft werden müssen
• Verarbeitung sensibler Daten: Dokumente mit Betriebsgeheimnissen oder personenbezogenen Daten gehören nicht in ChatGPT

Beispiel aus der Praxis:

Sie sollen eine E-Mail an einen Kunden schreiben, in der es um vertragliche Details geht. Statt den gesamten Vertragstext in ChatGPT einzugeben, formulieren Sie eine allgemeine Vorlage und passen sie manuell an. So vermeiden Sie Datenschutzprobleme und behalten die Kontrolle über den Inhalt.

DSGVO und KI: Ihre Verantwortung bleibt bestehen

Grundsätze der DSGVO

Auch beim Einsatz von KI gelten die Prinzipien der DSGVO:

• Zweckbindung: Daten dürfen nur für den ursprünglichen Zweck verarbeitet werden.
• Datenminimierung: Nur so viele Daten wie nötig in KI-Tools eingeben.
• Transparenz: Betroffene müssen über die Verarbeitung ihrer Daten informiert werden Quelle

Praktische Umsetzung im Büro

• Einwilligung einholen: Wenn Sie z. B. Kundendaten in ChatGPT nutzen wollen, brauchen Sie deren ausdrückliche Zustimmung.
• Dokumentation: Halten Sie fest, welche Daten Sie wann und warum in KI-Tools eingegeben haben.
• Löschpflicht: KI-generierte Daten, die nicht mehr benötigt werden, müssen gelöscht werden.

Checkliste für DSGVO-konformen KI-Einsatz:

• Nur anonymisierte oder pseudonymisierte Daten nutzen
• Betroffene über die KI-Nutzung informieren
• Regelmäßige Schulungen zum Datenschutz besuchen

Verantwortung im Büroalltag: Wer haftet wofür?

Im modernen Büroalltag, in dem Künstliche Intelligenz (KI) immer häufiger eingesetzt wird, stellt sich eine zentrale Frage: Wer trägt die Verantwortung, wenn etwas schiefgeht? Die Nutzung von KI-Tools wie ChatGPT bringt nicht nur Effizienzgewinne mit sich, sondern auch rechtliche und ethische Pflichten. Es ist entscheidend, die Haftungsfragen klar zu regeln und typische Fallstricke zu vermeiden, um rechtliche Konsequenzen zu umgehen.

Haftungsfragen klären: Wer ist wofür verantwortlich?

Die Verantwortung für den Einsatz von KI-Tools im Büro ist nicht allein auf eine Person oder Abteilung beschränkt, sondern verteilt sich auf verschiedene Ebenen. Hier eine detaillierte Aufschlüsselung:

Unternehmen: Die übergeordnete Verantwortung

Das Unternehmen trägt die primäre Haftung für die Einhaltung der EU-KI-Verordnung und der Datenschutz-Grundverordnung (DSGVO). Das bedeutet konkret:

• Schulungen und Sensibilisierung: Unternehmen müssen sicherstellen, dass alle Mitarbeitenden, die KI-Tools nutzen, ausreichend geschult sind. Das umfasst nicht nur die technische Handhabung, sondern auch das Bewusstsein für rechtliche Rahmenbedingungen, Datenschutz und ethische Richtlinien.
• Technische Maßnahmen: Es müssen technische und organisatorische Maßnahmen ergriffen werden, um die Einhaltung der Vorschriften zu gewährleisten. Dazu gehören z. B. die Dokumentation von KI-Prozessen, die Sicherstellung der Datenintegrität und die Implementierung von Compliance-Systemen.
• Interne Richtlinien: Klare Nutzungsrichtlinien für KI-Tools wie ChatGPT sind unerlässlich. Diese sollten regeln, welche Daten eingegeben werden dürfen, wie mit KI-generierten Inhalten umgegangen wird und wie Transparenz gegenüber Dritten (z. B. Kunden oder Geschäftspartnern) hergestellt wird.

Warum ist das wichtig?

Unternehmen, die diese Pflichten vernachlässigen, riskieren nicht nur Bußgelder, sondern auch Reputationsschäden. Die EU-KI-Verordnung sieht bei Verstößen hohe Strafen vor, insbesondere wenn es um Hochrisiko-KI-Systeme oder den Missbrauch personenbezogener Daten geht. (Quelle)

Mitarbeitende: Die individuelle Verantwortung

Auch wenn das Unternehmen die übergeordnete Haftung trägt, sind Mitarbeitende nicht von ihrer persönlichen Verantwortung entbunden. Jede Person, die KI-Tools nutzt, muss sich an die internen Richtlinien und die gesetzlichen Vorgaben halten. Das bedeutet:

• Korrekte Nutzung: KI-Tools dürfen nur im Rahmen der betrieblichen Vorgaben genutzt werden. Das umfasst z. B. die Einhaltung von Datenschutzbestimmungen und die Vermeidung von Missbrauch.
• Sorgfaltspflicht: Mitarbeitende müssen sicherstellen, dass sie keine sensiblen oder personenbezogenen Daten in KI-Tools eingeben, es sei denn, dies ist ausdrücklich erlaubt und entsprechend dokumentiert.
• Konsequenzen bei Fahrlässigkeit: Bei grober Fahrlässigkeit – z. B. wenn vertrauliche Daten wie Kundeninformationen oder Betriebsgeheimnisse in ChatGPT eingegeben werden – können persönliche Konsequenzen drohen. Das reicht von Abmahnungen bis hin zu Kündigungen, je nach Schwere des Verstoßes (Quelle)

Warum ist das wichtig?Mitarbeitende sind die „letzte Instanz“ vor der Nutzung von KI-Tools. Ihr Handeln entscheidet maßgeblich darüber, ob das Unternehmen Compliance-Risiken vermeidet oder sich rechtlichen Problemen aussetzt. Ein verantwortungsbewusster Umgang mit KI ist daher nicht nur eine Frage der Unternehmensrichtlinien, sondern auch der persönlichen Integrität.

Typische Fallstricke vermeiden: Wo lauern die größten Risiken?

Auch wenn KI-Tools wie ChatGPT viele Vorteile bieten, gibt es häufige Fehler, die zu rechtlichen oder ethischen Problemen führen können. Hier sind die wichtigsten Fallstricke – und wie Sie sie vermeiden:

1. Fehlende Kennzeichnung von KI-generierten Inhalten

Das Problem:

Wenn Sie einen KI-generierten Text – z. B. eine E-Mail, eine Präsentation oder einen Blog-Beitrag – als eigenen ausgeben, ohne darauf hinzuweisen, dass er mit KI-Unterstützung erstellt wurde, kann das als Täuschung gewertet werden. Die EU-KI-Verordnung verlangt für KI-Systeme mit „begrenztem Risiko“ (zu denen ChatGPT gehört) eine Transparenzpflicht. Das bedeutet: KI-generierte Inhalte müssen als solche gekennzeichnet werden (Quelle)

Die Lösung:

• Immer kennzeichnen! Fügen Sie einen klaren Hinweis ein, z. B.:

  „Dieser Text wurde mit KI-Unterstützung erstellt und redaktionell geprüft.“

• Interne Richtlinien: Legen Sie im Team fest, wie KI-generierte Inhalte zu kennzeichnen sind – z. B. durch einen Standard-Hinweis in der Fußnote oder einen sichtbaren Vermerk im Dokument.

Warum ist das wichtig?Transparenz schafft Vertrauen – sowohl intern als auch gegenüber Kunden oder Geschäftspartnern. Zudem vermeiden Sie so rechtliche Risiken, die durch irreführende Angaben entstehen könnten.

2. Ungeprüfte Inhalte weitergeben

Das Problem:

KI-Systeme wie ChatGPT sind mächtige Tools, aber sie sind nicht fehlerfrei. Sie können falsche Informationen, veraltete Daten oder logische Fehler liefern. Wenn Sie diese Inhalte ungeprüft weitergeben – z. B. in einer Präsentation für die Geschäftsführung oder einer E-Mail an einen Kunden –, riskieren Sie Fehlinformationen, die zu falschen Entscheidungen oder Vertrauensverlust führen können.

Die Lösung:

• Immer prüfen! KI-generierte Inhalte sollten nie 1:1 übernommen, sondern kritisch geprüft und bei Bedarf korrigiert oder ergänzt werden.
• Quellen hinterfragen: Wenn ChatGPT Fakten liefert, überprüfen Sie diese mit offiziellen Quellen (z. B. Gesetzestexte, Unternehmensrichtlinien oder Fachliteratur).
• Verantwortung übernehmen: Selbst wenn ein Text von KI generiert wurde, sind Sie für den Inhalt verantwortlich. Geben Sie Inhalte nur weiter, wenn Sie sich ihrer Richtigkeit sicher sind.

Warum ist das wichtig?Fehlerhafte Informationen können rechtliche Konsequenzen haben – z. B. wenn falsche Daten in Verträgen oder Berichten landen. Zudem schützt eine kritische Prüfung Ihr berufliches Ansehen und das Image Ihres Unternehmens.

3. Datenpannen durch unsachgemäße Nutzung

Das Problem:

Einer der größten Risikofaktoren bei der Nutzung von KI-Tools ist die Eingabe personenbezogener oder vertraulicher Daten. Wenn Sie z. B. Kundendaten, interne Dokumente oder Betriebsgeheimnisse in ChatGPT eingeben, verstoßen Sie nicht nur gegen die DSGVO, sondern riskieren auch Datenlecks oder Missbrauch. Die Nutzungsbedingungen von OpenAI verbieten ausdrücklich die Eingabe sensibler Daten – und bei Verstößen drohen Bußgelder oder Kündigungen

Die Lösung:

• Keine sensiblen Daten eingeben! Vermeiden Sie es, Namen, Adressen, Vertragsdaten oder interne Informationen in ChatGPT einzugeben.
• Anonymisieren: Falls Sie KI für die Bearbeitung von Texten nutzen müssen, die sensible Informationen enthalten, anonymisieren Sie diese vorher (z. B. durch Platzhalter wie „[Name]“ oder „[Datum]“).
• Interne Alternativen nutzen: Falls Ihr Unternehmen unternehmensinterne KI-Lösungen anbietet, die DSGVO-konform sind, nutzen Sie diese stattdessen.

Warum ist das wichtig?

Datenpannen können hohe Bußgelder nach sich ziehen – die DSGVO sieht Strafen von bis zu 4 % des weltweiten Jahresumsatzes vor. Zudem gefährden Sie durch unsachgemäßen Umgang mit Daten das Vertrauen Ihrer Kunden und Ihren Arbeitsplatz.

Beispiel aus der Praxis: So geht verantwortungsvolle KI-Nutzung

Situation:Sie erhalten den Auftrag, eine Präsentation für die Geschäftsführung zu erstellen, die die neuen Compliance-Regeln der EU-KI-Verordnung zusammenfasst. Die Zeit ist knapp, also nutzen Sie ChatGPT, um eine Struktur und erste Inhalte zu generieren.

Verantwortungsvolle Vorgehensweise:

1. Keine sensiblen Daten eingeben:Sie vermeiden es, interne Dokumente oder Kundendaten in ChatGPT einzugeben. Stattdessen formulieren Sie eine allgemeine Anfrage, z. B.:

   „Erstelle eine Gliederung für eine Präsentation über die EU-KI-Verordnung mit Fokus auf die Pflichten für Unternehmen.“

2. Inhalte prüfen und anpassen:Die von ChatGPT generierte Gliederung überprüfen Sie mit den offiziellen Texten der EU-KI-Verordnung und passen sie an die unternehmensspezifischen Anforderungen an.

3. Transparenz herstellen:In der letzten Folie der Präsentation fügen Sie einen Hinweis ein:

   „Diese Präsentation wurde mit Unterstützung von KI erstellt und redaktionell geprüft.“

4. Dokumentation:Sie protokollieren intern, dass Sie KI für die Erstellung der Präsentation genutzt haben, und speichern die ursprünglichen KI-Outputs für Nachweiszwecke.

Ergebnis:Sie nutzen KI effizient und rechtssicher, vermeiden Risiken und erfüllen gleichzeitig die Transparenzpflichten der EU-KI-Verordnung.

Schlussgedanken: Verantwortung beginnt bei Ihnen

Die Nutzung von KI-Tools wie ChatGPT bietet enorme Chancen für mehr Effizienz und Kreativität im Büroalltag. Gleichzeitig bringt sie Verantwortung mit sich – sowohl für das Unternehmen als auch für Sie als Nutzerin. Indem Sie

• Haftungsfragen klar regeln,
• typische Fallstricke vermeiden und
• transparente, geprüfte und datenschutzkonforme Prozesse etablieren,

können Sie KI sicher und gewinnbringend einsetzen. Denken Sie daran: KI ist ein Werkzeug – die Verantwortung liegt beim Menschen.