Wir nutzen nur ChatGPT. Sind wir Betreiber im Sinne der KI-Verordnung?
Kurzantwort: Ja. Die berufliche Nutzung von ChatGPT, Microsoft Copilot, Google Gemini oder ähnlichen Diensten macht Ihren Betrieb zum Betreiber eines KI-Systems. Die Kompetenzpflicht nach Art. 4 gilt damit. Die Europäische Kommission nennt das Beispiel selbst: Wer solche Werkzeuge einsetzt, sollte über die spezifischen Risiken informiert werden, etwa über Halluzinationen.
Warum ChatGPT ein KI-System ist
Die Verordnung definiert ein KI-System als maschinengestütztes System, das aus Eingaben Ergebnisse wie Inhalte, Empfehlungen oder Entscheidungen ableitet. Ein Chatbot, der Texte erzeugt, ist der Prototyp davon. Dass Sie das System nicht selbst entwickelt haben, spielt keine Rolle: Anbieter ist OpenAI, Microsoft oder Google, Betreiber sind Sie.
„Wir nutzen es nur ab und zu“
Auch gelegentliche Nutzung ist berufliche Nutzung. Die Pflicht ist verhältnismäßig: Wer selten und für unkritische Aufgaben KI nutzt, braucht eine kürzere Maßnahme als jemand, der täglich Kundenschreiben damit erstellt. Aber null Maßnahme ist keine Option.
Und die KI in unserer Fachsoftware?
Das ist der oft übersehene Teil. KI-Funktionen stecken heute in Buchhaltungs- und Kanzleisoftware, Praxisverwaltung, Office-Paketen, CRM, Übersetzern, Bildbearbeitung und Website-Baukästen. Fragen Sie Ihre Anbieter oder prüfen Sie die Funktionsbeschreibungen. Es gibt keine zentrale Liste, welche Produkte „KI“ enthalten, auch nicht von großen Herstellern. Deshalb gehört ein KI-Inventar an den Anfang jeder Maßnahme.
Was die Schulung bei ChatGPT & Co. abdecken sollte
- Halluzinationen: Das System erfindet Fakten, Zitate, Paragraphen und Zahlen, und zwar überzeugend. Ergebnisse müssen geprüft werden.
- Daten: Was in ein öffentliches System eingegeben wird, kann beim Anbieter gespeichert und verarbeitet werden. Personenbezogene Daten, Kundendaten und Geschäftsgeheimnisse gehören nicht hinein, außer der Betrieb hat einen Vertrag mit entsprechenden Garantien.
- Konten: betriebliche statt private Konten, damit Einstellungen und Datenschutz kontrollierbar bleiben.
- Urheberrecht und Kennzeichnung: wann KI-Texte und KI-Bilder gekennzeichnet werden sollten.
- Verantwortung: Die Person, die das Ergebnis verwendet, bleibt verantwortlich, nicht das Werkzeug.
- Grenzen: wofür KI im Betrieb nicht eingesetzt wird, etwa für Entscheidungen über Menschen.
Was das für Ihren Betrieb heißt
Erfassen Sie, wer welche KI-Werkzeuge nutzt, auch die in bestehender Software. Regeln Sie den Umgang in einer kurzen Richtlinie. Schulen Sie die Nutzer kurz und dokumentiert. Das ist die ganze Pflicht.
Quellen
- Art. 3 Nr. 1 und 4, Art. 4 der Verordnung (EU) 2024/1689
- Europäische Kommission, Fragen und Antworten zur KI-Kompetenz, Stand Juli 2026 (Beispiel ChatGPT, Halluzinationen)
- Datenschutzkonferenz (DSK), Orientierungshilfe KI und Datenschutz, Mai 2024
- WKO, Fragen und Antworten „KI meets KMU“