KI mit Datenschutz und Human-in-the-Loop gestalten.
Sichere Automatisierung entsteht durch klare Grenzen für Daten, Rollen und Aktionen – nicht durch einen Hinweis im Interface.
15-Minuten-Prozess-Fit prüfenDatenfluss vor dem Test erklären können.
Dokumentieren Sie, welche Daten ein Prozess erhält, wofür sie benötigt werden, wer darauf zugreift und wann sie gelöscht oder anonymisiert werden. Testdaten sollten den echten Fall abbilden, ohne unnötige Identifikatoren zu enthalten.
- Datenfelder, Zweck und Empfänger pro Schritt festhalten.
- Berechtigungen nach Rolle statt nach Bequemlichkeit vergeben.
- Aufbewahrung und Löschung bereits im Pilot klären.
Freigaben an Folgen ausrichten.
Eine Klassifikation mit niedriger Auswirkung braucht andere Kontrollen als eine Zahlung, Vertragszusage oder Zugriffsänderung. Mitarbeitende müssen Kontext, Unsicherheit und die nächste sichere Handlung sehen.
- Schwellenwerte und Ausnahmefälle verständlich darstellen.
- Freigabe, Korrektur und Eskalation als eigene Aktionen gestalten.
- Keine externe Wirkung ohne definierten Verantwortlichen.
Änderungen wie Produktänderungen behandeln.
Neue Regeln, Datenquellen oder Modelle verändern das Verhalten eines Systems. Halten Sie Tests, Freigaben und Rückfallwege nachvollziehbar, damit eine Korrektur nicht selbst zum Betriebsrisiko wird.
- Änderungen vor Produktivsetzung testen.
- Fehler und Korrekturen regelmässig auswerten.
- Eine Kontaktperson für Sicherheits- und Datenschutzfragen bestimmen.
Passende nächste Fragen
Kurze Antworten
Ersetzt Human-in-the-Loop den Datenschutz?
Nein. Freigaben sind ein Kontrollmechanismus; Datenschutz verlangt zusätzlich Zweckbindung, Datenminimierung und passende Schutzmassnahmen.
Kann ein Pilot mit echten Daten arbeiten?
Das hängt vom Zweck, Schutzbedarf, Zugriffen und den geeigneten Schutzmassnahmen des konkreten Falls ab.
Quellen und Einordnung
Die Hinweise ersetzen keine Rechts-, Sicherheits- oder Fachberatung. Die folgenden Primärquellen dienen der Einordnung.