Musterfirma GmbH
Scroll ↓
Ein Unternehmen wie tausend andere in Deutschland. Maschinenbau, Automotive, gewachsene Strukturen. Der Unterschied: Sie wissen, welche KI sie einsetzen, wer dafuer verantwortlich ist, und was passiert wenn etwas schiefgeht.
3 KI-Systeme im Einsatz
ProduktionsOptima
Optimiert Fertigungsreihenfolge und Maschinenauslastung
Eigenentwicklung
Empfiehlt
QualiScan
Automatische visuelle Qualitaetskontrolle per Kamera
TechVision AG
Entscheidet automatisch
PredMaint
Predictive Maintenance, Vorhersage Maschinenausfaelle
AWS Cloud-Service
Zeigt Informationen an
Wusstest du?
Ein Chatbot der Mitarbeiterfragen beantwortet ist Risikoklasse "Begrenzt".
Transparenzpflicht, Eskalationspfad, keine individuellen Entscheidungen. Klingt einfach. Wird aber fast nie dokumentiert.
Derselbe Chatbot, der Bewerbungen vorrankt, ist ploetzlich Hochrisiko.
Ranking ist Vorsortierung. Vorsortierung ist eine automatisierte Entscheidung ueber Personen. Pflichten: Bias-Monitoring, Dokumentation der Entscheidungslogik, Information der Bewerber.
Die Musterfirma hat fuer jedes System die Risikoklasse bestimmt und die Pflichten dokumentiert.
QualiScan: Hoch (autonome Qualitaetsentscheidung in sicherheitsrelevanter Branche). PredMaint: Niedrig. ProduktionsOptima: Mittel. Drei Systeme, drei verschiedene Anforderungen.
Die Systeme sind da. Die Frage ist: Wer traegt die Verantwortung? Nicht "die IT". Nicht "das Team". Sondern eine konkrete Person mit zwei konkreten Aufgaben.
Verantwortlichkeiten
Die GF traegt Ultimate Accountability. Der Auditor berichtet direkt an die GF.
Dr. Petra Stein
Ultimate Accountability
Thomas Keller
KI-Beauftragter
Frank Hofer
Interner Auditor
Risikomanagerin
Impact-Beauftragte
Data Steward
Operations
8 Menschen. Klare Zustaendigkeiten. Der Auditor berichtet nicht an den KI-Beauftragten, sondern an die GF. So sieht Unabhaengigkeit aus. Und diese 8 Menschen haben folgende Dokumente erstellt:
13 Dokumente
Jedes einsehbar. Jedes als Vorlage nutzbar.
13 Dokumente. Keines laenger als 5 Seiten. Jedes mit Versionsnummer, Datum, Freigabe. Das ist kein Papier-Friedhof, sondern ein lebendes System. Und das Ergebnis sieht so aus:
AIMS-Status der Musterfirma
Risk Matrix
12 Risiken. Probability x Impact.
WAHRSCHEINLICHKEIT →
AUSWIRKUNG →
Score: 10
Score: 12
Score: 8
Score: 9
Score: 5
Score: 10
Score: 12
Score: 8
Score: 15
Score: 6
Score: 9
Score: 10
Aus der Praxis
Ein Postfach. 200 E-Mails am Tag. Ein KI-Workflow sortiert sie.
Klingt nach Risikoklasse Minimal? Falsch. Der Classifier liest E-Mail-Inhalte. Darin stehen Namen, Adressen, manchmal Gesundheitsdaten. Das ist personenbezogene Datenverarbeitung. Wenn der Workflow automatisch antwortet, wird es Risikoklasse Begrenzt. Wenn er Beschwerden priorisiert und manche Kunden schneller bedient als andere, sind wir bei der Frage ob das diskriminiert.
Die Loesung ist nicht, den Workflow abzuschalten. Die Loesung ist, ihn richtig zu bauen. Der Classifier sieht nur Metadaten, nicht den E-Mail-Body. Unter 80% Confidence geht nichts ohne menschliche Pruefung raus. Jede Entscheidung wird geloggt. Beschwerden werden immer eskaliert.
Das ist der Unterschied zwischen "wir haben einen Workflow" und "wir haben einen Workflow, bei dem der Auditor nickt."
Die Musterfirma betreibt kein Blindflug-Monitoring. Jedes System hat KPIs. Jeder KPI hat einen Schwellenwert. Wenn QualiScan unter 98,5% Accuracy faellt, klingelt es.
Monitoring
QualiScan Accuracy (%)
KPI Status
Die meisten Unternehmen glauben, sie braeuchten 100% um anzufangen.
Die Wahrheit: Kein Unternehmen hat 100%. Auch die Musterfirma nicht. Eine offene Nonconformity. Zwei ausstehende Schulungen. Ein Treatment das ueberfaellig ist. Aber alles ist dokumentiert, adressiert, terminiert. Und genau das ist der Punkt.
Nicht perfekt. Aber unter Kontrolle.
1 offene NC. 2 Schulungen ausstehend. 1 Treatment ueberfaellig. Alles dokumentiert, alles adressiert.
Musterfirma
86%
13 Dokumente
3 KI-Systeme
12 Risiken
8 Rollen
Dein Unternehmen
?%
? Dokumente
? KI-Systeme
? Risiken
? Rollen
In 15 Minuten weisst du, wo du stehst.
Kostenlos. Ohne Anmeldung. 15 Minuten.