Die eigentliche Frage bei KI im Unternehmen ist nicht «kann sie das?», sondern «wer haftet dafür?». Zwei Bausteine, die Kontrolle und Automatisierung vereinbar machen.
Die verbreitete Angst vor KI im Unternehmen ist selten die vor mangelnder Leistung. Sie ist die vor Kontrollverlust: dass ein System eigenmächtig etwas an einen Kunden schickt, eine Zahlung auslöst oder einen Datensatz verändert, ohne dass jemand es freigegeben hat — und dass hinterher niemand nachvollziehen kann, warum. In regulierten Schweizer Kontexten, unter revDSG und den Erwartungen von Revision und Verwaltungsrat, ist diese Sorge nicht nur berechtigt, sondern die entscheidende Frage überhaupt.
Die gute Nachricht: Kontrolle und Automatisierung sind kein Widerspruch. Sie werden nur oft gegeneinander ausgespielt, weil die falsche Vorstellung von Automatisierung herrscht — die eines Systems, das den Menschen ersetzt. Die tragfähige Vorstellung ist eine andere: ein System, das die Handarbeit übernimmt und die Entscheidung dort belässt, wo Verantwortung liegt. Zwei Bausteine machen das möglich.
Human-in-the-Loop: Das Gate ist im Code
Human-in-the-Loop bedeutet: Der automatisierte Ablauf läuft unbeaufsichtigt, bis er an einen heiklen Schritt kommt. Dort hält er an und fordert eine Freigabe an. Nichts, was nach aussen wirkt oder Unumkehrbares tut, geschieht ohne einen Menschen, der es bestätigt. Das kundenrelevante Ergebnis ist zuerst «pending» — es wartet, bis eine Person es freigibt.
Der entscheidende Punkt ist, wo dieses Gate sitzt. Ein Freigabeschritt, der in einer Arbeitsanweisung steht, ist eine Bitte. Ein Freigabeschritt, der im Code verankert ist, ist eine Garantie. Das System kann den heiklen Schritt technisch nicht ausführen, bevor die Freigabe vorliegt. Damit verschiebt sich die Sicherheit von der Disziplin einzelner Personen zur Architektur des Systems — und genau dort gehört sie hin.
Wichtig ist dabei, das Gate klug zu setzen. Ein System, das bei jedem Schritt nach Freigabe fragt, hat nichts automatisiert — es hat die Handarbeit nur umbenannt. Die Kunst liegt in der Trennung: Was reversibel und risikoarm ist, läuft durch; was nach aussen wirkt, Geld bewegt oder Daten verändert, wartet auf einen Menschen. So bleibt der Zeitgewinn erhalten, ohne dass die Kontrolle verloren geht.
«Ein Freigabeschritt in einer Arbeitsanweisung ist eine Bitte. Derselbe Schritt im Code ist eine Garantie.»
Das Audit-Log: Nachvollziehbar statt nur schnell
Der zweite Baustein beantwortet die Frage, die nach jeder Automatisierung irgendwann gestellt wird: Was ist eigentlich passiert — und warum? Ein Audit-Log ist die lückenlose, unveränderliche Aufzeichnung jeder Aktion, die das System ausführt. Jeder Lauf, jede Freigabe, jede Ausnahme wird mit Zeitstempel festgehalten: was geschah, wann, auf welcher Datengrundlage, und wer freigegeben hat.
Das klingt technisch, ist aber vor allem eine Governance-Frage. Ein Audit-Log verwandelt einen automatisierten Prozess von einer Blackbox in ein prüfbares System. Es beantwortet die Fragen der Revision, bevor sie gestellt werden. Es macht sichtbar, ob ein Ergebnis von einem Menschen freigegeben oder automatisch durchgelaufen ist. Und es schützt am Ende auch die Personen, die freigeben — weil ihre Entscheidung dokumentiert und begründbar ist, statt in einem E-Mail-Verlauf zu versickern.
Warum beides zusammengehört
Die beiden Bausteine ergänzen sich. Das Human-in-the-Loop-Gate stellt sicher, dass die richtige Entscheidung im richtigen Moment von einem Menschen getroffen wird. Das Audit-Log stellt sicher, dass diese Entscheidung — und alles Automatisierte drumherum — im Nachhinein nachvollziehbar bleibt. Das eine kontrolliert die Gegenwart, das andere sichert die Vergangenheit. Erst zusammen ergeben sie ein System, das man verantworten kann.
Diese Prinzipien lassen sich leicht behaupten. Deshalb haben wir sie zuerst auf uns selbst angewandt: Die Plattform, auf der unsere Kunden ihre Systeme sehen, haben wir selbst gebaut — mit Audit-Log und Human-in-the-Loop als Fundament, nicht als nachträglichem Feature. Betrieb und Speicherung liegen in der Schweiz, in der Region Zürich, konform zum revidierten Datenschutzgesetz.
Wo der Mensch bleibt — und wo nicht
Eine häufige Sorge lautet, Human-in-the-Loop sei nur ein besseres Wort für «alles bleibt Handarbeit». Das Gegenteil ist der Anspruch. Das Ziel ist nicht, den Menschen überall einzubauen, sondern ihn genau dort einzusetzen, wo sein Urteil einen Unterschied macht — und ihn überall sonst von der Wiederholung zu befreien. Ein System, das gut gebaut ist, bringt einem Menschen keine hundert Freigaben pro Tag, sondern die wenigen, bei denen es wirklich auf eine Entscheidung ankommt.
Genau deshalb ist die Einordnung, was reversibel ist und was nicht, keine technische, sondern eine geschäftliche Frage. Sie gehört an den Anfang jedes Projekts, nicht an dessen Ende. Wir klären sie im Rahmen unserer Methodik — Discover, Build, Test, Rollout, Operate — mit einem Gate an jedem heiklen Schritt, bevor die erste Zeile Automatisierung produktiv geht. Kontrolle wird so nicht nachträglich draufgeschraubt, sondern ist Teil des Entwurfs.
Die eigentliche Frage
Wer KI im Unternehmen einführt, sollte deshalb nicht zuerst fragen «Was kann das System?», sondern «Wo hält es an, und was schreibt es mit?». Die Leistungsfähigkeit von KI ist heute selten der Engpass. Der Engpass ist das Vertrauen — und Vertrauen entsteht nicht aus Versprechen, sondern aus einer Architektur, in der Kontrolle nicht optional, sondern eingebaut ist.
So verstanden nimmt KI Ihnen Arbeit ab, ohne Ihnen die Kontrolle zu nehmen. Sie erledigt die Wiederholung, sie hält an den heiklen Stellen an, und sie protokolliert lückenlos, was sie getan hat. Das Ergebnis ist kein System, dem man vertrauen muss — sondern eines, das man prüfen kann. Das ist der Unterschied.
Am Ende ist die Wahl also keine zwischen Fortschritt und Sicherheit. Wer glaubt, er müsse sich zwischen der Geschwindigkeit der KI und der Kontrolle über sein Unternehmen entscheiden, hat die Alternative falsch gestellt. Richtig gebaut, ist die Kontrolle kein Bremsklotz, sondern die Bedingung, unter der man sich Geschwindigkeit überhaupt leisten kann. Ein Gate, das im richtigen Moment anhält, und ein Log, das alles festhält, sind nicht das, was der Automatisierung im Weg steht — sie sind das, was sie im Unternehmen verantwortbar macht.
