Human-Centered AI · Agentic Systems · Enterprise-Workflows
Ihr Agent sollte keine Entscheidung treffen dürfen, die er nicht treffen darf.
Ich gestalte die Schnittstelle zwischen autonomen KI-Systemen und den Menschen, die für deren Handeln verantwortlich sind — dort, wo das Modell vorschlägt, ein Mensch entscheidet, und die Grenze zwischen beidem nie unklar ist.
Wo es wirklich scheitert
Ein Modell kann wirklich gut sein, und das Produkt trotzdem gefährlich — weil niemand festgelegt hat, wo menschliches Urteilsvermögen eingreift oder was passiert, wenn der Agent falsch liegt. Das ist ein Interface-Problem, und genau darauf sind Unternehmen am wenigsten vorbereitet.
Worin das System gut ist
- Entwürfe und Mustererkennung in einem Umfang, den kein Team stemmen kann
- Die sich wiederholenden 80 % eines Workflows korrekt und schnell erledigen
- Auffälligkeiten erkennen, die einem müden Menschen entgehen würden
Wo weiterhin ein Mensch gebraucht wird
- Alles mit rechtlichen, finanziellen oder sicherheitsrelevanten Folgen, die sich nicht rückgängig machen lassen
- Entscheidungen ohne sauberen Präzedenzfall in den Trainingsdaten
- Verantwortlichkeit — jemand muss dafür geradestehen
Was ich gestalte
Drei Dinge, die jedes Agentic-Produkt braucht — und die meisten nicht mitliefern.
01 / CONTROL
Tragfähige Eingriffspunkte
Freigabe-Warteschlangen und Notausschalter genau dort, wo eine Fehlentscheidung teuer wird — den Agenten zu stoppen ist ein Klick, kein Ticket.
02 / TRUST
Schnittstellen, die ihre Arbeit zeigen
Konfidenzanzeigen und Begründungsverläufe direkt im UI — damit „vertrauen“ und „prüfen“ in Sekunden auseinanderzuhalten sind.
03 / CONTAINMENT
Datenschutz und Schadensbegrenzung von Anfang an
Festlegen, was ein Agent sehen und anfassen darf, bevor er handelt — mit einem Audit-Trail, der eine Compliance-Prüfung übersteht.
Bevor Sie schreiben
Ein paar Fragen, die vor einem Review meist aufkommen.