EN 301 549 · WCAG 2.2 AA
Barrierefreiheits-Audit
Prüfergebnisse, die als Entwickler-Tickets ankommen — nicht als PDF.
Zur Leistung →
Human-Centered AI · Agentic Systems · Enterprise-Workflows
Ihr Agent sollte keine Entscheidung treffen dürfen, die er nicht treffen darf.
Ich gestalte die Schnittstelle zwischen Agentic-AI-Systemen und den Menschen, die für deren Handeln verantwortlich sind. Human-in-the-Loop von Anfang an: Das Modell schlägt vor, ein Mensch entscheidet, und die Grenze zwischen beidem ist nie unklar.
- Ab
- 4.900 €
- Dauer
- Ca. 3 Wochen
- Ergebnis
- Entscheidungskarte + Tickets
Wo es wirklich scheitert
Ein Modell kann wirklich gut sein, und das Produkt trotzdem gefährlich — weil niemand festgelegt hat, wo menschliches Urteilsvermögen eingreift oder was passiert, wenn der Agent falsch liegt. Das ist ein Interface-Problem, und genau darauf sind Unternehmen am wenigsten vorbereitet.
Worin das System gut ist
- Entwürfe und Mustererkennung in einem Umfang, den kein Team stemmen kann
- Die sich wiederholenden 80 % eines Workflows korrekt und schnell erledigen
- Auffälligkeiten erkennen, die einem müden Menschen entgehen würden
Wo weiterhin ein Mensch gebraucht wird
- Alles mit rechtlichen, finanziellen oder sicherheitsrelevanten Folgen, die sich nicht rückgängig machen lassen
- Entscheidungen ohne sauberen Präzedenzfall in den Trainingsdaten
- Verantwortlichkeit — jemand muss dafür geradestehen
Was ich gestalte
Drei Dinge, die jedes Agentic-Produkt braucht — und die meisten nicht mitliefern.
01 / CONTROL
Tragfähige Eingriffspunkte
Freigabe-Warteschlangen und Notausschalter genau dort, wo eine Fehlentscheidung teuer wird — den Agenten zu stoppen ist ein Klick, kein Ticket.
02 / TRUST
Schnittstellen, die ihre Arbeit zeigen
Konfidenzanzeigen und Begründungsverläufe direkt im UI — damit „vertrauen“ und „prüfen“ in Sekunden auseinanderzuhalten sind.
03 / CONTAINMENT
Datenschutz und Schadensbegrenzung von Anfang an
Festlegen, was ein Agent sehen und anfassen darf, bevor er handelt — mit einem Audit-Trail, der eine Compliance-Prüfung übersteht.
So läuft es ab
Architektur-Gespräch
Wir halten fest, welche Entscheidungen Ihr Agent heute trifft und wer jeweils verantwortlich ist. Danach bekommen Sie einen Festpreis.
Review & Prototyp
Ich prüfe die Agent-Abläufe auf Entscheidungsgrenzen, Freigaben, Fehlerfälle und Logging und baue Prototypen der wichtigsten Freigabe-Screens.
Übergabe
Eine Entscheidungskarte (das Modell schlägt vor, ein Mensch entscheidet) und die Änderungen als priorisierte Tickets, gemeinsam mit Produkt, Entwicklung und Compliance.
Ab 4.900 €, als Festpreis nach dem Architektur-Gespräch.
Was Sie bekommen
Ein anonymisiertes Beispiel einer Entscheidungskarte für einen Rechnungs-Agenten. Jede Zeile sagt, was das Modell allein darf und wo ein Mensch übernimmt.
| Schritt | Der Agent schlägt vor | Ein Mensch entscheidet | Regel |
|---|---|---|---|
| 1 · Lesen | Liest Lieferant, Betrag und Kostenstelle aus der Rechnung | Prüft die Felder, wenn der Agent unsicher ist | Unter 90 % Sicherheit geht es an einen Menschen |
| 2 · Abgleichen | Schlägt die passende Bestellung vor | Bestätigt, wenn der Betrag um mehr als 2 % abweicht | Ein neuer Lieferant wird nie automatisch angenommen |
| 3 · Freigeben | Bereitet die Freigabe mit Begründung vor | Gibt frei oder lehnt ab, immer | Keine Zahlung ohne namentliche Freigabe |
| 4 · Protokollieren | Schreibt jede Entscheidung ins Protokoll | Kann eine Entscheidung 30 Tage lang wieder öffnen | Jede Übersteuerung wird mit Grund protokolliert |
Zur Übergabe gehören auch die prototypischen Freigabe-Screens und die Änderungen als Tickets.
Bevor Sie schreiben
Ein paar Fragen, die vor einem Review meist aufkommen.