Human in the Loop: Menschen prüfen KI
Human in the Loop (HITL) bedeutet, dass ein Mensch an einer entscheidenden Stelle in einen KI-Ablauf eingreift, etwa einen Vorschlag prüft und vor dem Versand freigibt. So lassen sich Fehler, fehlender Kontext und unpassende Entscheidungen erkennen. Wie eng die Kontrolle sein muss, hängt vom jeweiligen Einsatz und seinen Folgen ab.
Was bedeutet Human in the Loop?
Bei Human in the Loop ist die menschliche Beteiligung ein geplanter Teil des Arbeitsablaufs. Ein KI-Assistent kann einen Entwurf oder eine Einschätzung vorbereiten; eine zuständige Person vergleicht das Ergebnis mit den Ausgangsinformationen, ändert es gegebenenfalls und entscheidet über den nächsten Schritt.
HITL wird auch beim Training und bei der Bewertung von KI-Systemen verwendet, wenn Menschen Daten kennzeichnen oder Ausgaben beurteilen. Im Unternehmensalltag steht häufig die Prüfung während der Nutzung im Vordergrund. Bei KI-Agenten sollten die Übergabepunkte vorab feststehen, damit das System nur innerhalb seiner erlaubten Aufgaben selbstständig handelt.
Nutzen Sie die Leistungsfähigkeit Künstlicher Intelligenz für Ihre Online-Präsenz und sparen Sie Zeit und Ressourcen.
- Website-Erstellung mit nur einem Klick
- Beeindruckende Bilder und Texte in Sekundenschnelle
- Nützliche Optimierungstools inklusive
Wie funktioniert HITL in der Praxis?
Ein Unternehmen bestimmt zuerst, welche Schritte automatisiert werden dürfen und wann eine Person übernehmen muss. Die KI erfasst dann eine Eingabe, erstellt einen Vorschlag und legt gegebenenfalls Ausgangsdaten und Unsicherheiten offen. Eine Mitarbeiterin oder ein Mitarbeiter prüft, korrigiert, gibt frei oder verwirft den Vorschlag. Die Entscheidung und auffällige Fehler fließen anschließend in die Verbesserung des Ablaufs ein.
Bei der Automatisierung von Kundenanfragen kann eine einfache Frage zu Öffnungszeiten automatisch beantwortet werden. Eine Reklamation mit unklarem Sachverhalt landet dagegen bei einer Person. Ein KI-CRM kann offene Vorgänge zwar priorisieren, ob ein persönlicher Kontakt angebracht ist, entscheidet aber das Team. Wichtig sind ein klarer Weg für Rückfragen und ein Abbruch bei fehlerhaften Ergebnissen.
Praxisbeispiel: IONOS KI E-Mail-Assistent
Eine kleine Pension erhält E-Mails zu Anreisezeiten, Terminänderungen und Beschwerden. Beim IONOS KI E-Mail-Assistenten lässt sich für Anfragearten festlegen, ob der Assistent sie nicht bearbeitet, einen Entwurf zur Freigabe erstellt oder automatisch beantwortet. Allgemeine Geschäftsfragen können nach entsprechender Einstellung automatisch beantwortet werden. Komplexere Themen gehen hingegen an die Verantwortlichen.
Die Pension lässt beispielsweise einen Entwurf für die Bitte um eine Terminänderung erstellen. Eine Mitarbeiterin prüft Verfügbarkeit und bisherigen E-Mail-Verlauf, korrigiert den Text und gibt ihn anschließend frei. Bei einer unklaren Beschwerde übernimmt sie die Antwort selbst. Der KI E-Mail-Assistent hat HITL direkt ins Konzept eingebaut.
- Zeit sparen: Routine-E-Mails vollautomatisch beantworten
- Verfügbar sein: Antworten sofort und 24/7
- Volle Kontrolle behalten: Sie entscheiden, was automatisiert wird
HITL, Human on the Loop und Human out of the Loop
Neben Human in the Loop tauchen auch immer wieder die Begriffe Human on the Loop und Human out of the Loop auf. Was sind die Unterschiede?
| Ansatz | Rolle des Menschen | Beispiel |
|---|---|---|
| Human in the Loop | Prüft oder entscheidet an einem definierten Schritt vor einer Aktion | Der Mensch gibt einen E-Mail-Entwurf vor dem Versand frei |
| Human on the Loop | Überwacht den laufenden Prozess und greift bei Bedarf ein | Der Mensch kontrolliert Stichproben und stoppt eine fehlerhafte Automatisierung |
| Human out of the Loop | Greift während des einzelnen Ablaufs nicht ein | Ein System ordnet unkritische interne Vorgänge selbstständig zu |
Die Begriffe beschreiben typische Formen menschlicher Beteiligung. Auch bei einem weitgehend automatischen Prozess bleiben Einrichtung, Kontrolle und Verantwortung im Unternehmen. Für KI im Kundenservice lässt sich der passende Übergabepunkt nach Art der Anfrage festlegen.
Warum ist HITL für vertrauenswürdige KI wichtig?
KI kann zum Beispiel Informationen falsch zusammenfassen oder unpassende Empfehlungen überzeugend formulieren. Menschen hingegen können den konkreten Kontext einbeziehen und Entscheidungen stoppen. Allerdings schützt ein Freigabeschritt nicht automatisch vor Fehlern: Wer hunderte Vorschläge ungelesen bestätigt, schafft nur eine formale Kontrolle. Die KI-Ethik und die Sicherheit von KI-Agenten verlangen deshalb klar zugewiesene Rollen und überprüfbare Eingriffsmöglichkeiten.
Das NIST beschreibt unterschiedliche Rollen in der Zusammenarbeit von Mensch und KI. Mitarbeitende benötigen dafür passende KI-Kompetenz sowie ausreichend Zeit und Informationen, um einem Vorschlag auch widersprechen zu können.
Welche Rolle spielt HITL im EU AI Act?
Die KI-Verordnung verlangt in Artikel 14 für Hochrisiko-KI-Systeme eine wirksame menschliche Aufsicht. Zuständige Personen sollen Fähigkeiten und Grenzen des Systems verstehen, Ergebnisse richtig einordnen, sie übergehen und nötigenfalls den Betrieb unterbrechen können. Das ist mehr als eine pauschale Pflicht, jede KI-Ausgabe einzeln freizugeben. Der Wortlaut von Artikel 14 und die Anwendungsfristen der EU-Kommission sind für die Einordnung maßgeblich.
Nicht jede Nutzung von KI im Kundenservice ist deshalb Hochrisiko-KI. Transparenzpflichten bei direktem Kontakt mit einem KI-System sind zudem getrennt zu prüfen. Ob eine Maßnahme rechtlich nötig ist, hängt vom konkreten Einsatzfall ab.
Wo ist Human in the Loop sinnvoll?
Human in the Loop ist vor allem dann sinnvoll, wenn KI-Ergebnisse nicht ungeprüft übernommen werden sollten, weil Fehler spürbare Folgen haben oder zusätzlicher Kontext nötig ist.
- Bewerbungsentscheidungen: KI kann Unterlagen vorsortieren oder Kriterien prüfen. Die eigentliche Bewertung sollte jedoch bei einer zuständigen Person liegen, damit Kontext, Ausnahmen und mögliche Fehlbewertungen berücksichtigt werden.
- Medizinische Einschätzungen: KI kann Befunde analysieren oder Hinweise liefern. Diagnose- und Therapieentscheidungen erfordern jedoch fachliche Prüfung und medizinischen Kontext.
- Beschwerden und strittige Kundenfälle: Bei mehrdeutigen oder emotionalen Anliegen kann KI einen Entwurf vorbereiten. Eine Person prüft anschließend Ton, Sachverhalt und angemessene Reaktion.
- Sentiment-Analyse: Eine automatische Einstufung im Zuge einer Sentiment-Analyse kann falsch oder zu grob ausfallen. Bei wichtigen Entscheidungen sollte deshalb eine Person prüfen, ob Ironie, Mehrdeutigkeit oder besonderer Kontext eine andere Bewertung erfordern.
- Finanzielle oder rechtlich relevante Vorgänge: Wenn eine KI-Empfehlung finanzielle, vertragliche oder regulatorische Folgen haben kann, ist eine menschliche Kontrolle besonders wichtig.
- Seltene oder ungewöhnliche Fälle: Bei Situationen, die von den typischen Trainings- und Prozessmustern abweichen, hilft menschliche Prüfung dabei, Fehlentscheidungen durch fehlenden Kontext zu vermeiden.
Der Vorteil von HITL ist die Möglichkeit, einzelne Fehler vor einer Aktion abzufangen und Verantwortung sichtbar zuzuordnen. Der Nachteil ist zusätzlicher Zeitaufwand; bei vielen Freigaben entsteht leicht ein Engpass. Unternehmen sollten deshalb die Folgen eines Fehlers, die Häufigkeit von Ausnahmen und die tatsächliche Fähigkeit des Teams zur Prüfung gegeneinander abwägen.
Reviewer
Melissa Senn
Melissa Senn ist seit 2016 bei IONOS und fokussiert sich im Digital Guide auf die Bereiche Website, E-Commerce, Social Media sowie KI. Als Digitalstrategin nutzt sie ihre umfassende SEO- und GEO-Erfahrung, um komplexe technologische Trends in praxisnahe Inhalte zu verwandeln.