Human in the Loop, wörtlich der Mensch in der Schleife, bezeichnet einen Prozess, in dem ein Mensch die Ergebnisse eines KI-Systems prüft, freigibt oder korrigiert, bevor sie Wirkung entfalten. Die KI liefert Vorschläge, Entwürfe oder Einstufungen, die Entscheidung bleibt beim Menschen. Abgegrenzt wird das Prinzip von Human on the Loop, bei dem ein Mensch ein weitgehend selbständig arbeitendes System nur überwacht und bei Bedarf eingreift, und von vollständig automatisierten Abläufen ohne menschliche Beteiligung.
Rechtlich hat das Prinzip zwei Anker. Die DSGVO gibt Betroffenen in Art. 22 grundsätzlich das Recht, keiner ausschließlich automatisierten Entscheidung mit rechtlicher oder ähnlich erheblicher Wirkung unterworfen zu werden. Der AI Act verlangt für Hochrisiko-Systeme eine wirksame menschliche Aufsicht (Art. 14). Die Personen mit dieser Aufgabe sollen dabei ausdrücklich auch die Neigung kennen, sich zu sehr auf maschinelle Ergebnisse zu verlassen.
In der Praxis entscheidet die Ausgestaltung darüber, ob die Schleife mehr ist als eine Formalie. Wer Hunderte KI-Ergebnisse am Tag im Akkord freigeben soll, prüft nicht mehr, sondern bestätigt. Tragfähig wird das Prinzip durch festgelegte Freigabepunkte, Zeit zum Prüfen im Arbeitsplan, Stichproben bei hohem Volumen und einen klaren Weg für Fälle, die nicht ins Muster passen.