Human in the Loop, kurz HITL, bezeichnet ein Verfahren, bei dem ein Mensch unmittelbar in einen automatisierten oder KI-gestützten Prozess eingebunden bleibt. Die Maschine arbeitet also nicht vollständig allein. Menschen können Ergebnisse prüfen, Entscheidungen bestätigen, korrigieren oder bei Bedarf eingreifen.

Das Konzept spielt besonders dort eine Rolle, wo Entscheidungen erhebliche Folgen haben können. Menschliche Beteiligung soll Fehler erkennen und dafür sorgen, dass Verantwortung nicht einfach an ein automatisiertes System abgegeben wird. Das funktioniert allerdings nur, wenn die beteiligte Person tatsächlich eingreifen kann und über ausreichende Kenntnisse verfügt. Ein Mensch, der lediglich automatisch den Vorschlag der KI bestätigt, ist zwar anwesend, aber kaum eine wirksame Kontrolle.

Auch der EU AI Act verlangt bei bestimmten Hochrisiko-KI-Systemen Maßnahmen zur menschlichen Aufsicht. Human in the Loop ist damit nicht nur ein technisches Konzept, sondern auch eine Frage verantwortungsvoller KI-Nutzung.