Guardrails sind Schutzmechanismen, die festlegen, was ein KI-System tun darf und wo seine Grenzen liegen. Dazu gehören technische Kontrollen, Regeln und Überwachungsverfahren. Sie können beispielsweise verhindern, dass vertrauliche Informationen ausgegeben, unerwünschte Inhalte erzeugt oder bestimmte Funktionen ohne Freigabe ausgeführt werden.

Solche Leitplanken können an verschiedenen Stellen eines KI-Systems greifen. Eingaben lassen sich prüfen, Ausgaben filtern und Aktionen beschränken. Bei KI-Agenten können Guardrails zusätzlich bestimmen, auf welche Werkzeuge oder Daten ein System zugreifen darf.

Vollständige Sicherheit bieten sie allerdings nicht. Schutzmechanismen können umgangen werden und müssen deshalb überprüft und weiterentwickelt werden. Das NIST weist darauf hin, dass ein festes Regelwerk keinen universellen Schutz gegen immer neue Angriffsversuche gewährleisten kann. Guardrails sind deshalb keine einmal eingerichtete Sperre, sondern Teil einer fortlaufenden Absicherung von KI-Systemen.