DE

Guardrails

Guardrails sind Schutzgeländer für KI-Systeme: technische und redaktionelle Regeln, die festlegen, was ein Modell nicht ausgeben darf und wie es bei heiklen Themen reagiert. Sie sind kein Bestandteil des Sprachmodells selbst, sondern werden vom Anbieter darübergelegt – und können deshalb unterschiedlich streng ausfallen oder ganz fehlen.

BeispielFragt eine Person einen Chatbot nach etwas Gefährlichem, verweigert ein System mit Guardrails die Antwort und verweist auf Hilfsangebote. Ein Anbieter ohne solche Regeln liefert stattdessen einfach das, wonach gefragt wurde.

Folgen zu diesem Begriff