Automation Bias beschreibt die menschliche Tendenz, automatisierten Systemen mehr zu vertrauen als dem eigenen Urteil – auch wenn die Maschine irrt.

Was ist Automation Bias?

Der Begriff stammt aus der Kognitionspsychologie und wurde ursprünglich in der Luftfahrt erforscht: Piloten ignorierten eigene Beobachtungen, weil der Autopilot etwas anderes anzeigte. Im Alltag begegnet uns Automation Bias überall dort, wo wir Algorithmen, KI oder automatisierte Empfehlungen nutzen – und aufhören, sie zu hinterfragen. Bei der Navigations-App folgen wir blind, obwohl die Straße gesperrt ist. Beim Chatbot glauben wir den Antworten, ohne die Quellen zu prüfen.

Warum ist das für Unternehmen relevant?

Wer KI-Tools für Marketing, Texte oder Kundenkommunikation nutzt, läuft Gefahr, Fehler einfach zu übernehmen – weil KI so selbstsicher klingt. Das kann zu falschen Behauptungen, irreführenden Inhalten oder rechtlichen Problemen führen. Ein deutsches Gericht hat im Zusammenhang mit einem KI-generierten Chatbot-Text auf Automation Bias hingewiesen: Die Verantwortlichen hatten den Output nicht geprüft und wurden für den Fehler haftbar gemacht. Die Antwort darauf heißt redaktioneller Vorbehalt: immer ein Mensch, der drüber schaut, bevor etwas rausgeht.

Hinweis: Dieser Glossar-Eintrag gibt einen allgemeinen Überblick – er ersetzt keine Rechtsberatung. Bei konkreten Fragen zur rechtlichen Situation deines Unternehmens empfehle ich, eine Rechtsanwältin oder einen Rechtsanwalt hinzuzuziehen.

Mehr zum Thema: KI · Redaktioneller Vorbehalt · EU AI Act · ChatGPT