Der EU AI Act ist das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz. Er gilt in allen EU-Staaten und stuft KI-Systeme nach ihrem Risiko ein.

Was regelt der EU AI Act?

Das Gesetz teilt alle KI-Anwendungen in vier Stufen ein – je nach dem, wie riskant ihr Einsatz ist:

• Verboten – KI, die Menschen grundlegende Rechte verletzt. Beispiel: Social Scoring, also die automatische Bewertung von Menschen anhand ihres Verhaltens (wie in einigen anderen Ländern bereits Praxis). In der EU ist das nicht erlaubt.
• Hohes Risiko – KI, die wichtige Entscheidungen trifft. Zum Beispiel in Bewerbungsverfahren, bei der Kreditvergabe oder in der Medizin. Hier gelten strenge Auflagen: Dokumentation, Tests, menschliche Kontrolle.
• Begrenztes Risiko – KI, die mit Menschen interagiert. Zum Beispiel Chatbots – also Programme, die automatisch auf Nachrichten antworten. Hier gilt vor allem: Du musst kenntlich machen, dass kein Mensch antwortet.
• Minimales Risiko – KI ohne besondere Auflagen. Zum Beispiel Spam-Filter oder Produktempfehlungen in Online-Shops. Für diese Anwendungen gelten keine besonderen Pflichten.

Was bedeutet das für Unternehmen, die KI nutzen?

Wer KI-Tools nutzt – zum Beispiel für Texte, Bilder oder Kundenservice – gilt laut EU AI Act als Betreiber. Das bringt konkrete Pflichten mit sich:

• KI-generierte Inhalte müssen in bestimmten Fällen als solche gekennzeichnet werden (Transparenzpflicht).
• Ein Mensch muss das Ergebnis prüfen, bevor es veröffentlicht wird (redaktioneller Vorbehalt).
• Du brauchst ein Grundverständnis davon, welches KI-System du nutzt und wie es funktioniert.

Die meisten Social-Media-Anwendungen fallen in die Stufen mit geringem oder begrenztem Risiko. Trotzdem lohnt es sich, das Thema zu kennen – die Anforderungen wachsen.

Tipp: Genau hinschauen solltest du vor allem bei der Kennzeichnungspflicht – die gilt ab August 2026 verbindlich. Was das konkret für deinen Betrieb bedeutet, erkläre ich im Blogartikel: KI-Kennzeichnungspflicht nach Art. 50 KI-VO.

Hinweis: Dieser Glossar-Eintrag gibt einen allgemeinen Überblick – er ersetzt keine Rechtsberatung. Bei konkreten Fragen zur rechtlichen Situation deines Unternehmens empfehle ich, eine Rechtsanwältin oder einen Rechtsanwalt hinzuzuziehen.

Mehr zum Thema: KI · Transparenzpflicht · Betreiber (KI-Kontext) · DSGVO