Der EU AI Act ist da – jetzt müsst ihr genau aufpassen

Wie immer bei solchen Texten zuerst einmal eine kleine Warnung / Disclaimer – hier geht’s um Rechtstexte usw. und ich bin KEIN Anwalt.

Wenn ihr also wirklich sicher sein wollt, dann müsst ihr selbst zu einem Anwalt gehen und euch aufklären lassen. Ich versuche zwar, euch keinen Scheiss zu erzählen und habe viel recherchiert…. Nicht, dass ihr dann kommt und sagt: „Aber der Chefblogger hat’s erzählt und jetzt ist er schuld…“

Also, ab dem 2. August 2026 tritt ein weiterer Teil des „EU AI Act“ in Kraft, wo es um die sogenannte Transparenzpflicht geht.

Also ab jetzt muss alles genau gekennzeichnet sein, was mit KI erstellt, verschönert oder verändert worden ist.

Wer sich nicht daran hält, der bezahlt ein Bussgeld von bis zu 15 Millionen € oder 3% eures weltweiten Jahresumsatzes.

Auch ist es so: Es gibt hier keine Verwarnung – wer also Mist baut, wird gleich zur Kasse gebeten.

Es gibt 2 Seiten von diesem Teil, und zwar betrifft eines die KI-Herstellerfirmen von KI wie ChatGPT oder Claude oder Gemini usw. Den Teil lass ich hier mal weg.

Und dann betrifft es die Betreiber, also Firmen, Blogs, Journalisten, Webshops, Influencer – also alle Arten von Content Creators.

Chatbots

Ab sofort muss man bei Chatbots genau erkennen können, ob der Kontakt jetzt ein echter Supportmitarbeiter ist oder eine KI. Und hier spreche ich jetzt nicht nur von Text-Chatbots, sondern auch von automatischen Sprachsystemen am Telefon, die durch KI betreut werden und sich neu kennzeichnen müssen, oder automatisierten E-Mail-Antworten, die von KI verschickt werden….

Deepfakes

Zu Deepfakes zählt alles, was echt aussehen könnte oder echt klingt. Kurz gesagt Bilder, Töne, Orte, die durch KI verändert, aufgehübscht oder verbessert worden sind.

Kurz gesagt ALLES, was eine KI berührt hat.

Die einzige Ausnahme ist, wenn es eine offensichtliche unrealistische Darstellung ist. Also z. B. ein Ork, der den Kanzler Merz frisst, oder ein Drache, der auf dem Eiffelturm sitzt, oder auch ich als Topmodel mit Flügeln, also als Victoria’s-Secret-Model, über den Laufsteg spaziere. Sowas ist dann also von der Regel ausgenommen.

Texte

Hier gibt’s eine nette kleine Regel, die man sich gut merken kann.

Alles, was unkontrolliert von einer KI geschrieben worden ist, muss gekennzeichnet werden.

Die Ausnahme hier ist, wenn ihr einen Text von KI schreiben lasst und ihn danach selbst noch anschaut und kontrolliert. (Fragt mich jetzt aber nicht, wie man das beweisen kann / muss.) – Hier müsst ihr also genau aufpassen.

Also wenn ihr z. B. einen Text von einer KI korrigieren lasst, dann müsst ihr ihn nicht kennzeichnen – wenn ihr aber alles automatisiert habt (die KI recherchiert, schreibt und veröffentlicht automatisch Texte, Bilder und Videos), ja dann müsst ihr es kennzeichnen. Also bye bye diese Blogs, die Tausende von Artikeln pro Stunde machen, weil es hiess, damit kann man Geld machen…

Nun, ich lasse die meisten Artikel, die ich schreibe, von einer KI auf Grammatik prüfen und korrigieren. Ich bin ja kein Held in diesem Thema und freue mich, wenn eine KI wenigstens die grössten Bugs entfernt. Ja, selbst dieser Text hier wurde von einer KI korrigiert und ich muss ihn dann nicht kennzeichnen.

Wie muss ich das Ganze nun kennzeichnen?

Es gibt einen Grundsatz bei dieser EU-AI-Act-Verordnung und der sagt: „Ohne technische Hilfsmittel wahrnehmbar sein, spätestens beim ersten Kontakt mit dem Inhalt.“ Also es muss Teil des Contents sein und nicht im Impressum oder in den AGB versteckt sein.

Der EU AI Act schlägt folgendes Wording vor:

• „AI Generated“ für komplett durch KI generierte Bilder.
• „AI Modified“, wenn etwas durch KI angepasst worden ist.

Diese Verordnung hat aber keine verbindlichen Symbole festgelegt.

Es muss einfach ein klar erkennbares Zeichen oder ein klar erkennbarer Ton sein. Ihr könnt also eure eigenen Symbole erstellen. Wie ich aber schon sagte: Es muss klar erkennbar sein. Geht vom DAU-(Dümmster anzunehmender User)-Prinzip aus.

Wie und wo müssen diese Kennzeichnungen platziert werden?

Kurz gesagt muss es unmittelbar im Inhalt gekennzeichnet sein, also nicht versteckt oder getarnt.

Wenn ihr ein Video von KI generieren lasst, dann muss es am Anfang immer markiert werden. Also wenn ein YouTuber immer wieder KI-Videos verwendet, muss er es jedes Mal kennzeichnen.

Wenn ein Audio von KI generiert worden ist, muss am Anfang der Audioaufnahme auch klar gesagt werden, dass es KI ist.

Texte müssen natürlich auch jedes Mal markiert werden, sodass man es sofort sieht. Mein erster Gedanke war bei Blogs, dass man einen neuen Autor erstellt und ihn KI nennt und es so markiert, aber ich bin mir nicht sicher, ob das reicht. Ich denke eher, dass man vor jedem Text einen farbigen Textbereich einbauen muss, wo klar gesagt wird, dass der folgende Text jetzt von KI ist.

Wer muss sich jetzt an diese Verordnung halten?

Kurz gesagt alles, was irgendwie wirtschaftlich läuft, also Geld verdient – egal ob direkt oder indirekt.

Eine Webseite oder ein Blog muss sich eventuell daran halten, wenn er durch Affiliate Geld verdient oder Google AdSense verwendet. Ein YouTuber, der Geld verdient, ebenfalls.

Private sind aber nicht betroffen. Wenn ihr den Content nur im kleinen Kreis teilt, ist das okay. Ihr könnt also weiterhin euren Onkel in ein rosa Tütü stecken und ihn zum Nussknacker tanzen lassen.

Nun was ist mit uns aus der Schweiz? Wir sind ja kein EU Sklave 🤣 – aber wie schon bei der DSVGO müssen wir aufpassen. Kurz gesagt alle was von Leuten aus der EU gelesen oder gekauft werden könnte muss sich daran halten. Also ein Online Shop der nur Schweizer Kunden hat der ist sicher, aber einer der auch nach Deutschland liefert muss sich daran halten. Aber auch wer Tiktok, Instagram Posts macht der in Deutschland gelesen werden kann, muss sich daran halten.
Faustregel – betrifft es nur Schweizer dann nicht – sonst ja.

Achtung

Wichtig ist aber: Dieser EU AI Act ist kein Freifahrtschein – ihr müsst euch natürlich auch noch an die anderen Gesetze halten wie Urheberrechte oder Persönlichkeitsrechte usw….

Bei diesem EU AI Act gibt’s aber noch weitere wichtige Termine, die man kennen muss. Ab dem 2. Dezember 2026 müssen diese Kennzeichnungen dann auch in den Metadaten der Files eingebrannt sein und ab 2027 gibt’s neue Richtlinien für Firmen / Konzerne – z. B. wenn sie Kundendaten durch KI jagen usw….

Bussen

Denkt daran, hier kann es schnell teuer werden, denn es gibt keine Verwarnung oder so. In Deutschland ist die Bundesnetzagentur für die Durchsetzung des Gesetzes zuständig. Wenn ihr also etwas seht, könnt ihr den Content dort melden und sie werden sich um das Problem kümmern.

ABER diese Verordnung ist auch abmahntauglich. Das heisst, eure Konkurrenten können euch abmahnen, wenn ihr euch nicht an die Verordnung haltet oder sie denken, dass ihr es nicht tut… Ich denke, sowas sollte man vermeiden. 🙂

Fazit

Ich finde diesen EU AI Act eine gute Sache. Auch wenn die KI erst so ab 2022 wirklich den Durchbruch geschafft hat, sind wir jetzt schon so weit, dass es für uns immer schwieriger wird zu erkennen, ob ein Text, Bild, Audio oder Video echt ist oder Fake. Man muss nur TikTok, Instagram oder YouTube anschauen, was da gerade abläuft, oder im TV die Tagesschau anschauen. Da wird man auch regelmässig mit manipulierten Inhalten konfrontiert.

Mit diesem EU AI Act wird’s aber viel schwieriger, uns zu verarschen.

Also eigentlich eine gute Sache.

Dokumente

Hier hat die Kommission, die sich das ausgedacht hat, noch eine informative Webseite erstellt.
Kommission veröffentlicht Leitlinien zu Transparenzverpflichtungen für Anbieter und Betreiber bestimmter KI-Systeme

Und hier hat die Industrie- und Handelskammer in Köln noch einen guten Text dazu geschrieben mit Ideen, wie man das alles kennzeichnen kann und muss.
KI-Verordnung: Neue Transparenzpflichten ab August 2026