KI-News KW 35: Kennzeichnungspflicht, KI-Phishing und Werbung in ChatGPT

Immer wieder erlebe ich am Ende einer Beratung oder eines Trainings dieselbe Szene. Die Technikfragen sind geklärt, alle haben ihr Werkzeug bedient, jemand hat sogar etwas gebaut, das tatsächlich funktioniert. Dann meldet sich jemand aus der zweiten Reihe und fragt: „Und wer gibt das jetzt bei uns frei?" Danach wird es still — länger als bei jeder technischen Frage vorher. Weil im Raum selten jemand sitzt, der das entscheiden darf.

Die Technik ist der einfache Teil geworden: Sie kommt fertig, sie kostet wenig, sie funktioniert. Was nicht mitgeliefert wird, ist die Frage, wer im eigenen Haus dafür geradesteht. Die fünf Meldungen dieser Ausgabe zeigen dieselbe Lücke immer wieder.

Lesezeit: rund 5 Minuten.

Probier das

Zerleg den Prozess, bevor du ihn der KI gibst.

Die häufigste Enttäuschung mit KI sieht so aus: Man wirft eine ganze Aufgabe in einem Satz hinein — „schreib mir das Angebot für Kunde X" — und bekommt solides Mittelmaß zurück. Der Fehler steckt selten in der Formulierung. Er steckt darin, dass eine Aufgabe abgegeben wurde, die man selbst nie in Schritte zerlegt hat.

„Zerlege den folgenden Arbeitsprozess in 5 bis 7 Schritte. Sag mir zu jedem Schritt, ob du ihn übernehmen kannst, ob du zuarbeiten kannst oder ob er beim Menschen bleiben muss — und warum."

Das wirkt, weil du danach zum ersten Mal siehst, wo die Arbeit wirklich liegt. Meistens sind es zwei von sieben Schritten, die die KI gut übernimmt, und ein dritter, an dem sie zuverlässig danebenliegt. Genau diesen dritten würdest du im Ein-Satz-Prompt nie finden. Schreib danach drei Kriterien auf, an denen du das Ergebnis prüfst, und lauf den Prozess einmal mit einem echten Fall durch. Ein Prozess, zwanzig Minuten — mehr braucht es für den Anfang nicht.

→ Quelle

Fünf Meldungen, ein Muster

Kennzeichnen musst du seit dem 2. August — offen ist nur, was genau. In einer früheren Ausgabe ging es um das unsichtbare Wasserzeichen, das Anbieter in KI-Texte einweben. Die Frage, die danach am häufigsten zurückkam, war eine andere: Was muss ich denn selbst kennzeichnen? Artikel 50 des EU AI Act ist seit dem 2. August 2026 anwendbar und verlangt, dass Menschen erkennen können, wenn sie mit KI sprechen oder KI-erzeugte Inhalte vor sich haben. Betroffen ist, wer einen Chatbot betreibt, KI-Bilder im Marketing einsetzt, mit Voicebots arbeitet — also KI-Stimmen am Telefon — oder KI-Texte zu Themen von öffentlichem Interesse veröffentlicht. Das Kriterium ist nicht, ob KI beteiligt war, sondern ob sie wesentlich beigetragen hat, ohne dass ein Mensch das Ergebnis noch wirklich kontrolliert. Verstöße können bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes kosten. Für offensichtlich künstlerische oder satirische Werke reicht ein dezenter Hinweis im Abspann oder Impressum. Setz dich mit Marketing und Kundenservice zusammen und schreib auf, welche eurer Ausgaben — Posts, Bilder, Telefonansagen, Serienbriefe — überhaupt in diese Kategorie fallen.

→ FORUM Institut · → TÜV-Akademie

Die Rechtschreibfehler sind weg, und mit ihnen das Erkennungsmerkmal. Ein Forschungsteam von BIFOLD/TU Berlin, dem französischen Inria-Institut und der Ruhr-Universität Bochum hat im August 2026 auf dem USENIX Security Symposium in Baltimore die bislang größten Zahlen zu KI-Phishing vorgelegt. Versuchsfeld war die TU Braunschweig mit 7.741 Beschäftigten, echte Mails, abgestimmt mit Datenschutzbeauftragtem und Personalrat. Generische Phishing-Mails erreichten eine Klickrate von 3,9 Prozent. Automatisiert personalisierte Mails — die KI las öffentlich verfügbare Informationen über die Empfänger und schrieb passend dazu — kamen auf 10,0 Prozent, also mehr als das Doppelte. Von Menschen handgeschriebene Mails lagen mit 24,2 Prozent noch höher, kosteten aber sieben Minuten pro Stück; der KI-Ablauf brauchte 45 Sekunden. Das im Versuch eingesetzte Filtersystem schlug bei einer von knapp 4.000 KI-Mails an — welches Produkt das war, nennt die Auswertung nicht, aber die Größenordnung ist deutlich genug. Wer seinen Leuten also weiterhin beibringt, Phishing an schlechtem Deutsch und unpersönlicher Anrede zu erkennen, trainiert ein Merkmal, das gerade verschwindet. Ersetze in der nächsten Awareness-Runde die Erkennungsregeln durch eine Verfahrensregel: Jede Anweisung zu Zahlung, Bankverbindung oder Zugangsdaten wird über einen zweiten, selbst gewählten Kanal bestätigt — unabhängig davon, wie glaubwürdig die Mail aussieht.

→ t3n · → idw

Seit dem 24. August läuft Werbung in ChatGPT — auch in Deutschland. OpenAI hat sein Anzeigengeschäft in 31 europäischen Märkten gestartet; Deutschland, Österreich und die Schweiz sind dabei. Werbung sehen die Nutzer der kostenlosen Version und des neuen Go-Tarifs für sieben Euro im Monat, die höheren Abos bleiben werbefrei. OpenAI betont, Anzeigen würden klar von den Antworten getrennt und Chatverläufe nicht an Werbekunden weitergegeben. Vorausgegangen war ein Test in den USA seit Februar. Die öffentliche Debatte dreht sich jetzt darum, ob Anzeigen die Antworten beeinflussen. Im Betrieb ist das die zweitwichtigste Frage — die erste lautet, in welcher Version deine Leute überhaupt arbeiten, denn die kostenlose ist genau die ohne vertragliche Zusagen zu Datenverarbeitung und Speicherung. Frag einmal offen in die Runde, wer bei euch welche Version nutzt; die Antwort fällt meistens unangenehmer aus als erwartet.

→ heise · → adzine

Agenten scheitern im Mittelstand nicht am Modell, sondern an den Stammdaten. KI-Agenten — Programme, die nicht nur antworten, sondern mehrstufige Aufgaben in euren Systemen selbst ausführen — werden für mittelständische Betriebe gerade dort interessant, wo Fachkräftemangel auf standardisierbare Abläufe trifft: IT-Support, Rechnungsfreigaben, wiederkehrende Vertriebsaufgaben. Die Bedingungen dafür sind unspektakulär und liegen alle im eigenen Haus: gepflegte Stammdaten, dokumentierte Schnittstellen, ein funktionierendes Rechtemanagement. Das deckt sich mit dem, was ich in Projekten sehe — die Diskussion dreht sich monatelang um die Auswahl des richtigen Werkzeugs, und dann scheitert der Pilot daran, dass drei Systeme dieselbe Kundennummer unterschiedlich schreiben. Empfohlen wird ein abgegrenzter Pilot über drei bis sechs Monate, besetzt aus IT, Fachbereich und Datenschutz, mit einer gemessenen Ausgangslage vor dem Start, festgelegten Eskalationswegen und einem Protokoll darüber, was der Agent tut. Und jeder Agent bekommt nur die Rechte, die sein Ablauf braucht — was in Piloten fast immer umgangen wird, weil ein weit geöffneter Zugang schneller funktioniert. Wenn du einen Prozess automatisieren willst, spiel ihn vorher einmal von Hand durch und schreib auf, aus welchen Systemen du dabei Daten holst.

→ it-daily

Und eine Entwarnung, die keine ist. Die Bundesregierung sieht in ihrer Antwort auf eine parlamentarische Anfrage keinen systematischen, KI-bedingten Stellenabbau in Deutschland. Die Digitalisierung führe zu einem Umbau von Aufgaben innerhalb bestehender Berufe; ganze Berufe würden selten ersetzt. Routinetätigkeiten fielen weg, dafür gewinne das kritische Bewerten und Kontrollieren von KI-Ergebnissen an Bedeutung. Damit bestätigt Berlin genau den Trend, den du im eigenen Betrieb längst siehst — und benennt nebenbei eine Tätigkeit, die in keiner Stellenbeschreibung steht, für die niemand ausgebildet wurde und die trotzdem jeden Tag anfällt. Kosten verursacht sie so oder so: entweder als Weiterbildung oder als Fehler, den zu spät jemand bemerkt. Trag die Prüfung deiner wichtigsten KI-Ergebnisse namentlich bei einer Person ein, bevor sie stillschweigend bei allen und damit bei niemandem liegt.

→ heise

Zum Schluss

In allen fünf Meldungen ist die Technik längst geliefert. Der AI Act sagt dir nicht, welche eurer Texte er meint. Die Phishing-Studie liefert kein Werkzeug, sondern eine Verfahrensfrage. Die Werbung in ChatGPT ändert nichts an eurer Nutzung — sie macht nur sichtbar, wie viele in der Gratisversion sitzen. Die Agenten warten auf Stammdaten, die niemandes Aufgabe sind. Und die Bundesregierung beschreibt eine neue Tätigkeit, ohne zu sagen, wer sie ausübt.

Das ist keine schlechte Nachricht. Es heißt nur, dass der Engpass hier nicht im Werkzeug liegt, sondern im Organigramm — und dort kannst du ihn auch ohne Budget verschieben.

Eine Zahl genügt als Selbstcheck: Wie viele KI-erzeugte Texte, Bilder oder Antworten verlassen bei euch pro Woche das Haus, ohne dass ein Mensch sie vorher freigibt? Schätz einfach. Wenn du die Zahl nicht ungefähr nennen kannst, ist das schon die Antwort.

Diese Ausgabe ist zuerst im wöchentlichen KI-Newsletter erschienen — jeden Dienstagmorgen, fünf Minuten Lesezeit, mit einem Praxis-Impuls, den du am selben Tag ausprobieren kannst.