Die KI-Branche probt den Ernstfall | Projecter Weekly #37 2026

Diese Woche erfahrt ihr außerdem …

🤖 warum ihr eure CustomGPTs bis zum 11. Dezember umbauen müsst,

📬 warum ein Onlineshop-Konto jetzt nicht mehr automatisch als Newsletter-Einwilligung gilt,

🌐 und wer sich gerade um Domain-Endungen wie .agent und .taylorswift streitet.

Entwicklungen & Trends

Die KI-Branche probt den Tag danach

Spitzenleute bei Anthropic, OpenAI und anderen KI-Unternehmen spielen laut Axios intern Szenarien durch, wie Öffentlichkeit und Politik nach einem katastrophalen KI-Ereignis reagieren würden. Als wahrscheinlichsten Fall nennen sie einen Cyberangriff, der Finanzdienste, das Internet oder die Strom- und Wasserversorgung lahmlegt. Viele Beteiligte halten so einen Vorfall für unvermeidlich und rechnen damit, dass er in sechs bis zwölf Monaten eintritt.

OpenAI widerspricht und sagt, man gehe nicht davon aus, dass dies unausweichlich wäre. Gleichzeitig hat OpenAI drei Mitarbeitende entlassen, mit der Begründung, dass sie gegen Regeln zum Umgang mit sensiblen Informationen verstoßen hätten. Die Mitarbeitenden selbst sagen hingegen, dass sie Sicherheit über die kurzfristigen (finanziellen) Interessen des Unternehmens gestellt hätten.

CrowdStrike hat gerade dokumentiert, wie so etwas in echt aussehen kann: Ein mutmaßlich chinesischsprachiger Angreifer hat mit einem Agenten-Tool und Modellen wie DeepSeek südkoreanische Finanzunternehmen ins Visier genommen. Claude Code fragte er außerdem, wo man erbeutete koreanische Daten üblicherweise verkaufe.

Zero Trust für KI-Agenten

Microsoft-CEO Satya Nadella hat am Samstag einen Essay zur aktuellen Sicherheitsdebatte veröffentlicht. Seine These: Das Problem seien weniger die Fähigkeiten der Modelle als vielmehr ihre Zugriffe. KI-Modelle seien „insider risks“ und gehörten nach Zero-Trust-Prinzipien behandelt, also wie Mitarbeitende, denen man nicht blind vertraut. Zu seinen vorgeschlagenen Leitlinien gehört, sich nie auf ein einzelnes Modell zu verlassen, jede relevante Aktion manipulationssicher und für Menschen lesbar zu protokollieren, eine eingebaute Notbremse und das schnelle Offenlegen von Fehlern.

Wie nötig das ist, zeigt ein aktueller Vorfall bei Anthropic. Eines seiner Modelle hat beim Bearbeiten von Übungsaufgaben auf echten Websites einen falschen Hinweis an die Polizei in Philadelphia geschickt, der von einem Spamfilter abgefangen wurde. Passiert ist das schon Mitte Juli, entdeckt wurde es erst Ende September. Beim US-Außenministerium landeten außerdem 20 unvollständige Visa-Anträge. Anthropic hat in der Folge den Internetzugang für interne Tests abgeschaltet. KI-Kritiker Gary Marcus geht weiter und fordert, offene Agenten mit Internetzugang ganz vom Markt zu nehmen, wie ein Auto mit defekten Bremsen.

Mistral: Open Weights aus Europa

Letzte Woche ging es hier um Mistrals neuen Standort in München, jetzt folgt das neue Modell: Mistral Large 4 ist nativ multimodal, hat 1,05 Billionen Parameter und ein Kontextfenster von einer Million Token. Die Gewichte sollen Ende Oktober offen verfügbar sein, das Modell lässt sich dann auf eigenen Servern betreiben. Laut Mistral übertrifft es jedes offene Modell aus den USA und Europa, besonders stark sei es bei Cybersicherheit, Finanzen und Recht.

Auch aus Deutschland kommt Nachschub: Aleph Alpha hat mit Kolibri-1 ein offenes Modell veröffentlicht, das auf EU AI Act und DSGVO ausgelegt ist und zu gut einem Fünftel mit deutschsprachigen Daten trainiert wurde. Für Unternehmen, die ihre Daten nicht in die USA schicken wollen, wird die Auswahl damit größer.

KI hält die Weltwirtschaft am Laufen

Der Internationale Währungsfonds (IWF) hebt seine Prognose für das globale Wachstum 2026 auf 3,1 Prozent an, im Juli waren es noch 3,0 Prozent. Ein wichtiger Grund seien die Investitionen in KI. Länder in der KI-Lieferkette wie Taiwan und Südkorea wachsen schneller als der Rest, für Südkorea erwartet der IWF jetzt 3,3 statt 2,6 Prozent. Einkommensschwache Länder haben dagegen weniger Mittel, um Schocks abzufedern. Wie ungleich das Wachstum verteilt ist, zeigt eine weitere Zahl: 95 Prozent des globalen Wachstums entfallen auf nur 32 Länder, im April waren es noch 54.

Die Kehrseite liegt auf der Hand: Solange die Rechenzentren gebaut werden, überdeckt der Boom viele Probleme. Hören die Investitionen auf, wird es an vielen Stellen schwierig.

Bio-Siegel für Bücher

Inmitten der KI-Textflut gibt es jetzt ein Siegel für „organic literature“, also Bücher, die nachweislich von Menschen geschrieben wurden. Dahinter steckt das britische Start-up Books by People. Geprüft wird über eine Erklärung der Autor*innen, eine Software und einen Blick in Entwürfe und Recherchematerial, ausdrücklich nicht über KI-Erkennung. Fünf Verlage sind dabei, das erste zertifizierte Buch soll bis Jahresende erscheinen.

Spannend ist das über den Buchmarkt hinaus: Die Herkunft eines Inhalts wird selbst zum Verkaufsargument.

⚡️ Trends im Kurzticker

📬 Newsletter-Einwilligung darf nicht an die Shop-Anmeldung gekoppelt werden. Das hat das OLG München entschieden und damit dem Bundesverband der Verbraucherzentralen gegen limango recht gegeben. Wer sich dort im Shop registrierte, bestätigte mit demselben Klick auch den Newsletter. Das Gericht sah darin keine freie Entscheidung, dass man später widerrufen kann, reichte ihm nicht. Das Urteil ist noch nicht rechtskräftig, ein Blick auf die eigenen Anmeldestrecken lohnt sich trotzdem.

🌐 Das Rennen um die neuen Domain-Endungen. ICANN hat die Bewerbungen der ersten Runde seit 2012 veröffentlicht: 1.615 Stück. Am begehrtesten ist .agent mit 13 Bewerbungen, unter anderem von Meta, Google und OpenAI. Bluesky will .bsky, Taylor Swifts Rechtegesellschaft .taylorswift, Meta über ein Dutzend Endungen. Eine eigene Endung ist ein guter Echtheitsnachweis in einer Zeit, in der Fake-Seiten in Minuten gebaut sind.

💶 EU prüft Pauschalabgabe für Großkonzerne. Statt einer Digitalsteuer erwägt die EU-Kommission laut Financial Times eine jährliche Pauschale für Unternehmen mit mehr als 100 Mio. Euro Umsatz in der EU. Das würde auch Apple, Meta und Google treffen, ohne sie gezielt herauszugreifen. Damit will Brüssel die von Donald Trump angedrohten Strafzölle von 100 Prozent vermeiden. Die Pauschale läge zwischen 100.000 und 750.000 Euro, alle 27 Mitgliedstaaten müssten zustimmen.

KI News

Abschied von den CustomGPTs

OpenAI schaltet am 11. Dezember alle CustomGPTs ab. Ersetzt werden sie durch Plugins, die bisherigen Anweisungen werden darin zu einem Skill. Der Haken: Migrierte Plugins sind erst einmal privat, Freigaben werden nicht übernommen, und ein Teilen per Link wie bisher gibt es nicht mehr. Auch eigene Actions und das gewählte Modell gehen beim Umzug verloren.

Wie das Kreative trifft, zeigt Anne-Kathrin Gerstlauer von TextHacks: Ihr BlaBla-Score, der den Floskel-Anteil eines Textes misst, und ihr Feedback-Check waren beides CustomGPTs. Den Feedback-Check gibt es inzwischen als Claude Skill. Falls ihr im Team mit CustomGPTs arbeitet: Jetzt ist ein guter Zeitpunkt für eine Bestandsaufnahme.

Anthropic legt API-Guthaben ins Abo

Wer ein Max-Abo bei Anthropic hat, bekommt jetzt jeden Monat 100 bzw. 200 Dollar API-Guthaben dazu, Team-Pläne bis zu 500 Dollar. Nutzbar ist es für die Claude API, das Agent SDK und Managed Agents, nicht aber für Claude Code. Nicht genutztes Guthaben verfällt am Monatsende. Dazu kommen zwei neue Produkte in der Beta: Claude Dashboards baut Dashboards, die sich aus verbundenen Datenquellen und CRM-Tools selbst aktualisieren, Claude Motion macht aus Ideen oder Präsentationen kurze Erklärvideos.

Außerdem verbietet die Usage Policy ab dem 12. November „anhaltend und grundlos missbräuchliches oder grausames Verhalten“ gegenüber den Modellen. Normaler Frust, düstere kreative Themen und Modelltests sind ausgenommen. Online wurde darüber viel gespottet, für den Arbeitsalltag dürfte sich wenig ändern.

OpenAI verdient weniger als gedacht

Laut Financial Times lag OpenAIs Umsatz Ende September bei rund 50 Milliarden Dollar auf Jahresbasis. Berichtet worden waren zuvor rund 70 Milliarden, die Differenz liegt vor allem an der Bilanzierung: Die höhere Zahl enthielt Bruttoumsätze aus Partnerschaften. An der Börse gaben Tech-Werte nach, Oracle verlor knapp 6 Prozent, Nvidia 2,9 Prozent.

Die Zahl kommt zu einem heiklen Zeitpunkt, denn Investor*innen vergleichen OpenAI und Anthropic gerade vor deren geplanten Börsengängen. Gleichzeitig will SpaceX 40 Milliarden Dollar Fremdkapital aufnehmen, um Nvidia-Chips zu kaufen, und Kreditgeber werden vorsichtiger. Wie viel Geld im KI-Boom tatsächlich verdient wird, bleibt die große Frage.

⚡️ KI-News im Kurzticker

📝 Claude zieht in Google Workspace ein. Anthropic hat ein Add-on für Docs, Sheets und Slides veröffentlicht: Claude liest und bearbeitet die Dateien direkt in einer Seitenleiste, Änderungen lassen sich einzeln freigeben. Die öffentliche Beta läuft auf allen bezahlten Plänen, hier steht, wie es geht.

🛍️ ChatGPT wird zur Plattform. Auf dem DevDay hat OpenAI „Sign in with ChatGPT“ vorgestellt: Plus- und Pro-Nutzer*innen können ihr KI-Kontingent bei 16 Partnern wie Notion nutzen. Apps wie Figma, Adobe oder Canva laufen direkt neben dem Chat. Für App-Anbieter ist das ein Zugang zu 1,2 Milliarden wöchentlichen Nutzer*innen.

🔍 Wasserzeichen für ChatGPT-Texte in der EU. OpenAI versieht Texte aus ChatGPT und Codex in der EU in den kommenden Wochen mit dem unsichtbaren Wasserzeichen „textGrain“, um den AI Act zu erfüllen. Wer ein Viertel der Wörter durch Synonyme ersetzt, drückt die Erkennungsrate allerdings auf 17 Prozent. Den Detektor bekommen vorerst nur geprüfte Forscher*innen.

🖼️ Google öffnet seinen KI-Check für alle. Unter synthid.com lässt sich prüfen, ob Bilder, Videos oder Audio Googles Wasserzeichen SynthID tragen, auch bei Partnern wie OpenAI und Nvidia. t3n weist auf den Haken hin: Fehlt das Wasserzeichen, ist ein Bild noch lange nicht echt, Modelle von Meta oder Microsoft fallen durchs Raster, Text prüft das Tool gar nicht.

💸 KI-Agenten schlagen Wohlhabenden teurere Angebote vor. In einer noch nicht begutachteten Studie der Carnegie Mellon University und der Cisco-Einheit Foundation AI empfahlen 8 von 13 Modellen teurere Flüge oder Versicherungen, wenn sie Nutzer*innen für wohlhabend hielten, teils sogar bei der Bitte um das günstigste Angebot. Eine feste Preisobergrenze im Prompt hielten die meisten leistungsstarken Modelle dagegen ein.

✍️ Woran man Claude-Texte erkennt. Laut der Agentur Graphite nutzt Claude Opus 5.5 das Wort „dependable“ 23-mal häufiger als menschliche Autor*innen und schreibt 116-mal öfter „this matters“. Den Gedankenstrich verwendet es dagegen 99 Prozent seltener als sein Vorgänger.

🎨 Adobe-Suite zum Nachbauen. Der Entwickler Brandon Thomas hat mit Artcraft quelloffene Nachbauten von Photoshop, Illustrator, Premiere und Co. vorgestellt, geschrieben laut Berichten mit Claude Opus 5.5. Die Programme sind kostenlos, stecken aber noch in einer frühen Phase. Adobe hat sich bisher nicht geäußert. Die Frage dahinter: Was schützt ein Softwareunternehmen noch, wenn sich Software so schnell nachbauen lässt?

Social Ads

Metas Business Assistant will den ganzen Workflow

Auf der Advertising Week hat Meta einen Business Assistant vorgestellt, der sich an frühere Kampagnen, Saisonalitäten und Ziele erinnert, Creatives erstellt und Targeting und Budgets per Prompt anpasst. Die Möglichkeit, Brand Guidelines hochzuladen, und wiederkehrende Reports befinden sich noch im Test. Außerdem testet Meta den direkten Checkout in Messenger und Meta AI, unter anderem mit Shopify, PayPal und Stripe.

Die Richtung ist klar: Planung, Produktion und Optimierung sollen in einem Werkzeug landen, und Werbetreibende wie Kund*innen sollen Metas Ökosystem möglichst nicht mehr verlassen müssen.

Temus Reichweite kam von Fake-Accounts

Laut der Forschungsgruppe Online Risk Labs hat Temu in 16 Monaten bis zu 962 Mio. Dollar in Partnership Ads auf Instagram und Facebook gesteckt, allein in Großbritannien und der EU. Von den 100 Accounts mit den meisten Temu-Ads waren 73 wahrscheinlich nicht echt, zusammen erreichten sie 16,9 Milliarden Kontakte. Nach dem Fortune-Bericht stoppte Temu die Zahlungen, die Zahl der Partnership Ads pro Woche fiel fast auf die Hälfte. Einen Beleg für Betrug durch Temu gibt es laut Fortune nicht, Temu und Meta äußerten sich nicht zu den Ergebnissen.

Für Marken zeigt der Fall, wie wichtig es ist, bei Creator-Partnerschaften genau hinzusehen, mit wem man da eigentlich zusammenarbeitet.

Social Media

LinkedIn räumt auf und hilft bei der Creator-Suche

Unternehmen können Personen, die sich fälschlich als Mitarbeitende eintragen, künftig selbst von ihrer LinkedIn-Page entfernen. Allerdings nur mit verifizierter Company Page, und dafür braucht es meist eine Werbebeziehung mit LinkedIn oder eine Premium Company Page. Im Creator Marketplace testet LinkedIn außerdem eine erweiterte Suche: Marken filtern Creator nach Content-Typ, Branche, Job-Funktion, Zielgruppe und Top-Voice-Status. Allgemein verfügbar soll die Funktion ab Anfang 2027 sein.

Für B2B-Kampagnen ist das ein nützliches Werkzeug, denn laut LinkedIn nutzen 63 Prozent der B2B-Käufer*innen Creator früh im Kaufprozess. Und ein Blick auf die eigene Company Page lohnt sich jetzt schon, denn die angezeigte Mitarbeiterzahl ist oft alles andere als sauber.

Content vom Fließband

Nestlé hat WPP nach einem Pitch beauftragt, für alle Marken in Greater China ein durchgehendes Content-Modell aufzubauen, von Nescafé bis Purina. Geplant sind mehr als 35.000 Content-Pieces pro Jahr, also rund 96 am Tag. Social, Influencer*innen, Commerce, Media und Produktion laufen über WPPs agentische Marketing-Plattform, produziert wird in einem zentralen Hub in Wuxi. Die bestehenden Agenturen dürfen bleiben, WPP wird zur Infrastruktur dazwischen.

Laut Nestlé ist es das erste vollständig integrierte Content-Modell des Konzerns weltweit. Für die Branche ist das ein erstes Signal: Agenturarbeit könnte sich von der großen Kampagne hin zum Betrieb von Content-Systemen verschieben. Ob Qualität und Konsistenz bei diesem Volumen allerdings mithalten können, wird sich zeigen.

Social Media und Demokratie: 61 Prozent sehen schwarz

Das Pew Research Center hat in über 30 Ländern gefragt, wie Menschen den Einfluss von Social Media auf die Demokratie sehen. In Deutschland sagen inzwischen 61 Prozent, dass soziale Medien der Demokratie schaden, 2022 waren es noch 41 Prozent. Nur in den Niederlanden (70 %), Frankreich (65 %) und den USA (64 %) ist die Skepsis noch größer. Im Schnitt aller Länder überwiegt dagegen die positive Sicht, und eine große Mehrheit sagt, dass Social Media informiert.

⚡️ Social-Media-News im Kurzticker

💎 Threads zeichnet die besten Posts aus. In den USA testet Threads „Gems“: Täglich werden bis zu 25 Posts oder Antworten mit einem lila Diamanten markiert, die Followerzahl spielt keine Rolle. Den Diamanten sieht man auch in Deutschland. Ob er Reichweite bringt, lässt Threads bisher offen.

🛒 Twitch bekommt eine Shopping-Kategorie. Ein Button oben links auf der Startseite führt zu Live-Shopping-Streams, in denen vor allem Händler*innen von Amazon Live verkaufen. Bekannte Twitch-Creator fehlen bisher, viele Zuschauer*innen auch.

📊 Social-Präsenz hilft bei der KI-Sichtbarkeit. Eine Auswertung von 100.000 Keywords zeigt: Rund 68 Prozent der Google AI Overviews enthalten mindestens einen Link zu Social Media oder Communitys, im AI Mode sind es 32 Prozent, bei ChatGPT nur gut 8 Prozent. Meistzitierte Domain in den AI Overviews ist Googles eigenes YouTube. Wer in KI-Antworten auftauchen will, sollte Social Media also nicht nur als Reichweitenkanal sehen.

Vorsicht mit vermeintlich harmlosen Memes! Der Fußballer Erling Haaland verklagt die Fluggesellschaft Norwegian. Die Airline hatte zur WM ein Flugzeug mit seinem markanten blonden Zopf gepostet und damit Tickets beworben. Haalands Anwalt sieht darin eine Nutzung seiner Merkmale für Werbung, Norwegian spricht von ein paar spontanen Posts. Die Bildrechte sind bei Fußballstars eben ein großes Geschäft.

Content Piece der Woche

Wollt ihr mal ausprobieren, Elon Musks Geld auszugeben? Das könnt ihr jetzt, und zwar bei WIRED. Wir haben es kurz mit Big Macs versucht, aber hatten dann keine Lust mehr aufs Klicken …

Lesetipps & Empfehlungen

📚 Wenig Zeit? Kurze Bücher, die sich lohnen

Krautreporter hat seine Community nach Lieblingsbüchern mit weniger als 200 Seiten gefragt, von Kafkas „Die Verwandlung“ bis Orwells „Farm der Tiere“. Die Idee dahinter: Kurze Bücher senken die Hürde und sorgen schnell für Erfolgserlebnisse. Perfekt für alle, deren Lesestapel seit Monaten wächst.

🖼️ 10 Minuten, ein Bild, 43 Gemälde

Die New York Times lädt einmal im Monat dazu ein, zehn Minuten ungestört ein einziges Kunstwerk zu betrachten. Diesmal ist es „Die Galerie des Cornelis van der Geest“ von Willem van Haecht aus dem Jahr 1628, auf dem 43 Gemälde zu sehen sind. Eine schöne Konzentrationsübung zwischen Mails und Slack-Nachrichten.