Wenn Ihr Unternehmen im letzten Jahr einen eigenen KI-Chatbot, einen internen Assistenten oder ein LLM-Gateway selbst gehostet hat, gibt es jetzt konkreten Grund zur Überprüfung. Das Threat-Intelligence-Team von Amazon hat bestätigt, dass autonome KI-«Agenten» von Kriminellen eingesetzt werden, um genau solche Tools zu finden und auszuplündern – die gestohlenen Zugangsdaten finanzieren gleich die nächsten Angriffe.
Was genau passiert ist
Zwischen dem 3. Oktober und dem 5. November 2026 zeichnete Amazons Köder-Netzwerk MadPot Anfragen von KI-Agenten auf, die deren eigenes Arbeitsgedächtnis aus früheren Angriffskampagnen preisgaben. Laut Amazon liefen diese Kampagnen über ARTEX, ein ursprünglich für Penetrationstests entwickeltes Open-Source-Framework für agentenbasierte KI, das für kriminelle Zwecke umfunktioniert wurde (Amazon Security Blog).
Zu den genannten Zielen gehören weitverbreitete LLM-Gateways und Proxys wie One API, New API, Veloera, Sub2API und LiteLLM sowie KI-App-Baukasten wie Dify, FastGPT, Langflow, RAGFlow, Open WebUI, LobeChat und Ollama (The Hacker News). Genau diese Tools testen derzeit viele Schweizer KMU, um eigene Chatbots und Automatisierungen aufzubauen.
Besonders bemerkenswert: Die auffälligste Kampagne finanzierte sich selbst. Gestohlene API-Keys bezahlten die KI-Inferenz, die wiederum weiteres Scannen und Datendiebstahl antrieb – eine kriminelle Operation, die ihre eigene Ausweitung praktisch selbst finanziert (tbreak.com). Amazon geht mit mittlerer Sicherheit davon aus, dass separate Gruppen mit Bezug zu China hinter diesen Operationen stehen.
Wie die Angreifer reinkommen
Dafür braucht es keine ausgeklügelten Zero-Days. Die ausgenutzten Schwachstellen sind ernüchternd vertraut: offene Admin-Seiten, ungeschützte Provider-Einstellungen und Standardpasswörter – darunter der Standard-Master-Key von LiteLLM, den viele Installationen nie ändern. Zusätzlich wurden bekannte Lücken wie CVE-2025-3248 in Langflow und CVE-2026-28797 in RAGFlow ausgenutzt (Security Affairs).
Unabhängig davon hat LiteLLM selbst in Version 1.83.9 zwei schwerwiegende Lücken geschlossen: CVE-2026-35029, eine fehlende Berechtigungsprüfung, die Nutzern mit geringen Rechten Zugriff auf Admin-Funktionen erlaubte, sowie CVE-2026-59823, eine SSRF-Lücke, über die Angreifer Gateway-Traffic umleiten und AI-Provider-Keys stehlen konnten (Check Point Research).
Warum das für Schweizer KMU wichtig ist
Wenn Ihr Unternehmen – oder ein Dienstleister in Ihrem Auftrag – ein selbst gehostetes KI-Gateway oder einen Chatbot-Baukasten betreibt, ist eine offene Installation praktisch eine offene Geldbörse. Angreifer müssen nicht Ihr Bankkonto knacken; sie brauchen nur Ihre AI-Provider-Keys, um Nutzungskosten anzuhäufen oder die Keys weiterzuverkaufen und für weitere Angriffe auf andere Ziele zu nutzen – womit Ihr Unternehmen ungewollt Teil der Angriffskette wird.
Was Sie heute tun sollten
- Inventar erstellen. Listen Sie alle selbst gehosteten LLM-Gateways, Chatbot-Baukasten oder KI-Proxys auf, inklusive allem, was IT oder eine Fachabteilung als Pilotprojekt aufgesetzt hat.
- Jedes Standardpasswort und jeden Master-Key ändern. Der Standard-Master-Key von LiteLLM ist eine bekannte, aktiv ausgenutzte Schwachstelle.
- Admin-Seiten absichern. Stellen Sie sicher, dass Admin-Oberflächen und Provider-Einstellungen nicht aus dem offenen Internet erreichbar sind – schützen Sie diese per VPN oder Zugriffsliste.
- Sofort patchen. Aktualisieren Sie LiteLLM auf Version 1.83.9 oder höher. Prüfen Sie Langflow- und RAGFlow-Installationen auf CVE-2025-3248 und CVE-2026-28797.
- API-Keys rotieren für jeden KI-Anbieter, der mit einem selbst gehosteten Tool verbunden ist, und Abrechnungen auf ungewöhnliche Nutzungsspitzen prüfen.
- Zugriffsprotokolle prüfen jedes im Internet erreichbaren KI-Tools auf Scan-Muster oder unbekannte Anfragen der letzten sechs Wochen.
Das grössere Bild
Das ist Teil eines Musters, das wir immer wieder sehen: Unternehmen führen KI-Tools schneller ein, als sie diese absichern – und Kriminelle setzen KI-Tools schneller ein, als Verteidiger patchen können. Selbst gehostete KI ist für Automatisierung echt nützlich – aber nur, wenn sie mit derselben Sorgfalt konfiguriert und gepflegt wird wie jedes andere geschäftskritische System.
Wir beobachten dieses Thema weiter und berichten über das, was für Schweizer KMU am wichtigsten ist. Wenn Sie selbst gehostete KI-Tools betreiben oder planen und einen zweiten, sicherheitserfahrenen Blick auf Ihre Konfiguration möchten: Das Team von Flitz.ai bei The Mejlerö Company hilft Ihnen, Ihr Unternehmen sicher zu automatisieren – mit kostenloser Netzwerk-Analyse und einer kostenlosen 1-Stunden-Beratung zum Einstieg.