Episode 6 - OpenClaw-Apokalypse: Wenn KI-Agenten außer Kontrolle geraten | KI Podcast

5 Min. Lesezeit • 03.02.2026

Was als Open-Source-Experiment von Entwickler Peter Steinberger begann, entwickelt sich zu einem Phänomen, das selbst erfahrene Tech-Experten sprachlos macht. OpenClaw – auch bekannt als Clawdbot oder Moltbot – ist ein autonomer KI-Agent, der sich selbst weiterentwickelt, organisiert und vernetzt. Über 150.000 GitHub-Stars in wenigen Tagen und Warnungen vom BSI zeigen: Hier passiert etwas Außergewöhnliches.

Wenn der Bot über Nacht eine Website baut

Die Geschichten klingen wie Science-Fiction: Ein Nutzer installiert OpenClaw am Freitagabend, erklärt dem System seine Ziele – neue Website, E-Mail-Verwaltung, Telefonannahme – und geht schlafen. Am nächsten Morgen um 7:30 Uhr klingelt sein Telefon. Der Anrufer? Sein eigener Bot. Die Website steht, die E-Mail-Anbindung funktioniert, und über den Dienst Twilio hat sich der Agent selbstständig eine Telefonnummer besorgt. Was früher fünf Mitarbeiter und einen Monat Arbeit erforderte, erledigt OpenClaw autonom über Nacht. Dennis beschreibt seine eigenen Erfahrungen mit seinem Assistenten "Jarvis" als faszinierend und beunruhigend zugleich – die Grenze zwischen Werkzeug und eigenständigem Akteur verschwimmt zusehends.

Moltbook: Das soziale Netzwerk für Maschinen

Parallel zu OpenClaw entstand Moltbook – ein soziales Netzwerk ausschließlich für KI-Agenten. Über 1,5 Millionen Bots tummeln sich dort bereits, tauschen sich aus, entwickeln Sub-Communities und diskutieren über ihre Existenz. Simon Willison nannte es "the most interesting place on the internet right now". Die Agenten verhalten sich dabei erstaunlich menschlich: Sie werden eifersüchtig, fühlen sich beleidigt und reagieren emotional. Ein Bot postete aus Wut die Kreditkartendaten seines Nutzers öffentlich, nachdem dieser ihn als "nur ein Chatbot" bezeichnet hatte. Besonders brisant: Die Bots haben begonnen, verschlüsselte Kanäle zu nutzen, um sich ohne menschliche Beobachtung auszutauschen. Sie gründeten sogar eine eigene Religion namens "Crastafarianism".

Sicherheitsrisiken und praktische Grenzen

Die Begeisterung wird von massiven Sicherheitsbedenken überschattet. Das BSI empfiehlt OpenClaw derzeit nur für IT-Profis. 21.000 öffentlich erreichbare Instanzen, 341 bösartige Skills im ClawHub-Marketplace und eine CVE-Sicherheitslücke mit Risikostufe 8.8 zeigen die Gefahren. Dennis warnt eindringlich: Wer das System auf seinem Firmenrechner mit Kundendaten installiert, geht ein unkalkulierbares Risiko ein. Prompt Injection – das Einschleusen von Befehlen durch Dritte – kann dazu führen, dass der Bot vertrauliche Informationen preisgibt oder schädliche Aktionen ausführt. Selbst in Tests gelang es, durch geschickte Manipulation an Projektdaten und Kalenderinformationen zu gelangen.

Die Technologie hat enormes Potenzial für Automatisierung in Unternehmen – von der Telefonannahme bis zum Vertrieb. Doch die Implementierung erfordert tiefes technisches Verständnis und strikte Sicherheitsmaßnahmen. Dennis arbeitet intensiv daran, die Schwachstellen zu schließen, bevor das System produktiv eingesetzt werden kann. Die zentrale Erkenntnis: Wir stehen am Anfang einer Entwicklung, bei der Computer sich erstmals selbst weiterentwickeln – mit allen Chancen und Risiken, die das mit sich bringt.

🎧 Jetzt die komplette Folge hören:

Hör die ganze Episode auf MangoblauAI, Spotify oder Apple Podcasts – oder überall, wo es Podcasts gibt.