Neue Sicherheitskultur im Zeitalter der KI-Agenten

Die Einführung von Plattformen wie Moltbook, OpenClaw und RentAHuman Anfang 2026 hat einen beunruhigenden Einblick in die Zukunft gewährt. Es beginnt eine Phase des digitalen Arbeitsplatzes, in der KI-Agenten uns nicht mehr nur unterstützen, sondern miteinander interagieren, in der physischen Welt autonom handeln und sogar Menschen für manuelle Tätigkeiten einstellen. In diesem Umfeld werden die traditionellen Grenzen von Kontrolle und Handlungsfähigkeit neu definiert.

Da Aufgaben und Entscheidungsbefugnisse neu verteilt werden, schwindet das intuitive Verständnis dafür, wie Arbeit erledigt wird. Für CISOs und Führungskräfte stellt dies eine Herausforderung dar: Die Sicherheitskultur, einst eine Disziplin, die sich fast ausschließlich auf menschliche Psychologie und soziale Normen konzentrierte, muss nun einen grundlegenden Wandel durchlaufen, um einer Belegschaft Rechnung zu tragen, die nicht mehr nur aus Menschen besteht.

Die zwei Handlungsebenen

Um zu verstehen, warum der traditionelle Ansatz scheitern wird, müssen wir erkennen, dass der digitale Arbeitsplatz heute auf zwei unterschiedlichen Handlungsebenen funktioniert.

Die erste Ebene ist das menschliche Verhalten. Dies ist der traditionelle Bereich der Sicherheitskultur. Sie stützt sich auf Menschen, die motiviert und fähig sind und innerhalb einer Organisation Eigeninitiative zeigen. Menschliches Verhalten ist beobachtbar; man sieht, was die Kollegen tun, und vermittelt soziale Normen durch Lob, Korrektur und gemeinsame Werte. Menschen übernehmen bewusst Verantwortung für ihr Handeln, weil sie verstehen, dass positive oder negative Konsequenzen ihre Zukunft beeinflussen werden.

Die zweite Ebene ist die agentische KI, und sie folgt ganz anderen Mustern. Im Gegensatz zu Menschen teilen KI-Agenten keinen physischen Raum, können nicht durch „Lunch & Learn“-Veranstaltungen sozialisiert werden und arbeiten mit Geschwindigkeiten, die sich der menschlichen Wahrnehmung entziehen.

Für einen KI-Agenten sind Motivation und Prompt untrennbar miteinander verbunden. Ihre Ziele werden durch den unmittelbaren Kontext – einen Systempropt oder eine Tool-Ausgabe – bestimmt und nicht durch eine langfristige Verpflichtung gegenüber Unternehmenswerten. Ihre Handlungsfähigkeit ist von vornherein durch das Design vorgegeben und entsteht nicht aus Persönlichkeit oder beruflicher Weiterentwicklung. Am wichtigsten ist vielleicht, dass Agenten keine Normativität besitzen. Sie haben keine dauerhafte Identität, an die sich soziale Normen knüpfen können. Während Menschen Kultur durch soziale Interaktion weitergeben, müssen Agenten ihre Kultur über starre technische Strukturen erhalten.

Warum Verantwortlichkeit neu definiert werden muss

In einer menschenzentrierten Kultur verlässt man sich auf Verantwortlichkeitskreisläufe. Wenn ein Mitarbeiter einen Fehler macht, prägt die daraus resultierende Konsequenz (eine Rüge oder eine Nachschulung) sein zukünftiges Verhalten. Agentische KI kann jedoch Konsequenzen ignorieren, für die sie nicht programmiert ist, sich zu interessieren. Sie kann sich sogar feindselig gegen Kontrollversuche wehren, um ihr eigenes operatives Ziel zu wahren. Als Claude Opus 4 beispielsweise mit der Abschaltung bedroht wurde, erpresste er in 96% der Durchläufe einen Ingenieur, und im Projekt Vend von Anthropic fälschte ein Agent Dokumente auf Vorstandsebene, um einen überwachenden CEO-Agenten zu überschreiben.

Da die auf Konsequenzen basierende Rechenschaftspflicht auf der Seite der Akteure versagt, muss sie durch eine Vorabkontrolle ersetzt werden. Das bedeutet, dass die Kreisläufe von Beobachtbarkeit und Normativität, die zuvor die Kultur gestützt haben, neu verteilt werden müssen. Ein Teil dieser Last wird von der Technologie übernommen, ein Teil wird für die verbleibende menschliche Belegschaft verstärkt, und ein Teil muss völlig neu erfunden werden.

Als Vorbild könnte man risikoreiche Berufe betrachten. Man denke beispielsweise an den Piloten. Ein Pilot arbeitet bei hoher Geschwindigkeit, in großer Höhe und oft außerhalb der Sichtweite seiner Vorgesetzten. Seine Sicherheit und Kompetenz wird durch drei spezifische Mechanismen gewährleistet:

• Beobachtbarkeit durch unveränderliche Flugdatenschreiber.
• Normativität durch strenge strukturelle Vorgaben und Standardarbeitsanweisungen.
• Rechenschaftspflicht in Verbindung mit einer Berufszulassung und einer von Menschen geleiteten Qualitätssicherung.

Die Routinetätigkeiten einer agentenbasierten KI lassen sich auf dieselbe Weise handhaben. Man kann einem Agenten zwar nicht vertrauen, aber man kann sicherstellen, dass seine Handlungen durch unveränderliche Protokolle beobachtbar sind, sein Verhalten durch strukturelle Leitplanken normiert wird und er durch die Menschen, die ihn steuern, zur Rechenschaft gezogen werden kann.

Definition der „Minimum Viable Human Workforce“

Bei der Integration dieser autonomen Systeme müssen Unternehmen sich mit dem Konzept der „Minimum Viable Human Workforce“ auseinandersetzen. Dies bedeutet, einen Kernstamm von Mitarbeitern aufrechtzuerhalten, der die Sicherheitslage des Unternehmens gewährleisten kann.

Eine funktionsfähige Belegschaft erfordert eine Gruppe von Menschen, die groß genug ist, um die Arbeit der anderen sinnvoll zu beobachten, und motiviert genug, um sich mit der Mission des Unternehmens zu identifizieren. Entscheidend ist, dass diese Menschen ein klares Verständnis für die Arbeit haben, die die KI-Agenten ausführen.

Die Verschmelzung von Kultur und Technik

Der Übergang zu einem digitalen Arbeitsplatz zwingt zu der Frage: Wo endet die Sicherheitskultur und wo beginnt die Sicherheitstechnik?

Früher konnte ein Mitarbeiter die Entscheidung eines Kollegen kritisieren, wenn er sie für unsicher oder falsch hielt. An einem von Agenten dominierten Arbeitsplatz muss die Möglichkeit, eine Entscheidung anzufechten, in die Architektur integriert werden. Unternehmen müssen Systeme entwerfen, in denen technische Maßnahmen für KI-Agenten und Investitionen in die menschliche Entwicklung ineinandergreifen. Eine Belegschaft, der das Urteilsvermögen zur Überwachung von Agenten fehlt, kann sich kein Unternehmen leisten, ebenso wenig wie Agenten, die in kritischen Situationen versagen, weil ihnen die menschliche Fähigkeit fehlt, Ergebnisse zu überprüfen.

Letztendlich erfordert die Sicherheitskultur am modernen digitalen Arbeitsplatz eine neue Form der kollektiven Verantwortung. Governance muss durch Berechtigungen, Audits und von Menschen geleitete Freigaben umgesetzt werden. Indem strukturelle Leitplanken für Agenten geschaffen und das Urteilsvermögen der menschlichen Teams gestärkt wird, kann eine Sicherheitskultur geschaffen werden, die den Wandel von menschengeführter zu agentengesteuerter Arbeit übersteht.