Stille Enteignung durch KI

Die stille Enteignung: Worum es bei KI wirklich geht

Diese Enteignung erfolgt nicht über den klassischen Weg von Eigentum oder Kapital. Sie passiert leise, schrittweise und fast unsichtbar. Organisationen lagern immer mehr Denk- und Entscheidungsprozesse an KI-Systeme aus. Dabei geht nicht nur operative Kapazität verloren, sondern vor allem das tiefere Verständnis, der Kontext und die Domänenexpertise im Wissensmanagement. Wenn Mitarbeitende beginnen, Ergebnisse unkritisch und ohne gesunden Menschenverstand zu übernehmen, verschiebt sich das intellektuelle Kapital von Menschen hin zu KI-Modellen. Wer seine Kernprozesse proprietär auf externen, meist ausländischen KI-Plattformen aufbaut, verliert langfristig die Souveränität über die eigene Wertschöpfung. Das Risiko ist nicht kurzfristiger Natur – es ist strukturell und generationsübergreifend. Sie gefährdet das, was die Digital-DNA eines erfolgreichen Unternehmens ausmacht.

Wenn Bequemlichkeit in Abhängigkeit umschlägt

Eines der kritischsten Muster, das ich aktuell beobachte, ist die zunehmende Abhängigkeit. KI wird zunehmend als Blackbox konsumiert. Prompt rein, Ergebnis raus. Doch genau hier liegt die Gefahr. Wenn Organisationen KI zunehmend als Ersatz für Denken zu verwenden, passiert Folgendes: Das Grundverständnis für die eigene «Goldmine aus Daten und Wissen» schwindet. Das marktrelevante Domänenwissen wird oberflächlicher. Kritisches Denken – das Fundament der Aufklärung und Entscheidung – wird delegiert. KI wird uns viele Tätigkeiten abnehmen, das ist unbestritten. Aber sie ersetzt kein Urteilsvermögen, keine Verantwortung und keine reale Erfahrung in kritischen Bereichen wie IT-Security, Compliance oder Business Continuity. Wer Entscheidungen an ein System auslagert, das lediglich Wahrscheinlichkeiten berechnet, aber keine Verantwortung tragen kann, schafft ein systemisches Risiko. Aus Kundenmandaten sehe ich zunehmend folgendes: Wer Entscheidungen auf ein System auslagert, das letztlich mitunter nur Wahrscheinlichkeiten berechnet, aber keine Verantwortung trägt, schafft ein systemisches Risiko.

Agentic KI: Wenn Systeme selbstständig handeln

Mit Agentic KI Prompting und MultiAgent-Systemen bewegen wir uns in eine neue Phase. KI agiert nicht mehr nur reaktiv, sondern proaktiv. Systeme planen, koordinieren und führen Aufgaben selbstständig aus. Beispiele von neuesten AI Agent-Modelle oder Konzepte rund um KI agentisches Arbeiten zeigen deutlich, wohin die Reise geht: Autonome, teilweise schwer kontrollierbare Systeme, die Informationen über mehrere KI-Agenten beschaffen, bewerten und Entscheidungen vorbereiten oder sogar treffen. Doch genau hier gilt ein Grundprinzip, das ich seit Jahren vertrete: Agent First ist falsch gedacht. Die richtige Reihenfolge ist Security First und letztlich «Zero trust, always verify».

Warum Security vor Autonomie kommen muss

Wer Agenten in produktiven Umgebungen einsetzt, ohne saubere Governance, Identity, Zugriffskontrollen und Auditierbarkeit, öffnet die Tür für neue Angriffsvektoren mit noch unbekanntem Ausmass. Ein autonomer Agent mit Zugriff auf interne Daten, interne und externe Schnittstellen, Lieferkette und Systeme ist aus Sicht eines Angreifers ein hochattraktiver Einstiegspunkt. Deshalb müssen folgende Prinzipien zwingend gelten: «Security first» und «Zero Trust» konsequent umsetzen. Jeder Zugriff ist zu verifizieren, unabhängig vom Kontext. Agenten brauchen eine eindeutige Identität und klare Rechte bzw. auch Grenzen. Jede Aktion muss bei Bedarf nachvollziehbar und je nach Kritikalität auditierbar sein. Sensitive und personenbezogene Daten dürfen nur kontrolliert verarbeitet werden. «Security first» und «Zero Trust» muss integraler Bestandteil jeder KI-Strategie sein, nicht eine nachgelagerte Disziplin.

Governance schafft Vertrauen – nicht Technik allein

Initiativen diverser KI Anbieter sind ein Schritt in die richtige Richtung. Sie zeigen, dass auch Plattformanbieter beginnen, Themen wie Governance, Kontrolle und Ueberwachbarkeit ernst zu nehmen. Aber: Technologische Lösungen allein reichen nicht. Organisationen brauchen klare Richtlinien, Verantwortlichkeiten und eine strategische Positionierung im Umgang mit KI. Wer entscheidet, welche Aufgaben ein Agent übernehmen darf? Wer trägt die Verantwortung für Fehlentscheidungen? Wie wird sichergestellt, dass Compliance-Anforderungen eingehalten werden? Diese Fragen müssen geklärt sein, bevor KI adaptiert und skaliert wird.

Regulatorik: Handlungspflicht als Hausaufgabe, nicht Kür

Das revidierte Schweizer Datenschutzgesetz (nDSG) ist seit September 2023 in Kraft. Wer KI-Systeme einsetzt, die Entscheidungen über Personen vorbereiten oder treffen, ist heute rechtlich in der Pflicht – Datenschutz-Folgenabschätzung und Transparenz über automatisierte Entscheide inklusive (Art. 21 nDSG). Der EU AI Act gilt faktisch auch für Schweizer KMU mit EU-Marktbezug: Hochrisiko-Anwendungen in HR, Finanzen oder Infrastruktur unterliegen strengen Dokumentations- und Aufsichtspflichten. «Human in the Loop» ist keine Empfehlung mehr – es ist regulatorische Erwartung. Kurz gesagt: Wer KI einführt, ohne diese Spielregeln zu kennen, riskiert nicht nur Datenpannen – sondern Haftung. Rules before Tools gilt auch gegenüber dem Gesetzgeber.

Warum Entscheidungsintelligenz zum Erfolgsfaktor wird

In einer Welt, in der KI Informationen schneller verarbeitet als jeder Mensch, verschiebt sich der entscheidende Wettbewerbsvorteil. Es ist nicht mehr nur Wissen. Es ist die Fähigkeit, Entscheidungen zu treffen. Entscheidungsintelligenz wird zur zentralen Kompetenz: Welche Informationen sind relevant? Welche Empfehlungen sind plausibel? Wo liegen die Risiken und blinden Flecken? Organisationen müssen ihre Mitarbeitenden genau in diesen Fähigkeiten stärken. KI kann Optionen liefern. Aber die Verantwortung für die Auswahl bleibt beim Menschen.

Der globale Wettlauf um KI – und sein Preis

Parallel zur technologischen Entwicklung beobachten wir einen globalen Wettlauf um KI-Infrastruktur. Rechenzentren werden in einem Tempo aufgebaut, das an ein geopolitisches Wettrüsten erinnert. Dieser Ausbau hat klare Implikationen:

• Massiver Energiebedarf
• Einfluss auf Klimaziele
• Erinnerung an die geplatzte DOT.COM-Blase ab anfangs Jahr 2000
• Konzentration und Vakuum von Macht bei wenigen Anbietern und einzelnen Staaten

Auch hier stellt sich eine strategische Frage: Wollen wir unsere digitale Zukunft auf wenigen globalen Plattformen aufbauen, oder entwickeln wir eigene, kontrollierbare Ökosysteme zugunsten einer (Teil-)Souveränität?

Ohne Ausrichtung wird Effizienz zum Risiko

Mit zunehmender Autonomie von KI-Systemen gewinnt das Thema Ausrichtung / Alignment massiv an Bedeutung. Es reicht nicht, dass Systeme funktionieren. Sie müssen in Einklang mit den Werten, Zielen und regulatorischen, gar moralischen und ethischen Anforderungen der Organisation stehen. Agentisches und KI basiertes Arbeiten und autonome Entscheidungsprozesse erhöhen die Komplexität erheblich. Ohne klare Leitplanken wird aus Effizienz schnell ein Risiko.

Was Führungskräfte jetzt konkret tun sollten

Für Geschäftsleitungen und Verwaltungsräte ergeben sich daraus klare Handlungsfelder:

1. KI-Strategie definieren: Nicht punktuell einsetzen, sondern als Teil der Digital-DNA und Gesamt-IT-Strategie verankern.
2. Security und Compliance integrieren: Security first, Zero Trust, Data Governance und Identity müssen die Basis sein.
3. Kompetenzen aufbauen: Kritisches Denken, Domänenwissen und Entscheidungsfähigkeit gezielt fördern.
4. Abhängigkeiten verwalten und reduzieren: Abhängigkeiten von Anbietern (Vendor Lock-in) bewusst managen und alternative Szenarien prüfen zugunsten einer (Teil-)Souveränität.
5. Transparenz und Kontrolle sicherstellen: Auditierbare Prozesse und klare Verantwortlichkeiten etablieren. Der Abschluss von Auftragsverarbeiterverträgen (AVV) und die Durchführung von Datenschutz-Folgenabschätzungen (DSFA) sind Pflichtaufgaben. Einfach zu merken wäre hier «Rules before tools» also «zuerst Regeln definieren und danach Tools anwenden».

Fazit: KI nutzen, ohne Souveränität zu verlieren

KI ist kein Risiko per se. Aber sie wird zum Risiko, wenn sie unreflektiert und unkontrolliert eingesetzt wird. Die stille Enteignung passiert nicht über Nacht. Sie passiert, wenn wir Verantwortung und letztlich auch das eigene Denken und Entscheiden abgeben, ohne es zu merken. Wenn wir Systeme nutzen, ohne sie zu verstehen. Und wenn wir kurzfristige Effizienz über langfristige Souveränität stellen. Die entscheidende Frage lautet daher nicht, ob wir KI einsetzen. Die Frage ist: Bleiben wir die Entscheider und Gestalter unserer Wertschöpfung – oder werden wir zu passiven Zuschauern in einem fremdgesteuerten Ökosystem?