KI-Security: Warum Daten-, Prozess- und Handlungshoheit entscheidend werden

Wer KI kontrollieren will, muss mehr kontrollieren als das Modell

Wenn über sichere KI gesprochen wird, beginnt die Diskussion oft bei der Infrastruktur: Cloud oder On-Prem? Wo liegen die Daten? Welches Modell darf welche Informationen sehen?

Das sind wichtige Fragen. Aber sie reichen nicht mehr.

Denn je stärker KI in echte Arbeitsprozesse hineinwächst, desto weniger entscheidet allein das Modell darüber, ob ein System sicher ist. Entscheidend wird, was wir ihm zur Verfügung stellen und was wir ihm erlauben zu tun.

Das beginnt bei den Daten.

Ein Unternehmen kann seine Daten technisch im eigenen Rechenzentrum halten und trotzdem kaum Datenhoheit besitzen. Wenn niemand genau weiß, welche Informationen vorhanden sind, wem sie gehören, wie aktuell sie sind und wer darauf zugreifen darf, wird KI bestehende organisatorische Schwächen nicht lösen. Sie kann sie sogar verstärken.

Ein KI-Agent, der auf alte Freigaben, schlecht klassifizierte Dokumente und historisch gewachsene Datenablagen trifft, arbeitet schließlich mit genau diesen Strukturen weiter – nur sehr viel schneller.

Deshalb wird Datenkompetenz zur Security-Kompetenz.

Ähnliches gilt für Prozesse. Gerade in einer Kanzlei möchte ich nicht nur wissen, welchen Text eine KI am Ende erzeugt. Bei sensiblen Vorgängen muss nachvollziehbar bleiben, welche Informationen verwendet wurden, welche Verarbeitungsschritte stattgefunden haben und an welchen Stellen ein Mensch entschieden hat.

Aus Datenhoheit wird damit Prozesshoheit.

Und mit autonomen Agenten kommt eine dritte Ebene hinzu: Handlungshoheit.

Darf ein Agent nur Informationen recherchieren? Darf er Dateien verändern? APIs aufrufen? Nachrichten versenden? Auf Verzeichnisse zugreifen? Oder selbstständig weitere Systeme ansteuern?

Die klassische Security-Frage „Wer darf was?“ bekommt damit einen neuen Akteur.

Vielleicht werden wir deshalb schon bald selbstverständlich über digitale Identitäten für Agenten, Least Privilege, Netzwerkgrenzen, Traces, Audit-Logs und kontinuierliches Monitoring von KI-Systemen sprechen.

Genau hier könnte sich die nächste Entwicklungsstufe abzeichnen.

2026 ist das Jahr, in dem Agenten überall auftauchen. 2027 könnte das Jahr werden, in dem Unternehmen lernen müssen, diese Agenten zu orchestrieren und abzusichern: mehrere KI-Systeme, unterschiedliche Rechte, klar definierte Prozesse und dazwischen weiterhin Menschen, die Verantwortung übernehmen.

Denn die Zukunft der KI-Security wird vermutlich nicht allein technisch sein.

Sie wird eine Frage guter Organisation sein.

Und genau darüber freue ich mich am 8. September bei der Heise Horizons im Roundtable „KI & Security: Werkzeug und Risiko zugleich“ zu diskutieren.