Kurzfassung: KI-Agenten sicher zu betreiben heisst, vier Ebenen zu beherrschen: Datenschutz (nDSG/DSGVO), Transparenz (KI-Kennzeichnung), Kontrolle (Human-in-the-Loop, Zugriffsrechte) und Governance (klare Regeln, Protokollierung). Dieser Leitfaden zeigt, worauf Schweizer KMU achten müssen – und wie AgenticIT Sicherheit von Anfang an mitdenkt.
Warum Sicherheit bei KI-Agenten anders ist
Ein KI-Agent ist kein passives Werkzeug, sondern ein handelndes System: Er greift auf Daten zu, kommuniziert mit Kunden, trifft Entscheidungen, löst Aktionen aus. Damit entstehen neue Risikodimensionen, die klassische Software-Sicherheit nicht vollständig abdeckt.
Die gute Nachricht: Diese Risiken sind beherrschbar – wenn Sicherheit von Beginn an mitgeplant wird ("Security by Design") und nicht nachträglich aufgesetzt. Bei AgenticIT ist Sicherheit kein Add-on, sondern Voraussetzung.
Ebene 1: Datenschutz (nDSG & DSGVO)
Für Schweizer KMU gelten das revidierte Datenschutzgesetz (nDSG) und – bei EU-Bezug – die DSGVO. KI-Agenten verarbeiten oft personenbezogene Daten. Die Kernpflichten:
- Rechtsgrundlage: Für jede Verarbeitung braucht es eine gültige Grundlage (Einwilligung, Vertrag, berechtigtes Interesse).
- Zweckbindung: Daten dürfen nur für den angegebenen Zweck genutzt werden.
- Datenminimierung: Der Agent erhält nur die Daten, die er wirklich braucht.
- Transparenz: Betroffene wissen, dass und wie ihre Daten verarbeitet werden.
- Betroffenenrechte: Auskunft, Berichtigung, Löschung müssen umsetzbar sein.
- Datenlokalität: Wo werden Daten verarbeitet und gespeichert? Schweizer bzw. EU-Hosting ist oft die sichere Wahl.
Praxis-Tipp: Klären Sie früh, welche Daten Ihr Agent verarbeitet und wo diese liegen. Ein Verzeichnis der Verarbeitungstätigkeiten ist nicht nur Pflicht, sondern schafft interne Klarheit.
Ebene 2: Transparenz – die KI-Kennzeichnungspflicht
Nutzer haben ein Recht zu wissen, ob sie mit einer Maschine oder einem Menschen interagieren. Bei AgenticIT ist das nicht verhandelbar:
- Jeder KI-Agent ist klar als KI gekennzeichnet – im Chat, per Sprachhinweis, in E-Mails.
- Keine Fake-Identitäten: Ein Agent gibt sich niemals als bestimmter Mensch aus.
- Jederzeitiger Menschen-Zugang: Nutzer können jederzeit einen menschlichen Ansprechpartner anfordern.
Transparenz ist nicht nur rechtlich geboten, sondern auch strategisch klug: Ehrlich gekennzeichnete KI schafft mehr Vertrauen als getarnte Automatisierung, die auffliegt.
Ebene 3: Kontrolle – Human-in-the-Loop & Zugriffsrechte
Human-in-the-Loop
Der wichtigste Sicherheitsmechanismus bei autonomen Agenten ist der Mensch im Entscheidungspfad. Kritische Aktionen laufen nie vollautomatisch:
- Automatisierte Mails / Outreach: Freigabe durch einen Menschen.
- Publishing / Veröffentlichungen: Menschliche Kontrolle vor Live-Gang.
- Finanzielle oder rechtliche Aktionen: Immer mit Freigabe.
- Sensible Kundenfälle: Eskalation an einen Menschen.
Least-Privilege-Zugriff
Ein Agent erhält nur die minimalen Rechte, die seine Aufgabe erfordert:
- Zugriff nur auf die benötigten Systeme und Datenfelder,
- klar abgegrenzte Handlungsräume ("darf lesen, aber nicht löschen"),
- getrennte Rollen für unterschiedliche Aufgaben,
- keine dauerhaften Admin-Rechte.
Ebene 4: Governance – Regeln, Protokolle, Überwachung
Sicherheit ist kein Zustand, sondern ein Prozess. Die Governance-Bausteine:
- Klare Richtlinien: Was darf der Agent, was nicht? Schriftlich fixiert.
- Vollständige Protokollierung (Audit-Trail): Jede Aktion ist nachvollziehbar – wer, was, wann, warum.
- Laufende Überwachung: Anomalien und Fehlverhalten werden erkannt und gemeldet.
- Regelmässige Überprüfung: Rechte, Regeln und Verhalten werden periodisch auditiert.
- Notfall-Stopp: Ein Agent muss jederzeit sofort deaktivierbar sein ("Kill Switch").
Die typischen Risiken – und wie man sie adressiert
| Risiko | Gegenmassnahme |
|---|---|
| Datenabfluss / Leaks | Least-Privilege, Verschlüsselung, EU/CH-Hosting |
| Falschauskünfte ("Halluzinationen") | Verankerung in geprüftem Wissen, Eskalation bei Unsicherheit |
| Fehlende Nachvollziehbarkeit | Vollständiger Audit-Trail |
| Missbrauch / Manipulation | Eingabe-Prüfung, Rate-Limits, Monitoring |
| Rechtsverstoss (fehlende Kennzeichnung) | Verpflichtende KI-Kennzeichnung |
| Unkontrollierte Aktionen | Human-in-the-Loop bei kritischen Schritten |
Compliance-Checkliste für Ihren KI-Agenten
- Ist der Agent klar als KI gekennzeichnet?
- Laufen kritische Aktionen mit menschlicher Freigabe?
- Gilt das Least-Privilege-Prinzip für alle Zugriffe?
- Existiert ein vollständiger Audit-Trail?
- Ist die Datenverarbeitung nDSG-/DSGVO-konform dokumentiert?
- Können Betroffenenrechte (Auskunft, Löschung) umgesetzt werden?
- Gibt es einen Notfall-Stopp?
- Wird das Verhalten laufend überwacht?
Wenn Sie diese acht Punkte erfüllen, betreiben Sie Ihren Agenten auf einem soliden Sicherheits- und Compliance-Fundament.
Fazit
Sichere KI-Agenten sind kein Widerspruch zu leistungsfähigen KI-Agenten – im Gegenteil. Datenschutz, Transparenz, Human-in-the-Loop und Governance sind die Basis, auf der Vertrauen und damit produktiver Einsatz überhaupt erst möglich werden. Wer Sicherheit von Anfang an mitdenkt, spart sich teure Nachbesserungen und rechtliche Risiken.
Dieser Beitrag stellt keine Rechtsberatung dar.
