KI und Cybersicherheit: Warum die grössten Risiken nicht dort liegen, wo man sie vermutetAI and cybersecurity: Why the biggest risks are not where you expect them

Ein Schweizer Finanzdienstleister setzt auf KI-gestützte Kundenberatung. Die Security-Abteilung fokussiert sich auf Prompt-Injection-Angriffe, Input-Validierung und Model-Hardening. Drei Monate später stellt sich heraus: Ein Entwickler hat versehentlich das gesamte Kundendatenset in einen Cloud-basierten KI-Dienst hochgeladen - zur Modell-Optimierung. Die Daten liegen jetzt ausserhalb der Schweiz, ohne Rechtsgrundlage, ohne Datenschutz-Folgenabschätzung. Das eigentliche Risiko lag nicht bei raffiniertem Hacking, sondern bei fehlendem Data Governance.

Das überschätzte Risiko: Prompt Injection ist real, aber nicht Ihr grösstes Problem

Prompt Injection - das gezielte Manipulieren von KI-Eingaben - ist ein echtes Risiko. Ein Angreifer könnte versuchen, einem Chatbot Anweisungen einzuschleusen, um an interne Daten zu kommen. Das Szenario ist bekannt, die Abwehrmechanismen existieren: Input-Sanitisierung, Output-Filterung, Privilege-Separation.

In der Praxis haben wir noch keinen einzigen Vorfall gesehen, bei dem Prompt Injection zu einem ernsthaften Sicherheitsvorfall geführt hätte. Was wir aber regelmässig sehen: Unternehmen, die sensible Daten unkontrolliert in externe KI-Dienste einspeisen. Mitarbeiter, die vertrauliche Dokumente in öffentliche Chatbots kopieren. Entwickler, die API-Keys im Code hardcoden.

Das unterschätzte Risiko: Datenabfluss durch Unachtsamkeit

Ein Anwaltskanzlei nutzt ein KI-Tool zur Vertragsanalyse. Ein Anwalt lädt einen Vertrag mit einem grossen Immobiliendeal hoch - zur schnelleren Prüfung. Was er nicht weiss: Der KI-Dienst nutzt alle Eingaben, um sein Modell zu verbessern. Drei Monate später erscheint in der Autocomplete-Funktion eines Konkurrenten ein Satzbaustein aus genau diesem Vertrag. Der Vertraulichkeitsbruch ist perfekt - ohne Hack, ohne Angriff, einfach durch reguläre Nutzung.

Das ist das eigentliche Risiko: Nicht böswillige Angreifer, sondern gutgläubige Nutzer, die nicht verstehen, was mit ihren Daten passiert. In einem Projekt haben wir ein Logfile analysiert: In einem Monat wurden über 300 vertrauliche Dokumente in externe KI-Dienste hochgeladen. Darunter Personalakten, Finanzdaten, interne Strategiepapiere. Niemand hatte das bewusst getan. Es war einfach praktisch.

Vendor Lock-in: Wenn Ihre KI-Strategie vom Anbieter abhängt

Ein mittelständisches Unternehmen baut seine gesamte Dokumentenverarbeitung auf einem spezifischen KI-Dienst auf. Nach einem Jahr: Der Anbieter ändert die Preisstruktur. Die Kosten verfünffachen sich. Wechseln? Schwierig. Die gesamte Infrastruktur, alle Workflows, alle Schnittstellen sind auf diesen einen Anbieter zugeschnitten. Das Unternehmen sitzt in der Falle.

Vendor Lock-in ist kein neues Phänomen, aber bei KI besonders kritisch. Die Modelle sind proprietär, die APIs sind nicht standardisiert, das Training ist anbieterabhängig. Wer sich einmal festlegt, kommt schwer wieder raus.

Compliance-Risiko: Wenn Regulierung schneller ist als Ihre Technik

Ein Unternehmen setzt KI-gestützte Personalauswahl ein. Funktioniert gut, spart Zeit. Dann tritt der EU AI Act in Kraft. Das System wird plötzlich als "Hochrisiko" klassifiziert. Die Anforderungen: technische Dokumentation, Risiko-Management, Logging, menschliche Aufsicht. Nichts davon war vorher implementiert. Das Projekt muss gestoppt werden, bis die Compliance nachgerüstet ist. Kosten: mehrere Wochen Stillstand, Mehrkosten für Nachbesserung.

Viele Unternehmen unterschätzen, wie schnell sich die Regulierungslandschaft ändert. Was heute erlaubt ist, kann morgen verboten oder stark reglementiert sein. Wer KI einsetzt, muss Compliance von Anfang an mitdenken - nicht als Bremse, sondern als Absicherung.

Was Sie jetzt tun sollten

Data Governance etablieren: Welche Daten dürfen in welche KI-Systeme? Klare Regeln, technisch durchgesetzt (z.B. DLP-Tools).

Vendor-Strategie definieren: Multi-Cloud-Ansatz? Abstraktion durch APIs? Exit-Strategie für den Fall, dass ein Anbieter ausfällt oder zu teuer wird?

Compliance frühzeitig adressieren: KI-Register führen, Risikobewertungen durchführen, Datenschutz-Folgenabschätzungen machen - bevor der Regulator fragt.

Mitarbeiter schulen: Nicht nur IT, auch Fachabteilungen. Was darf ich in einen Chatbot eingeben? Was nicht? Warum?

Fazit

KI-Sicherheit ist nicht das, was die Medien beschreiben. Die grössten Risiken sind nicht spektakulär, sondern banal: Datenabfluss durch Unachtsamkeit, Vendor Lock-in durch mangelnde Planung, Compliance-Verstösse durch fehlende Governance. Wer diese drei Punkte im Griff hat, ist besser aufgestellt als viele, die sich auf exotische Angriffsszenarien vorbereiten.

A Swiss financial services provider relies on AI-powered client advisory. The security department focuses on prompt injection attacks, input validation and model hardening. Three months later it turns out: a developer accidentally uploaded the entire customer dataset to a cloud-based AI service - for model optimization. The data now resides outside Switzerland, without a legal basis, without a data protection impact assessment. The real risk was not sophisticated hacking, but a lack of data governance.

The overestimated risk: Prompt injection is real, but not your biggest problem

Prompt injection - the deliberate manipulation of AI inputs - is a genuine risk. An attacker could try to inject instructions into a chatbot to gain access to internal data. The scenario is well known, and the defense mechanisms exist: input sanitization, output filtering, privilege separation.

In practice, we have not seen a single incident in which prompt injection led to a serious security breach. What we do see regularly: companies feeding sensitive data into external AI services without any controls. Employees copying confidential documents into public chatbots. Developers hardcoding API keys in their code.

The underestimated risk: Data leakage through carelessness

A law firm uses an AI tool for contract analysis. A lawyer uploads a contract covering a major real estate deal - for faster review. What he does not know: the AI service uses all inputs to improve its model. Three months later, a phrase from that very contract appears in the autocomplete function of a competitor. The breach of confidentiality is complete - without a hack, without an attack, simply through regular use.

That is the real risk: not malicious attackers, but well-meaning users who do not understand what happens to their data. In one project, we analyzed a log file: in a single month, over 300 confidential documents were uploaded to external AI services. Among them personnel files, financial data, internal strategy papers. Nobody had done this deliberately. It was simply convenient.

Vendor lock-in: When your AI strategy depends on the provider

A mid-sized company builds its entire document processing on a specific AI service. After one year: the provider changes its pricing structure. Costs increase fivefold. Switch providers? Difficult. The entire infrastructure, all workflows, all interfaces are tailored to this one provider. The company is trapped.

Vendor lock-in is not a new phenomenon, but it is particularly critical with AI. The models are proprietary, the APIs are not standardized, the training is provider-dependent. Once you commit, it is hard to get out.

Compliance risk: When regulation moves faster than your technology

A company deploys AI-powered recruitment screening. It works well and saves time. Then the EU AI Act comes into force. The system is suddenly classified as "high-risk". The requirements: technical documentation, risk management, logging, human oversight. None of this was implemented beforehand. The project has to be halted until compliance is retrofitted. Cost: several weeks of standstill, additional expenses for remediation.

Many companies underestimate how quickly the regulatory landscape changes. What is permitted today may be prohibited or heavily regulated tomorrow. Anyone deploying AI must factor in compliance from the outset - not as a brake, but as a safeguard.

What you should do now

Establish data governance: Which data may go into which AI systems? Clear rules, technically enforced (e.g. DLP tools).

Define a vendor strategy: Multi-cloud approach? Abstraction through APIs? Exit strategy in case a provider fails or becomes too expensive?

Address compliance early: Maintain an AI register, conduct risk assessments, carry out data protection impact assessments - before the regulator asks.

Train your employees: Not just IT, but business departments too. What am I allowed to enter into a chatbot? What not? Why?

Conclusion

AI security is not what the media describe. The biggest risks are not spectacular, but mundane: data leakage through carelessness, vendor lock-in through lack of planning, compliance violations through missing governance. Anyone who has these three points under control is better positioned than many who prepare for exotic attack scenarios.