AI Risiken für KMU: Was schiefgehen kann und wie du dich schützt

AI ist mächtig. Und genau das macht es riskant. Nicht weil AI böse ist — sondern weil die meisten Firmen AI einsetzen, ohne die Risiken zu kennen. Das ist wie Autofahren ohne Sicherheitsgurt. Es geht gut — bis es nicht mehr geht.

Hier sind die sieben grössten AI-Risiken für KMU. Und was du konkret dagegen tun kannst.

Risiko 1: Halluzinationen

AI Modelle erfinden Dinge. Das ist keine Frage von «ob», sondern «wann». Sie generieren Zahlen, die nicht stimmen. Zitieren Quellen, die nicht existieren. Behaupten Fakten, die falsch sind. Überzeugend und selbstsicher.

Wie du dich schützt

• Fact-Checking Layer: Jeder Output, der nach aussen geht, wird geprüft. Automatisch oder manuell.
• Quellen verlangen: Konfiguriere deine Agents so, dass sie Quellen angeben. Ohne Quelle = nicht vertrauenswürdig.
• Confidence Gates: Agent-Outputs mit niedriger Sicherheit gehen zur menschlichen Prüfung. Nicht ins Postfach des Kunden.

Risiko 2: Datenschutz-Verletzungen

Dein Agent verarbeitet Kundendaten. Wo landen die? In welchem Rechenzentrum? Werden sie zum Trainieren neuer Modelle verwendet? Das nDSG verlangt Antworten auf diese Fragen.

Wie du dich schützt

• Schweizer oder EU-Hosting: Keine Daten in den USA, wenn es Personendaten sind.
• Opt-out vom Training: Stelle sicher, dass deine Daten nicht zum Training verwendet werden. Die meisten APIs bieten das — aber du musst es aktivieren.
• Datenschutz-Folgenabschätzung: Pflicht bei hohem Risiko. Mach sie proaktiv — nicht erst, wenn der EDÖB anklopft.

Risiko 3: Vendor Lock-in

Du baust dein ganzes System auf OpenAI. Dann verdoppeln sie die Preise. Oder ändern ihre AGB. Oder gehen offline. Was jetzt?

Wie du dich schützt

• Abstraktions-Layer: Nutze ein Framework, das verschiedene LLMs unterstützt. Nicht direkt gegen eine API programmieren.
• Prompts dokumentieren: Deine Prompts sind dein geistiges Eigentum. Speichere sie zentral. So kannst du jederzeit den Anbieter wechseln.
• Open Source evaluieren: Modelle wie Llama oder Mistral als Backup. Nicht als Ersatz — aber als Exit-Strategie.

Risiko 4: Über-Automatisierung

Alles automatisieren, was geht. Klingt gut. Ist es nicht. Wenn ein Agent eine falsche Rechnung verschickt oder einem Kunden eine peinliche Mail sendet — dann wird es teuer. Nicht finanziell. Reputationsmässig.

Wie du dich schützt

• Human-in-the-Loop: Bei allem, was nach aussen geht oder Geld kostet — Mensch prüft.
• Stufenweise Autonomie: Start mit Assistenz. Nach drei Monaten: Halb-automatisch. Nach sechs Monaten: Vollautomatisch — aber nur für bewährte Prozesse.
• Kill Switch: Jeder Agent muss sofort stoppbar sein. Keine Diskussion.

Risiko 5: Qualitätsverlust

AI Output ist gut genug. Aber «gut genug» wird über Zeit zum Standard. Deine Texte klingen generisch. Deine Analysen sind oberflächlich. Dein Kundenservice verliert die persönliche Note.

Wie du dich schützt

• Qualitäts-Reviews: Stichproben. Mindestens 10% aller Agent-Outputs manuell prüfen.
• Brand Voice dokumentieren: Je klarer deine Vorgaben, desto besser der Output. Investiere Zeit in die Konfiguration, nicht nur in die Nutzung.
• Feedback-Loop: Gib deinen Agents regelmässig Rückmeldung. Was war gut? Was nicht? Ohne Feedback stagniert die Qualität.

Risiko 6: Kosten-Explosion

API-Kosten sind variabel. Ein Agent, der in einer Schleife hängt, kann in einer Nacht CHF 500 verbrennen. Ein Team, das zu grosse Modelle für zu kleine Aufgaben nutzt, zahlt dreifach.

Wie du dich schützt

• Budget-Limits: Setze maximale Ausgaben pro Tag und pro Agent. Kein Agent ohne Limit.
• Modell-Matching: Kleine Aufgabe = kleines Modell. E-Mail sortieren braucht kein GPT-4. Claude Haiku reicht.
• Monitoring: Täglicher Blick aufs Dashboard. Fünf Minuten. Keine Überraschungen am Monatsende.

Risiko 7: Abhängigkeit

Dein Team verliert Kompetenzen. Wenn der Agent die Buchhaltung macht, kann irgendwann niemand mehr buchen. Wenn der Agent die E-Mails schreibt, verlernt das Team zu kommunizieren.

Wie du dich schützt

• Skill-Rotation: Regelmässig Aufgaben ohne AI erledigen. Nicht als Strafe — sondern als Training.
• Dokumentation: Alles, was der Agent kann, muss auch ein Mensch nachvollziehen können.
• Notfallplan: Was passiert, wenn alle AI-Systeme 24 Stunden offline sind? Wenn du keine Antwort hast, hast du ein Problem.

Fazit: Risiken managen, nicht vermeiden

AI nicht einzusetzen ist auch ein Risiko. Deine Konkurrenz macht es. Der Markt erwartet es. Und die Vorteile sind real.

Aber AI ohne Risikobewusstsein ist fahrlässig. Du brauchst keine Angst. Du brauchst einen Plan. Sieben Risiken, sieben Massnahmen. Das ist machbar — auch für ein kleines Team.