| Datenschutz | Sensible Daten können über Eingabeaufforderungen, Systemausgaben oder mit dem System verbundene Komponenten offengelegt werden. | Den Zugriff auf Daten einschränken und Richtlinien für die Nutzung zugelassener KI-Tools festlegen. |
| Regulatorische Compliance | Ein KI-gestützter Arbeitsablauf verarbeitet Daten oder liefert Ergebnisse, die gegen branchenbezogene oder lokale gesetzliche Vorschriften verstoßen. | Überprüfen Sie die Anforderungen für jeden Anwendungsfall und dokumentieren Sie die entsprechenden Kontrollmaßnahmen und Überprüfungsverfahren. |
| Falsche Ergebnisse | Auch Antworten, die plausibel erscheinen, können Fehler enthalten. | Stützen Sie Ihre Schlussfolgerungen auf verlässliche Daten und überprüfen Sie Ergebnisse, die erhebliche Konsequenzen haben. |
| Voreingenommenheit und Fairness | Automatisch generierte Inhalte oder Empfehlungen können bestimmte Gruppen benachteiligen. | Testergebnisse zu verschiedenen Nutzergruppen und Überprüfungsentscheidungen, die erhebliche Auswirkungen haben. |
| Transparenz und Nachvollziehbarkeit | Die Nutzer werden nicht darüber informiert, dass sie mit einer KI interagieren, und die Mitarbeiter können weder die Quellen der Antworten überprüfen noch die Handlungen des Chatbots nachverfolgen. | Geben Sie den Einsatz von KI an, nennen Sie (soweit möglich) Quellen und protokollieren Sie wesentliche Maßnahmen. |
| Geistiges Eigentum | Automatisch generierte Inhalte können urheberrechtlich geschütztes Material enthalten oder Fragen hinsichtlich der Nutzungsrechte aufwerfen. | Überprüfen Sie vor der Veröffentlichung die Eingabedaten, die Bedingungen des Dienstanbieters und die Systemausgabe. |
| Sofortige Injektion | Schädliche Inhalte können das Verhalten des KI-Systems manipulieren. | Behandeln Sie externe Inhalte als nicht vertrauenswürdig und testen Sie die damit verbundenen Arbeitsabläufe. |
| Unkontrollierte Handlungen von Agenten | Der Mitarbeiter führt im Geschäftssystem eine unbeabsichtigte Aktion aus. | Zugriffsrechte einschränken, ein Aktivitätsprotokoll führen und für wichtige Vorgänge eine Genehmigung einholen. |
| Kosten und ROI | Die Kosten für Nutzung und Integration steigen, ohne dass ein klarer geschäftlicher Nutzen erkennbar ist. | Erfassen Sie die Ergebnisse der Systemnutzung sowie die Kosten für dessen Implementierung. |
| Mangel an Eigenverantwortung und Kompetenzen | Es gibt kein Team, das für die Überprüfung der Ergebnisse, die Überwachung der Leistung oder die Behebung von Problemen zuständig ist. | Legen Sie klare Zuständigkeiten fest, definieren Sie Überprüfungs- und Eskalationsverfahren und organisieren Sie Schulungen für die Mitarbeiter, die das System nutzen. |