Welches Risiko ist mit dem Einsatz von KI für ein Unternehmen verbunden?

Zunächst muss jedem Nutzer von KI-Systemen klar sein, dass bei KI-Ergebnissen das Risiko der Unrichtigkeit und der Diskriminierung besteht. KI ist nur so gut wie die Trainingsdaten sind, mit der die KI trainiert wurde. Schlechte Trainingsdaten erhöhen damit das Risiko von Fehlern und Diskriminierungen. Zu nennen sind insbesondere

Bias = Voreingenommenheit aufgrund falscher Trainingsdaten

Ungenauigkeiten = die KI knüpft falsche Zusammenhänge

Halluzinationen = Fehler in Antworten

Jede Nutzung eines KI-Ergebnisses muss daher auf Richtigkeit und Diskriminierung kontrolliert werden. Verstößt die Verwendung von KI gegen die Anforderungen der KI-VO drohen zudem hohe Bußgelder, ggfs. ist man Schadenersatzansprüchen ausgesetzt. Sind personenbezogene Daten tangiert, kann es neben Bußgeldern auch zu Schadenersatzansprüchen von Betroffenen auf Basis der DSGVO und dem BDSG kommen. Bei der Verwendung von KI-Systemen Dritter besteht das Risiko, gegen Vertraulichkeitsvereinbarungen von Kunden und Lieferanten zu verstoßen. Nicht zu unterschätzen ist auch das Risiko, dass Mitarbeiter eigene Geschäftsgeheimnisse über die KI-Anwendung offenbaren. Im Übrigen sollten Mitarbeiter auch urheberrechtliche sensibilisiert sein. So können das Kopieren und Trainieren mit Inhalten Dritter (Fotos, Texte) ggfs. gegen Urheber- oder Leistungsschutzrechte Dritter verstoßen. Auch KI-Ergebnisse können Werken anderer Urheber ggfs. zu ähnlich sein und damit zu Unterlassungs- und Schadenersatzansprüchen führen. Zusammenfassend sollte sichergestellt werden, dass

• die Anforderungen der KI-VO eingehalten werden (bspw. Transparenz bei Chatbots)
• keine personenbezogene Daten über die KI verarbeitet werden
• Nutzer von KI keine Urheber- oder Leistungsschutzrechte Dritter verletzen
• Nutzer keine eigenen oder fremden Geschäftsgeheimnisse über offene KI-Systeme offenbaren
• der Output nicht Persönlichkeitsrechte Dritter tangiert (bspw. Deepfakes von Personen)
• der Output nicht wettbewerbswidrig ist
• der Output korrekt ist
• der Output nicht diskriminierend ist.