Konzept-Guide

Verantwortungsvolle KI

KI hilft heute schon dabei, Kreditanträge zu prüfen, Bewerbungen vorzusortieren und Ärztinnen und Ärzte zu unterstützen. Reicht es, wenn sie genau ist? Nicht ganz. Du musst dich auch fragen, ob sie bestimmte Gruppen unfair behandelt, ob jemand erklären kann, warum sie so entschieden hat, und wer verantwortlich ist, wenn sie danebenliegt. Dieser Guide zeigt dir die Prinzipien verantwortungsvoller KI und die praktischen Wege, mit denen Teams sie im Alltag tatsächlich umsetzen.

01

Die Prinzipien verantwortungsvoller KI

Regierungen, internationale Organisationen und KI-Unternehmen haben jeweils eigene KI-Prinzipien veröffentlicht. Namen und Anzahl unterscheiden sich etwas, inhaltlich sagen sie aber fast dasselbe. Wähle in der Szene unten ein Prinzip und schau dir an, was schiefgeht, wenn es bricht.

Prinzip
Fairness
Menschen in ähnlicher Lage nicht unterschiedlich behandeln
Wenn es bricht
Bei gleicher Berufserfahrung bekommt ein Geschlecht schlechtere Scores

Erst alle sechs Prinzipien zusammen tragen eine vertrauenswürdige KI

Fairness: Menschen in ähnlicher Lage nicht unterschiedlich behandeln. Wenn es bricht: Bei gleicher Berufserfahrung bekommt ein Geschlecht schlechtere Scores.

PrinzipWas es bedeutet
FairnessMenschen in ähnlicher Lage nicht wegen einer Gruppe wie Geschlecht, Alter oder Region unterschiedlich behandeln
Zuverlässigkeit & SicherheitUnter verschiedenen Bedingungen stabil wie erwartet funktionieren (Robustheit) und keinen Schaden anrichten
Datenschutz & SicherheitDaten schützen und nur im Rahmen dessen nutzen, dem die Menschen zugestimmt haben
InklusionAlle können es nutzen – unabhängig von Behinderung, Alter, Sprache oder Region
TransparenzOffenlegen, dass KI im Spiel ist und wie sie zu Entscheidungen kommt (inklusive Erklärbarkeit)
VerantwortlichkeitJemand steht für das Ergebnis ein, und es gibt einen Weg, Widerspruch einzulegen und Fehler zu korrigieren

Prinzipien aufzuschreiben heißt noch nicht, dass sich jemand daran hält. Im Rest dieses Guides geht es darum, was du für jedes Prinzip konkret misst und aufbaust.

Steht in der Frage … → wähle das

  • “Behandelt Menschen in ähnlicher Lage je nach Gruppe unterschiedlich”Ein Fairness-Problem
  • “Funktioniert unter vielen verschiedenen Bedingungen stabil”Zuverlässigkeit & Sicherheit (Robustheit)
  • “Für alle nutzbar, unabhängig von Behinderung oder Sprache”Inklusion
  • “Macht klar, dass KI beteiligt ist und wie sie entscheidet”Transparenz
  • “Eine benannte verantwortliche Stelle und ein Verfahren für das Ergebnis”Verantwortlichkeit

Am häufigsten macht die Fairness Ärger. Aber warum sollte eine KI eine Gruppe schlechter behandeln als eine andere?

02

Woher Bias kommt

KI hat nicht vor, zu diskriminieren. Der meiste Bias (die Verzerrung) steckt in den Daten. Ein Modell lernt aus den Beispielen, die es sieht – sind die Daten schief, sind es die Ergebnisse auch. Die Szene unten zeigt ein Spracherkennungsmodell: wie viele Trainingsdaten es für Hochdeutsch und für Dialekt hatte und wie oft es jeweils danebenlag.

Hochdeutsch
900 Std. · 5% Fehler
Dialekt
100 Std. · 22% Fehler

Spracherkennungsmodell – Trainingsdaten und Fehlerquote nach Sprechweise (Beispiel)

Dialekt-Aufnahmen machen nur 10% der Trainingsdaten aus. Deshalb versteht das Modell Menschen mit Dialekt etwa jedes vierte Mal nicht (22%). Das Modell diskriminiert nicht absichtlich – die Daten sind einseitig.

Art von BiasWie er entstehtBeispiel
Stichproben-Bias (Repräsentations-Bias)Manche Gruppen haben zu wenige DatenZu wenige Dialekt-Aufnahmen, also versteht das Modell Dialekt schlecht
Historischer BiasUnfaire Entscheidungen der Vergangenheit stecken in den DatenEine Gruppe, die früher selten eingestellt wurde, bekommt auch vom Modell niedrige Scores
Mess- bzw. Label-BiasDie Art, wie Antworten gelabelt wurden, ist einseitigDas Verhalten einer Gruppe wurde öfter als „riskant“ markiert
Proxy-VariablenAndere Merkmale verraten die sensible Information, die du entfernt hastDas Geschlecht ist raus, aber Vorname und Hobbys verraten es trotzdem
Hier stolpern viele: Wenn du sensible Merkmale wie Geschlecht, Alter oder Region aus den Eingaben entfernst, ist der Bias nicht weg. Andere Merkmale können dieselbe Information tragen. Deshalb musst du die Ergebnisse nach Gruppen aufteilen und wirklich messen.

Steht in der Frage … → wähle das

  • “Schwache Leistung, weil eine Gruppe zu wenige Trainingsdaten hat”Stichproben-Bias (Repräsentation) → mehr Daten sammeln
  • “Das Modell übernimmt diskriminierende Entscheidungen von früher”Historischer Bias
  • “Sensible Merkmale entfernen beseitigt den Bias”Falsch – Proxy-Variablen bleiben
  • “Den Anteil jeder Gruppe im Datensatz prüfen”Bias-Erkennung (Datenanalyse)

Wie prüfst du also mit echten Zahlen, ob ein Modell fair ist?

Nur mit Pro

Bis hierhin ist der Guide kostenlos

Die übrigen 5 Kapitel sind für Pro-Abonnenten freigeschaltet. Jedes bringt weitere 3D-Grafiken und „Steht in der Frage …“-Hinweise, und im letzten Kapitel prüfst du dein Wissen selbst.

  1. 03Fairness messen
  2. 04Erklärbarkeit
  3. 05Transparenz und Dokumentation
  4. 06Governance und Regulierung
  5. 07Situationen als Prinzipien lesen
Pro ansehenSchon Pro? Anmelden

Anzeige

PasslyExam

Du kennst jetzt das Konzept. Teste es an Prüfungsfragen

PasslyExam bietet eigene Übungsfragen, Erklärungen und vollständige Probeprüfungen, die sich am offiziellen Prüfungsleitfaden jeder Zertifizierung orientieren. Die Erklärungen zeigen, warum die richtige Antwort stimmt und warum ähnlich klingende Optionen falsch sind. Registriere dich und übe jeden Tag kostenlos.

Kostenlos startenAnmelden

Prüfungen, in denen dieses Konzept vorkommt