AI Bias (KI-Verzerrung) bezeichnet systematische Schieflagen in den Ergebnissen einer KI, durch die bestimmte Gruppen benachteiligt oder Sachverhalte einseitig dargestellt werden. Die Wurzel liegt meist in den Trainingsdaten: Stecken darin historische Ungleichheiten, Lücken oder eine einseitige Auswahl, lernt das Modell diese Muster mit und reproduziert sie, mitunter verstärkt.
Dokumentierte Fälle reichen von Recruiting-Software, die Bewerberinnen schlechter bewertete, weil die historischen Einstellungsdaten männlich geprägt waren, bis zu Gesichtserkennung, die bei dunkler Hautfarbe deutlich häufiger irrte. Neben schlechten Entscheidungen drohen rechtliche Folgen: Diskriminierung bleibt auch dann verboten, wenn ein Algorithmus sie erzeugt, und die KI-Verordnung stuft KI in Personalauswahl oder Kreditvergabe als Hochrisiko ein, mit ausdrücklichen Pflichten zur Qualität der Trainingsdaten (Art 10 KI-VO).
Gegenmittel sind geprüfte und ausgewogene Daten, systematische Tests auf Verzerrungen, menschliche Kontrolle kritischer Entscheidungen und laufendes Monitoring im Betrieb. Ganz ausschließen lässt sich Bias nicht, auch weil er oft erst im Einsatz sichtbar wird; reduzieren und dokumentieren lässt er sich sehr wohl.