Die Maschine sieht nicht alle gleich.
Das Projekt Gender Shades testete 2018 kommerzielle Gesichtsanalyse: Bei hellhäutigen Männern lag die Fehlerquote unter einem Prozent, bei dunkelhäutigen Frauen bei bis zu 35 Prozent.
Gender Shades ↗WIR SIND
KEIN RANDFALL.
Wer Technologie gestaltet, entscheidet mit, was sie wahrnimmt. Und was nicht. Queere Menschen tauchen in Trainingsdaten, Kategorien und Testfällen oft gar nicht oder nur als Klischee auf. Das ist kein Zufall, und es lässt sich ändern.
BIAS / DOKUMENTATIONWER WIRD
WER WIRD
MITGEDACHT?
Frag nach den Daten, den Kategorien und den Menschen hinter dem System.
Bias verstehen & Vorfall melden ↗01020304
Repräsentation
Welche Lebensrealitäten tauchen in Beispielen und Antworten auf — und welche fehlen?
Privatsphäre
Intime Informationen verdienen bewusste Entscheidungen darüber, wo sie landen.
Widersprechen
Beobachtungen dokumentieren. Entscheidungen hinterfragen. Beschwerdevorlagen nutzen.
Selbst ausprobieren
Spiele zu Bias, Suchverhalten und Selbstbild.
WAS BELEGT IST
Nur zwei Schubladen.
Automatische Geschlechtserkennung geht fast immer von zwei festen Geschlechtern aus, abgelesen am Aussehen. Trans und nicht-binäre Menschen werden dabei systematisch falsch zugeordnet.
Algorithmic Justice League ↗Drag gilt als giftiger als Hetze.
Eine Studie von InternetLab ließ ein verbreitetes Toxizitäts-Tool Tweets bewerten: Viele Tweets bekannter Drag Queens schnitten „giftiger“ ab als Tweets bekannter weißer Rassisten.
InternetLab ↗Queer heißt: lila Haare.
Eine Analyse von WIRED zeigte 2024, dass Bildgeneratoren queere Menschen immer wieder mit denselben Klischees darstellen, zum Beispiel bunt gefärbten Haaren und Piercings.
WIRED ↗WAS DAS GESETZ SAGT
EU AI ACTDEINE
DEINE
ORIENTIERUNG
IST TABU.
Seit Februar 2025 verbietet der AI Act in der EU Systeme, die aus biometrischen Daten wie Gesichtern auf die sexuelle Orientierung oder das Sexualleben schließen sollen.
Mehr zum AI Act ↗Verbotene Praktiken
Biometrische Kategorisierung nach sensiblen Merkmalen und Emotionserkennung am Arbeitsplatz oder in der Schule sind in der EU unzulässig, mit engen Ausnahmen.
DSGVO bleibt
Angaben zu Sexualleben und sexueller Orientierung sind besonders geschützte Daten. Sie dürfen nur unter strengen Bedingungen verarbeitet werden.
Plattformen müssen begründen
Nach dem Digital Services Act müssen Plattformen Löschungen erklären und Widerspruch ermöglichen.
Deine Rechte ↗
SELBST SCHÜTZEN
WIR SIND
DIE DATEN.
WIR REDEN MIT.
Queere Menschen sollten nicht nur in Datensätzen vorkommen, sondern mitentscheiden, wie Systeme gebaut werden.
Vorfall melden ↗