"Diskriminierung 2.0: Algorithmen sind binär, Menschen nicht"

Menschen aus der LGBTIQ-Community werden von algorithmischen Systemen oftmals nicht erkannt, geblockt oder gar ausgeschlossen. Zum Auftakt des Pride-Months 2024 zeigen AlgorithmWatch CH, humanrights.ch, LOS, Pink Cross und TGNS, wie Algorithmen LGBTIQ-Personen diskriminieren können.

Sie begegnen uns heute fast täglich: Online-Formulare, die uns nach unserem Geschlecht und anderen sensiblen Daten fragen. Auszuwählen gibt es hierbei meist nur zwei Attribute: männlich oder weiblich. Die Mehrzahl dieser Formulare sind noch immer binär gestaltet. Der Ausschluss von intergeschlechtlichen, trans und genderfluiden Personen ist bei einer solch binären Dateneingabe wortwörtlich vorprogrammiert. Die Diskriminierung von Algorithmen und sogenannter Künstlicher Intelligenz gegenüber Mitgliedern der LGBTIQ-Community können aber noch viel weiter gehen. [...]

Die Beispiele zeigen: Binäre Algorithmen werden unseren vielseitigen Gender-Realitäten in vielen Kontexten nicht gerecht. Intransparente Social-Media-Algorithmen können ohne menschliche Steuerung zu drastischen Diskriminierungen von gesamten Bevölkerungsgruppen wie etwa der LGBTIQ-Community führen. Algorithmische Systeme diskriminieren darüber hinaus viele weitere Bevölkerungsgruppen. In der Serie «Diskriminierung 2.0: Wie Algorithmen diskriminieren» beleuchten AlgorithmWatch CH und humanrights.ch zusammen mit weiteren Organisationen deshalb unterschiedlichste Fälle von algorithmischer Diskriminierung.