KI fördert die Diskriminierung von Frauen und Nicht-Weissen. Jetzt soll ein neues Gesetz her

Wer eine künstliche Intelligenz auffordert, Bilder von einem «presidential candidate» zu erstellen, bekommt ausschliesslich Resultate mit älteren weissen Männern in Anzug und Krawatte. Dies, obwohl das Wort im Englischen geschlechtsneutral ist. Diesen Test hat die Nichtregierungsorganisation Algorithm Watch Schweiz in den KI-Bildgeneratoren Kandinsky oder Midjourney gemacht. Herausgekommen sind Bilder, die alle den hiesigen Stereotypen entsprechen.

Angela Müller, Geschäftsführerin von Algorithm Watch Schweiz, sagt: «Sowohl im öffentlichen als auch im privaten Sektor können Menschen von algorithmischer Diskriminierung betroffen sein.» Damit ist gemeint, dass die KI Vorurteile zu den Geschlechtern, der Hautfarbe oder der ethnischen Herkunft wiedergibt. «KI-Systeme basieren auf Daten aus der Vergangenheit. Sie reproduzieren darin enthaltene Denkmuster und Stereotypen und tragen sie so in die Zukunft», sagt Müller. Sie seien weder neutral noch objektiv.

Müller spricht automatisierte Bonitätsprüfungen an, mit denen Banken darüber entscheiden, wer einen Kredit erhält. Oder KI-Systeme in der Medizin, die Hautfarbe und ethnische Herkunft von Patientinnen und Patienten mit einberechnen und andere Therapien für weisse Menschen vorschlagen. Oder Personalabteilungen, die nach Führungskräften suchen – und denen die KI fast nur männliche Kandidaten vorschlägt, da der Algorithmus die qualifizierten Frauen nicht erkennt.

Überall treffen also künstliche Intelligenz oder Algorithmen Entscheidungen, mit Auswirkungen auf das Leben der Betroffenen. Darum fordern zwei Kommissionen ein neues Antidiskriminierungsgesetz.

Grosse Lücken im Diskriminierungsschutz

Die Eidgenössische Kommission für Frauenfragen (EKF) und die Eidgenössische Kommission gegen Rassismus (EKR) haben ein Rechtsgutachten in Auftrag gegeben. Das Ziel war, herauszufinden, ob der Schutz vor der algorithmischen Diskriminierung in der Schweiz genügt. Die kurze Antwort im Gutachten lautet: Nein.

Professorin Nadja Braun Binder von der Universität Basel und Professor Florent Thouvenin von der Universität Zürich stellen Lücken im Schutz vor dieser Diskriminierung fest. Das geht aus dem Dokument hervor, das dieser Redaktion vorliegt. Die Kommissionen stellen das Gutachten am Dienstag an einer nationalen Konferenz vor, die von Bundesrätin Elisabeth Baume-Schneider eröffnet wird.

Laut den beiden Kommissionspräsidentinnen Cesla Amarelle und Ursula Schneider Schüttel zeigt das Gutachten, dass es Betroffenen rechtlich kaum möglich ist, sich gegen algorithmische Diskriminierung zu wehren. Die EKF und die EKR leiten aus dem Gutachten eine deutliche Forderung ab: Die Schweiz brauche ein Gleichbehandlungs- oder eben Antidiskriminierungsgesetz. Darin soll ein umfassender Schutz vor algorithmischer und allgemeiner Diskriminierung erfasst sein. Das Gesetz würde sowohl den Bund als auch Private in die Pflicht nehmen. Daneben sollen bereits bestehende Gesetze ergänzt werden, etwa das Datenschutzgesetz. Die beiden Kommissionen fordern auch, dass die Bundesverwaltung transparent darüber Auskunft gibt, welche KI-Systeme oder Algorithmen sie einsetzt.

Zweiter Anlauf für Gesetz

Die Forderung nach einem Gleichbehandlungsgesetz kam bereits 2007 auf. Der damalige St. Galler SP-Nationalrat Paul Rechsteiner verlangte in einem Vorstoss rechtliche Instrumente, um «Diskriminierung aus Gründen des Geschlechts, wegen der Hautfarbe oder der ethnischen Herkunft, Religion oder Weltanschauung, des Alters, einer Behinderung oder der sexuellen Identität» verhindern zu können. 

Der Vorstoss scheiterte. Der St. Galler Alt-Ständerat sagt: «Die Sensibilität dafür war damals nicht da. Darum fand das Anliegen bei den Bürgerlichen kein Gehör.» Vor fünf Jahren wurde ein Verbot der Diskriminierung aufgrund der sexuellen Orientierung nach einer Volksabstimmung ins Strafgesetzbuch aufgenommen. Rechsteiner begrüsst den neuen Anlauf, den die Kommissionen nun starten. Durch die neuen Herausforderungen in der digitalen Welt sei eine noch grössere Notwendigkeit gegeben.

«Wir sind schon sehr fortgeschritten mit der Gleichstellung»

Die Forderungen der Frauenkommission und der Antirassismuskommission werden im bürgerlichen Lager teilweise kritisch gesehen. SVP-Nationalrätin Nina Fehr Düsel gehen sie zu weit. «Wir sind in der Schweiz schon sehr fortgeschritten mit der Gleichstellung. Ein neues Gesetz bringt da nicht viel.» Wichtiger sei es, den Kinder- und Jugendschutz im Netz zu verbessern, sagt Fehr Düsel.

Mitte-Nationalrat Dominik Blunschy sagt: «Für die Schweiz sehe ich zentrale Risiken, die von KI ausgehen.» Damit die Grundrechte geachtet würden, brauche es Mindeststandards für Transparenz, um Diskriminierung zu erkennen. «Die Schweiz soll zudem ihre einseitige Abhängigkeit von den ausländischen Grossanbietern verringern», ergänzt er. Dies, indem eigene Kompetenzen und Angebote in der Forschung, bei Start-ups und im öffentlichen Sektor gefördert würden. So könne man Systeme schaffen, die hiesige Regeln einhalten würden und transparent seien.

Wie Fehr Düsel will aber auch Blunschy kein neues Gesetz: «Meines Erachtens sollten wir das bestehende Recht weiterentwickeln.» Er sieht die KI-Konvention des Europarats, die der Bundesrat im März dieses Jahres ratifiziert hat, als Chance, die Menschen zu schützen.

Auch Private in die Pflicht nehmen

Der Bundesrat will bis Ende 2026 konkrete Vorschläge ausarbeiten, um Transparenz zu schaffen, die Aufsicht über künstliche Intelligenzen zu regeln und Diskriminierung zu verhindern. Zudem hat er vor wenigen Wochen einen Gesetzesentwurf zur Regulierung von Instagram, X, Google und Co. in die Vernehmlassung geschickt.

Müller von Algorithm Watch begrüsst die KI-Konvention, sagt aber auch, es brauche einen Diskriminierungsschutz, der weiter gehe. Die Vorschläge des Bundesrats würden sich voraussichtlich auf minimale Massnahmen und nur auf den öffentlichen Sektor beschränken. «Es droht eine Lücke, wenn der Privatsektor ausser Acht gelassen wird», so Müller. Dies sei nicht nur präventiv wichtig, um Diskriminierung künftig zu verhindern. Es brauche auch klare Regeln, um diejenigen zu belangen, die sich nicht daran hielten.