Künstliche Intelligenz und Diskriminierung
KI Tools, die Frauen* in Bewerbungsprozessen automatisch aussortieren, die trans Personen misgendern oder Schwarze Menschen überproportional als Wiederholungstäter*innen einstufen, gehören mittlerweile zu unserer Realität. Immer häufiger werden Entscheidungsprozesse in algorithmische Systeme ausgelagert – denn Technik scheint nicht nur effizienter und somit profitabler, sondern auch objektiver als der Mensch. Aber ist sie das wirklich?
Die Realität sieht so aus: Algorithmische Entscheidungssysteme reproduzieren sexistische, rassistische und weitere diskriminierende Strukturen, die in unserer Gesellschaft vorherrschen. Überall dort, wo sie bereits heute eingesetzt werden: durch die Polizei oder vor Gericht, in Bewerbungsverfahren, in Ämtern und an Grenzübergängen.
Aber woran liegt das, und was kann man dagegen tun? Wie können wir uns für eine gerechte Welt mit Algorithmen einsetzen? Und was hat das mit unserem Alltag eigentlich zu tun?
© Alisa Hoffman
In diesem Kurs werden wir uns zunächst für die Themen sensibilisieren und darüber diskutierten. Dabei werden werden wir uns sowohl mit der technischen als auch gesellschaftlichen Dimension von KI beschäftigen. Auf der einen Seite also damit, wie KI-Tools funktionieren und wie sie eingesetzt werden. Auf der anderen Seite werden wir uns mit intersektionalem Feminismus, mit Machtverhältnissen und diskriminierenden Strukturen in unserer Gesellschaft auseinandersetzen und feststellen, an welchen Stellen und weshalb algorithmische Systeme letztere reproduzieren. Und vor allem: wie wir diese Prozesse anders und neu gestalten können!
Das Seminar besteht aus Vorlesungen und Diskussionen zum Thema, Besuch von Veranstaltungen und spekulativen Designmethoden.
Die Kursteilnehmenden bringen diese Perspektiven in einem eigenen Abschlussprojekt ein, welches sich (kritisch-spielerisch) dem Thema widmet.
Das Seminar wurde geleitet von Nushin Yazdani & Jasmin Grimm im WS 2019/20 an der FH Potsdam und im SoSe 2020 an der Humboldt Universität Berlin.
Das im Seminar entstandene Zine"Minorities Report" von Algorithms of Late Capitalism ist hier zu finden.
back to top
Data Justice
Künstliche Intelligenz und Diskriminierung
KI Tools, die Frauen* in Bewerbungsprozessen automatisch aussortieren, die trans Personen misgendern oder Schwarze Menschen überproportional als Wiederholungstäter*innen einstufen, gehören mittlerweile zu unserer Realität. Immer häufiger werden Entscheidungsprozesse in algorithmische Systeme ausgelagert – denn Technik scheint nicht nur effizienter und somit profitabler, sondern auch objektiver als der Mensch. Aber ist sie das wirklich?
Die Realität sieht so aus: Algorithmische Entscheidungssysteme reproduzieren sexistische, rassistische und weitere diskriminierende Strukturen, die in unserer Gesellschaft vorherrschen. Überall dort, wo sie bereits heute eingesetzt werden: durch die Polizei oder vor Gericht, in Bewerbungsverfahren, in Ämtern und an Grenzübergängen.
Aber woran liegt das, und was kann man dagegen tun? Wie können wir uns für eine gerechte Welt mit Algorithmen einsetzen? Und was hat das mit unserem Alltag eigentlich zu tun?
© Alisa Hoffmann
In diesem Kurs werden wir uns zunächst für die Themen sensibilisieren und darüber diskutierten. Dabei werden werden wir uns sowohl mit der technischen als auch gesellschaftlichen Dimension von KI beschäftigen. Auf der einen Seite also damit, wie KI-Tools funktionieren und wie sie eingesetzt werden. Auf der anderen Seite werden wir uns mit intersektionalem Feminismus, mit Machtverhältnissen und diskriminierenden Strukturen in unserer Gesellschaft auseinandersetzen und feststellen, an welchen Stellen und weshalb algorithmische Systeme letztere reproduzieren. Und vor allem: wie wir diese Prozesse anders und neu gestalten können!
back to top
