Gender Discrimination on steroids via AI

Die Bachelorarbeit beschäftigt sich mit dem Diskriminierungspotenzial von Machine Learning Algorithmen innerhalb Decision – Support – Systems (DSS), die in deutschen Unternehmen immer mehr Einsatzbereiche finden. Hierbei erfolgt eine Spezialisierung auf den Bereich Recruiting und den Bereich Marketing. Das konkrete Ziel der Arbeit lag darin herauszufinden, ob AI – basierte Systeme Genderdiskriminierung verstärken oder nicht.

Gender Discrimination on steroids via AI –

Exploration neuer Formen und Ausmaße der Genderdiskriminierung unter Berücksichtigung verschiedener Branchen und Erstellung von Handlungsempfehlungen für die Zukunft von fortgeschrittenen Softwarelösungen

Die Bachelorarbeit beschäftigt sich mit dem Diskriminierungspotenzial von Machine Learning Algorithmen innerhalb Decision – Support – Systems (DSS), die in deutschen Unternehmen immer mehr Einsatzbereiche finden. Hierbei erfolgt eine Spezialisierung auf den Bereich Recruiting und den Bereich Marketing. Das konkrete Ziel der Arbeit lag darin herauszufinden, ob AI – basierte Systeme Genderdiskriminierung verstärken oder nicht.

Aus der Untersuchung geht hervor, dass AI – Systeme in Form von DSS tatsächlich einen Nährboden für Genderdiskriminierungen liefern können. Dies resultiert nicht aus der Technologie selbst, sondern aus einer Vielzahl von Faktoren, wie zum Beispiel verzerrten Trainingsdaten, den erstellten Algorithmen und die Beteiligung einer Vielzahl von Personen mit unterschiedlichen Kompetenzen und Eigenschaften am Entwicklungsprozess solcher Systeme. Trotz des noch geringen Einsatzes von AI in Deutschland, besteht die Gefahr des emanzipatorischen Rückschrittes für die Zukunft, da eine enorme Steigerung des Einsatzes geplant ist. Es wurden bisher keine einheitlichen Rahmenbedingungen für die Datenerfassung, -übertragung und – verarbeitung getroffen, Anwenderunternehmen bringen selbst wenig Know – How im Bereich AI mit, es herrscht ein großer Mangel an Datenspezialisten und das Handeln gegen digitale Genderdiskriminierung findet insgesamt wenig Anklang.

Daraus resultieren unterschiedliche Gefahren für die betrachteten Bereiche, die sich auf die individuelle Entfaltungsfreiheit, das Recht auf umfassende Information und die persönliche Entscheidungsfreiheit des Einzelnen auswirken können. Es muss daher ein ganzheitliches Umdenken stattfinden und ein Kriterienkatalog für die Erstellung, den Einsatz und den langfristigen Umgang mit AI – basierter Software erstellt werden. Einen ersten Ansatz dafür liefern ein Beipackzettel für algorithmische Systeme sowie ein Ethikkodex und Handlungsempfehlungen, für die verschiedenen Teilhaber, die innerhalb der Bachelorarbeit entwickelt wurden.

Nikola Grote