Künstliche Intelligenz diskriminieren und Vorurteile verschärfen kann

KI-Anwendungen sind längst fester Bestandteil unseres Alltags und treffen etwa in der Gesundheitsversorgung, in der Rechtsprechung oder im Recruiting immer mehr Entscheidungen für den Menschen. Doch auch Algorithmen entscheiden nicht immer neutral, obwohl sie Entscheidungsprozesse wertfreier und fairer gestalten sollen. Denn Menschen haben unbewusste Vorurteile, die in die Entwicklung von Algorithmen einfließen.

In einer neuen Folge des Wissenspodcasts Neuland zum Thema "Unconscious Bias – Warum KI-basierte Technologien diskriminieren und Vorurteile verschärfen können" sprechen Professorin Katharina Hölzle, Leiterin des Fachgebiets IT-Entrepreneurship und Frauenbeauftragte des Hasso-Plattner-Instituts (HPI), und Rea Eldem, Gründerin des Unternehmens IN-VISIBLE BERLIN, mit Moderator Leon Stebe darüber, wie und warum Algorithmen unbewusste Voreingenommenheiten reproduzieren und welche Maßnahmen ergriffen werden müssen, um künftig diskriminierende Entscheidungen zu verhindern oder maximal zu minimieren.

"Menschen programmieren ihre Lebenswelt in den Algorithmus und die ist oft sehr homogen. Das was ich heute sehe, übertrage ich auf die Zukunft und das kann durch die homogene Welt der IT sehr gefährlich werden", betont Professor Katharina Hölzle. Seien Biases erst einmal implementiert, ließen sich diese nur sehr schwer wieder eliminieren.

Die Sensibilisierung der Entwickler für unbewusste Verzerrungen zu Beginn der Entwicklungs- und Design-Phase einer KI-Anwendung sei entscheidend. "Die Aufklärung, wie Algorithmen funktionieren, ist sehr wichtig sowie die frühzeitige Bildungsarbeit über diverse Rollenbilder. Das sollte am besten schon in einem Alter passieren, in dem Voreingenommenheit und Stereotypen noch gar nicht so gefestigt sind", fordert Rea Eldem.

Fundiertes Wissen über die digitale Welt, anschaulich und verständlich erklärt – das bietet der Wissenspodcast "Neuland" mit Experten des Hasso-Plattner-Instituts (HPI) unter: https://podcast.hpi.de, bei iTunes und Spotify. Einmal im Monat sprechen sie bei Neuland über aktuelle und gesellschaftlich relevante Digitalthemen, ihre Forschungsarbeit und über Chancen und Herausforderungen digitaler Trends und Entwicklungen.

Über die Hasso-Plattner-Institut für Softwaresystemtechnik GmbH

Das Hasso-Plattner-Institut (HPI) in Potsdam ist Deutschlands universitäres Exzellenz-Zentrum für Digital Engineering (https://hpi.de). Mit dem Bachelorstudiengang "IT-Systems Engineering" bietet die gemeinsame Digital-Engineering-Fakultät des HPI und der Universität Potsdam ein deutschlandweit einmaliges und besonders praxisnahes ingenieurwissenschaftliches Informatikstudium an, das von derzeit rund 700 Studierenden genutzt wird. In den vier Masterstudiengängen "IT-Systems Engineering", "Digital Health", "Data Engineering" und "Cybersecurity" können darauf aufbauend eigene Forschungsschwerpunkte gesetzt werden. Bei den CHE-Hochschulrankings belegt das HPI stets Spitzenplätze. Die HPI School of Design Thinking, Europas erste Innovationsschule für Studierende nach dem Vorbild der Stanforder d.school, bietet jährlich 300 Plätze für ein Zusatzstudium an. Derzeit sind am HPI 22 Professorinnen und Professoren und über 50 weitere Gastprofessuren, Lehrbeauftragte und Dozenten tätig. Es betreibt exzellente universitäre Forschung – in seinen IT-Fachgebieten, aber auch in der HPI Research School für Doktoranden mit ihren Forschungsaußenstellen in Kapstadt, Haifa, Nanjing und Irvine. Schwerpunkt der HPI-Lehre und -Forschung sind die Grundlagen und Anwendungen großer, hoch komplexer und vernetzter IT-Systeme. Hinzu kommt das Entwickeln und Erforschen nutzerorientierter Innovationen für alle Lebensbereiche.

Firmenkontakt und Herausgeber der Meldung:

Hasso-Plattner-Institut für Softwaresystemtechnik GmbH
Prof.-Dr.-Helmert-Str. 2-3
14482 Potsdam
Telefon: +49 (331) 5509-0
Telefax: +49 (331) 5509-129
http://www.hpi.de

Ansprechpartner:
Christiane Rosenbach
Telefon: +49 (331) 5509-119
E-Mail: christiane.rosenbach@hpi.de
Carina Kretzschmar-Weidmann
Telefon: +49 (331) 5509-177
E-Mail: carina.kretzschmar@hpi.de
Für die oben stehende Pressemitteilung ist allein der jeweils angegebene Herausgeber (siehe Firmenkontakt oben) verantwortlich. Dieser ist in der Regel auch Urheber des Pressetextes, sowie der angehängten Bild-, Ton-, Video-, Medien- und Informationsmaterialien. Die United News Network GmbH übernimmt keine Haftung für die Korrektheit oder Vollständigkeit der dargestellten Meldung. Auch bei Übertragungsfehlern oder anderen Störungen haftet sie nur im Fall von Vorsatz oder grober Fahrlässigkeit. Die Nutzung von hier archivierten Informationen zur Eigeninformation und redaktionellen Weiterverarbeitung ist in der Regel kostenfrei. Bitte klären Sie vor einer Weiterverwendung urheberrechtliche Fragen mit dem angegebenen Herausgeber. Eine systematische Speicherung dieser Daten sowie die Verwendung auch von Teilen dieses Datenbankwerks sind nur mit schriftlicher Genehmigung durch die United News Network GmbH gestattet.

counterpixel