think.work.different

Mindfulness und eine neue Bewusstseins-Kultur in Alltag und Business

© Dr. Nadja Rosmann 2024
Impressum / Datenschutz

Diskriminierende Algorithmen

In den letzten Jahren wächst die Sensibilität für die unerwünschten Nebenwirkungen beim Einsatz von Algorithmen. Wir haben uns daran gewöhnt, im Netz ausspioniert zu werden, auf das man uns gemäß unseres Klickverhaltens die passenden Werbeanzeigen einblendet. Das mag nerven oder gar zu absurden Vorschlägen führen, aber ist noch kein gesellschaftliches Problem. Kritisch wird es dann, wenn Algorithmen, die in wesentliche Bereiche unseres Leben hineinwirken, dümmer sind als die Realität. "Fehlt den Daten die notwendige Tiefe, stammen sie etwa nur aus der Vergangenheit, bilden sie nur einen Ausschnitt der Bevölkerung oder nur bestimmte Lebensrealitäten ab, dann führen die Algorithmen zu verzerrten Entscheidungen. Dann werden die benachteiligt, deren Daten nicht inkludiert sind. Der Code führt unsichtbar zu Diskriminierung", so ein Artikel im manager magazin. Nicht nur die Tatsache, dass rund 78 Prozent der KI-Fachkräfte weltweit Männer sind, beeinflusst, mit welchen Daten Maschinen gefüttert werden. Ein weiterer wunder Punkt ist, dass Computer nicht zwischen Korrelationen und Kausalitäten unterscheiden. Ein Unternehmen hatte beispielsweise ein Bewerbungssystem aufgesetzt. Aufgrund der bisherigen Daten der Personalabteilung musste das Programm davon ausgehen, dass Männer die besseren Bewerber sind, denn laut dem bisherigen Datenbestand hatten in der Firma deutlich mehr Männer als Frauen Karriere gemacht. Der Algorithmus war darauf ausgelegt, diese Vergangenheit fortzuschreiben, doch glücklicherweise fiel der Fehler einem menschlichen Beteiligten auf. Der Artikel im manager magazin kommt zu dem Schluss: "Wir sollten klare ethische Überlegungen anstellen. Softwareentwicklung muss das soziale Gefüge einer Gesellschaft berücksichtigen und diverse Erfahrungen und Lebensrealitäten einschließen. ... Künstliche Intelligenz kann nur mathematische Entscheidungen treffen, keine ethischen. Darum liegt es gerade in der gesellschaftlichen Verantwortung von Unternehmen, nicht den einfachsten Weg zu gehen und nach maximalem betriebswirtschaftlichen Nutzen zu streben. Es reicht nicht, den Code als eine Ansammlung von Nullen und Einsen zu sehen."
Der Code der Diskriminierung, manager magazin 28.5.21

Stacks Image 3
Stacks Image 3
Buch-Tipps
Meine beiden Bücher, die ich mit Paul J. Kohtes geschrieben habe.

Anzeige

evolve - Magazin für Bewusstsein und Kultur, Ausgabe Februar bis April 2023 mit dem Thema Re-Generation - Anfänge einer neuen Kultur

Anzeige