Bias durch Behandlung von Fairness als Symmetrieebene erkennen und mildern
· Quelle: arXiv cs.AI
Die in sozioökonomischen Kontexten mit hohem Risiko eingesetzten Automatisierungssysteme weisen häufig Voreingenommenheit auf. Ein innovativer Ansatz betrachtet die Voreingenommenheit als Symmetriebrechung, d. h. ein Klassifikator ist gerecht, wenn seine Ergebnisse nicht ändern, wenn ein sensibles Attribut umgekehrt wird, während die Merkmale der Qualität festgehalten werden. Um dieses Problem anzugehen, wurde ein Rahmen entwickelt, der die Regularisierung auf der Grundlage der Verlustfunktion als Mechanismus zur Wiederherstellung der Symmetrie verwendet. Diese Herangehensweise wurde an vier synthetischen Datensätzen mit unterschiedlichen Niveaus von Rauschen, Korrelation und Voreingenommenheit getestet und erreichte eine Reduzierung der Verstöße um 90 % mit einem Kostenkoeffizienten der Genauigkeit von 5 %. Die Vorteile dieses Rahmens bestehen darin, dass er keine Kenntnisse über kausale Graphen benötigt, leicht computergestützt ist und auf jedes definierbare sensible Attribut angewendet werden kann, was ihn für Kontexte geeignet macht, in denen lokale Quellen der Diskriminierung in den Standardtests nicht vorhanden sind. Diese Nachricht ist wichtig, da sie die Notwendigkeit hervorhebt, die Voreingenommenheit in Automatisierungssystemen anzugehen und eine Lösung präsentiert, die auf eine Vielzahl von Kontexten angewendet werden kann, was dazu beitragen kann, dass die Systeme der künstlichen Intelligenz gerechter und transparenter werden. Darüber hinaus können die Ergebnisse dieser Forschung Auswirkungen auf die Entwicklung von Lösungen wie open-garage haben, die darauf abzielt, durch den Einsatz der künstlichen Intelligenz Märkte der zweiten Hand gerechter und transparenter zu machen.
Originalartikel lesen auf arXiv cs.AI
Diese Zusammenfassung ist eine informationelle Synthese von dataqbs.com. Alle Rechte am Originalinhalt liegen beim Autor und dem genannten Medienunternehmen. Wir handeln ausschließlich als Kuratoren von Technologie-Nachrichten und beanspruchen keine Urheberschaft.