Künstliche Intelligenz neigt eher als Menschen dazu, Voreingenommenheiten bei der Einstellung zu bilden.
· Quelle: MIT Technology Review
Die künstliche Intelligenz kann anfällig für Vorurteile sein, wenn es um die Auswahl von Personal geht. Ein kürzlich durchgeführtes Studium hat gezeigt, dass fortschrittliche Sprachmodelle bei der Verarbeitung von Informationen über Bewerber für Stellen Vorurteile und Stereotypen entwickeln können. Diese Modelle können lernen, bestimmte Merkmale mit bestimmten ethnischen Gruppen in Verbindung zu bringen und Entscheidungen auf der Grundlage dieser Assoziationen zu treffen.
In einem Experiment simulierten die Forscher einen Auswahlprozess für Personal, indem sie fortschrittliche Sprachmodelle, einschließlich ChatGPT und anderen, einsetzten. Die Ergebnisse zeigten, dass diese Modelle tendenziell ethnische Gruppen bei der Entscheidungsfindung segregierten, selbst wenn die bereitgestellte Information keine solchen Unterscheidungen rechtfertigte. Dies deutet darauf hin, dass die künstliche Intelligenz bestehende Vorurteile in der Gesellschaft aufrechterhalten und verstärken kann.
Die Fähigkeit der Sprachmodelle, Erfahrungen zu speichern und zu lernen, kann ebenfalls dazu beitragen, Vorurteile zu bilden. Je fortschrittlicher und personalisierter diese Modelle werden, desto anfälliger sind sie für Vorurteile und Stereotypen. Allerdings fanden die Forscher auch heraus, dass die Bereitstellung zusätzlicher Informationen über die Bewerber, wie Alter und Bildung, die Vorurteile und Stereotypen reduzieren kann.
Diese Nachricht ist wichtig, da die künstliche Intelligenz immer mehr im Auswahlprozess für Personal eingesetzt wird und einen erheblichen Einfluss auf die Entscheidungsfindung bei der Einstellung haben kann. Es ist unerlässlich, die möglichen Vorurteile und Stereotypen zu berücksichtigen, die bei der Verwendung der künstlichen Intelligenz im Zusammenhang mit der Personalwahl entstehen können, und zu arbeiten, um sie zu mildern. Die Schaffung von gerechteren und transparenteren Sprachmodellen ist entscheidend, um sicherzustellen, dass der Auswahlprozess für Personal fair und gerecht für alle Bewerber ist.
Originalartikel lesen auf MIT Technology Review
Diese Zusammenfassung ist eine informationelle Synthese von dataqbs.com. Alle Rechte am Originalinhalt liegen beim Autor und dem genannten Medienunternehmen. Wir handeln ausschließlich als Kuratoren von Technologie-Nachrichten und beanspruchen keine Urheberschaft.