Σε μια δοκιμή με το ChatGPT, η ομάδα δημιούργησε 40.000 προφίλ: ο αλγόριθμος υποτίμησε την ηλικία και την εμπειρία των γυναικών αιτητών, ενώ για τους ώριμους άνδρες — υπερτίμησε.
Μια εκτενής ανάλυση αποκάλυψε πώς το ψηφιακό περιβάλλον και οι αλγόριθμοι τεχνητής νοημοσύνης διαστρεβλώνουν την εικόνα των γυναικών στον επαγγελματικό τομέα: τις μεταβάλλουν σε... «νεότερες», αποδίδοντας τους μικρότερη επαγγελματική εμπειρία, ενώ οι άνδρες παρουσιάζονται ως ώριμοι και ικανοί.
Πρόκειται για έναν πολιτισμικό μετασχηματισμό που διαπερνά τις καθημερινές εικόνες και τα αυτοματοποιημένα συστήματα.
Το μυστικό πείραμα
Οι ειδικοί ανέλυσαν 1,4 εκατομμύρια εικόνες και βίντεο από το διαδίκτυο, καθώς και εννέα μεγάλα γλωσσικά μοντέλα που έχουν εκπαιδευτεί σε τεράστιες βάσεις δεδομένων κειμένων.
Το αποτέλεσμα;
Σε χιλιάδες θέσεις — από γραφειοκρατικούς ρόλους μέχρι δημόσιους — οι γυναίκες φαίνονται σημαντικά νεότερες από τους άνδρες συναδέλφους τους.
Η Solène Delécour από το Πανεπιστήμιο της Καλιφόρνιας στο Μπέρκλεϊ, μία από τις συν-συγγραφείς, επισήμανε ότι τέτοια ηλικιακά στερεότυπα είχαν παρατηρηθεί σε συγκεκριμένους τομείς ή περιστατικά, όπως όταν αναφερόταν στις γυναίκες ως «κορίτσια».
Ωστόσο, κανείς δεν είχε καταγράψει το φαινόμενο σε τόσο μεγάλο εύρος.
Η διαφορά είναι πιο έντονη στις κορυφαίες θέσεις: γυναίκες διευθυντές, πιλότοι ή γιατροί φαίνονται νεότερες, αν και η δημογραφία των ΗΠΑ δεν επιβεβαιώνει μια τέτοια ανισότητα.
Ο Douglas Gilbo από το Στάνφορντ, συν-συγγραφέας, τόνισε ότι οι εικονικές απεικονίσεις ανατρέπουν τα γεγονότα και, παίρνοντάς τα ως αλήθεια, ενισχύουμε τις λανθασμένες αντιλήψεις, επιδεινώνοντας τη διάκριση.
Σε μια δοκιμή με το ChatGPT, η ομάδα δημιούργησε 40.000 προφίλ: ο αλγόριθμος υποτίμησε την ηλικία και την εμπειρία των γυναικών αιτητών, ενώ για τους ώριμους άνδρες — υπερτίμησε.
Ένα άλλο ερωτηματολόγιο έδειξε ότι οι θεατές που έβλεπαν γυναίκες σε εργοστασιακές δουλειές υποεκτίμησαν το μέσο χρόνο υπηρεσίας του προσωπικού, ενώ για τις ανδρικές εικόνες — τον υπερεκτίμησαν.
Για τις κυρίαρχες επαγγελματικές περιοχές των γυναικών, οι ερωτηθέντες πρότειναν να προσλαμβάνονται σε νεότερη ηλικία, ενώ για τις ανδρικές — σε μεγαλύτερη.
Η Delécour κατέληξε στο συμπέρασμα ότι η ηλικιακή διάκριση είναι μια παντού διαδεδομένη πολιτισμική παραμόρφωση που διεισδύει στα μέσα ενημέρωσης μέσω εικόνων, μηχανών αναζήτησης, βίντεο, περιεχομένου και γενετικών συστημάτων.
Η OpenAI, απαντώντας σε αιτήματα, σημείωσε ότι η έρευνα εντόπισε λιγότερο από το 1% των απαντήσεων με επικίνδυνα κλισέ, αλλά η εταιρεία συνεχίζει την παρακολούθηση.
www.bankingnews.gr
Πρόκειται για έναν πολιτισμικό μετασχηματισμό που διαπερνά τις καθημερινές εικόνες και τα αυτοματοποιημένα συστήματα.
Το μυστικό πείραμα
Οι ειδικοί ανέλυσαν 1,4 εκατομμύρια εικόνες και βίντεο από το διαδίκτυο, καθώς και εννέα μεγάλα γλωσσικά μοντέλα που έχουν εκπαιδευτεί σε τεράστιες βάσεις δεδομένων κειμένων.
Το αποτέλεσμα;
Σε χιλιάδες θέσεις — από γραφειοκρατικούς ρόλους μέχρι δημόσιους — οι γυναίκες φαίνονται σημαντικά νεότερες από τους άνδρες συναδέλφους τους.
Η Solène Delécour από το Πανεπιστήμιο της Καλιφόρνιας στο Μπέρκλεϊ, μία από τις συν-συγγραφείς, επισήμανε ότι τέτοια ηλικιακά στερεότυπα είχαν παρατηρηθεί σε συγκεκριμένους τομείς ή περιστατικά, όπως όταν αναφερόταν στις γυναίκες ως «κορίτσια».
Ωστόσο, κανείς δεν είχε καταγράψει το φαινόμενο σε τόσο μεγάλο εύρος.
Η διαφορά είναι πιο έντονη στις κορυφαίες θέσεις: γυναίκες διευθυντές, πιλότοι ή γιατροί φαίνονται νεότερες, αν και η δημογραφία των ΗΠΑ δεν επιβεβαιώνει μια τέτοια ανισότητα.
Ο Douglas Gilbo από το Στάνφορντ, συν-συγγραφέας, τόνισε ότι οι εικονικές απεικονίσεις ανατρέπουν τα γεγονότα και, παίρνοντάς τα ως αλήθεια, ενισχύουμε τις λανθασμένες αντιλήψεις, επιδεινώνοντας τη διάκριση.
Σε μια δοκιμή με το ChatGPT, η ομάδα δημιούργησε 40.000 προφίλ: ο αλγόριθμος υποτίμησε την ηλικία και την εμπειρία των γυναικών αιτητών, ενώ για τους ώριμους άνδρες — υπερτίμησε.
Ένα άλλο ερωτηματολόγιο έδειξε ότι οι θεατές που έβλεπαν γυναίκες σε εργοστασιακές δουλειές υποεκτίμησαν το μέσο χρόνο υπηρεσίας του προσωπικού, ενώ για τις ανδρικές εικόνες — τον υπερεκτίμησαν.
Για τις κυρίαρχες επαγγελματικές περιοχές των γυναικών, οι ερωτηθέντες πρότειναν να προσλαμβάνονται σε νεότερη ηλικία, ενώ για τις ανδρικές — σε μεγαλύτερη.
Η Delécour κατέληξε στο συμπέρασμα ότι η ηλικιακή διάκριση είναι μια παντού διαδεδομένη πολιτισμική παραμόρφωση που διεισδύει στα μέσα ενημέρωσης μέσω εικόνων, μηχανών αναζήτησης, βίντεο, περιεχομένου και γενετικών συστημάτων.
Η OpenAI, απαντώντας σε αιτήματα, σημείωσε ότι η έρευνα εντόπισε λιγότερο από το 1% των απαντήσεων με επικίνδυνα κλισέ, αλλά η εταιρεία συνεχίζει την παρακολούθηση.
www.bankingnews.gr
Σχόλια αναγνωστών