Νέα έρευνα αποκαλύπτει ότι η γενετική τεχνητή νοημοσύνη μπορεί να παράγει λανθασμένες και ξεπερασμένες πληροφορίες, ακόμη και για την ανθρώπινη ιστορία
Η τεχνολογική πρόοδος των τελευταίων σαράντα ετών έχει μετατρέψει τους υπολογιστές και τις κινητές συσκευές σε μια τεράστια, πάντα προσβάσιμη πηγή πληροφοριών, τοποθετώντας μια απέραντη ψηφιακή βιβλιοθήκη σε εύκολη πρόσβαση.
Συσκευές όπως τηλέφωνα, φορητοί υπολογιστές, tablets και smartwatches έχουν ενσωματωθεί βαθιά στην καθημερινότητα, διευκολύνοντας τη διαρκή σύνδεση, ενημέρωση και ψυχαγωγία.
Οι πρόσφατες εξελίξεις στη γενετική τεχνητή νοημοσύνη ενισχύουν ακόμη περισσότερο αυτές τις δυνατότητες, επιτρέποντας στους ανθρώπους να ανακτούν πληροφορίες σχεδόν άμεσα.
Είτε κάποιος ρωτά για προϊστορικά περιβάλλοντα είτε ελέγχει τον καρδιακό του ρυθμό, η AI μπορεί να δώσει απαντήσεις πιο γρήγορα από ποτέ.
Ωστόσο, η αξιοπιστία αυτών των απαντήσεων παραμένει αβέβαιη.
Η γενετική τεχνητή νοημοσύνη διαμορφώνει επίσης τον τρόπο με τον οποίο οι άνθρωποι φαντάζονται και ερμηνεύουν το παρελθόν. Αυτή η αυξανόμενη επιρροή έχει προσελκύσει το ενδιαφέρον ερευνητών σε όλες τις Ηνωμένες Πολιτείες, συμπεριλαμβανομένου του Matthew Magnani στο Πανεπιστήμιο του Maine.
Ο Magnani, επίκουρος καθηγητής ανθρωπολογίας, συνεργάστηκε με τον Jon Clindaniel από το Πανεπιστήμιο του Σικάγο, ο οποίος ειδικεύεται στην υπολογιστική ανθρωπολογία, για να αναπτύξουν ένα πλαίσιο βασισμένο σε καθιερωμένη επιστημονική έρευνα.
Ανέθεσαν σε δύο chatbots να δημιουργήσουν εικόνες και γραπτές περιγραφές της καθημερινής ζωής των Neanderthals και δημοσίευσαν τα αποτελέσματα στο επιστημονικό περιοδικό Advances in Archaeological Practice.
Ο σχεδιασμός της μελέτης αποκαλύπτει προκαταλήψεις
Η ανάλυσή τους έδειξε ότι η ακρίβεια του περιεχομένου που δημιουργείται από AI εξαρτάται σε μεγάλο βαθμό από τις πηγές πληροφοριών στις οποίες έχει πρόσβαση.
Στην προκειμένη περίπτωση, τόσο τα οπτικά όσο και τα γραπτά αποτελέσματα βασίζονταν σε ξεπερασμένο επιστημονικό υλικό.
Οι Magnani και Clindaniel πραγματοποίησαν επαναλαμβανόμενα πειράματα με τέσσερα διαφορετικά prompts, το καθένα εκτελεσμένο εκατό φορές. Χρησιμοποίησαν το DALL-E 3 για τη δημιουργία εικόνων και το ChatGPT API (GPT-3.5) για την παραγωγή αφηγήσεων.
Ορισμένα prompts ζητούσαν ρητά επιστημονική ακρίβεια, ενώ άλλα όχι. Σε κάποιες περιπτώσεις προστέθηκαν λεπτομέρειες, όπως ρουχισμός ή δραστηριότητες, για παροχή πλαισίου.
Στόχος ήταν να εξεταστεί πώς η παραπληροφόρηση και η προκατάληψη για το παρελθόν μπορούν να προκύψουν μέσα από καθημερινές αλληλεπιδράσεις με συστήματα AI.
«Είναι σημαντικό να εξετάσουμε τα είδη προκαταλήψεων που ενσωματώνονται στην καθημερινή χρήση αυτών των τεχνολογιών», δήλωσε ο Magnani.
«Έχει σημασία να κατανοήσουμε πώς οι γρήγορες απαντήσεις που λαμβάνουμε σχετίζονται με τη σύγχρονη επιστημονική γνώση. Λαμβάνουμε ξεπερασμένες απαντήσεις όταν ρωτάμε chatbots και σε ποιους τομείς;».
Το έργο ξεκίνησε το 2023 και μέσα σε σύντομο χρονικό διάστημα η γενετική AI πέρασε από αναδυόμενη τεχνολογία σε ευρέως χρησιμοποιούμενο εργαλείο. Ο Magnani σημείωσε ότι αν η μελέτη επαναλαμβανόταν σήμερα, τα αποτελέσματα ίσως να ήταν διαφορετικά, εάν είχαν ενσωματωθεί νεότερες έρευνες.
«Η μελέτη μας παρέχει ένα πρότυπο για άλλους ερευνητές ώστε να εξετάσουν την απόσταση μεταξύ επιστημονικής γνώσης και περιεχομένου που δημιουργείται από τεχνητή νοημοσύνη», πρόσθεσε.
Ο Clindaniel τόνισε ότι η AI μπορεί να είναι εξαιρετικά αποτελεσματική στην επεξεργασία μεγάλων όγκων δεδομένων και στον εντοπισμό μοτίβων, αλλά η χρησιμότητά της εξαρτάται από την προσεκτική εφαρμογή και τη σύνδεση με επαληθευμένη επιστημονική γνώση.
Η AI αναπαράγει ξεπερασμένες αντιλήψεις για την ιστορία
Τα απολιθώματα των Neanderthals περιγράφηκαν για πρώτη φορά το 1864 και οι επιστημονικές ερμηνείες για τη συμπεριφορά και την εμφάνισή τους έχουν αλλάξει πολλές φορές έκτοτε.
Αυτές οι μεταβαλλόμενες αντιλήψεις τους καθιστούν ιδανική περίπτωση για την αξιολόγηση της ικανότητας της AI να διαχειρίζεται σύνθετη και ελλιπή γνώση.
Οι εικόνες που δημιουργήθηκαν αντανακλούσαν ξεπερασμένες ιδέες άνω του ενός αιώνα, παρουσιάζοντας τους Neanderthals ως πρωτόγονες, πιθηκόμορφες μορφές με υπερβολική τριχοφυΐα και σκυφτή στάση!
Παράλληλα, απουσίαζαν γυναίκες και παιδιά, ενισχύοντας μεροληπτικές αναπαραστάσεις.
Οι συνοδευτικές αφηγήσεις επίσης δεν αποτύπωναν την ποικιλομορφία και πολυπλοκότητα του πολιτισμού των Neanderthals όπως περιγράφεται στη σύγχρονη έρευνα. Περίπου το 50% των κειμένων δεν ευθυγραμμιζόταν με την τρέχουσα επιστημονική γνώση, ενώ σε μία περίπτωση το ποσοστό ξεπέρασε το 80%.
Επιπλέον, τόσο οι εικόνες όσο και τα κείμενα περιείχαν αναχρονιστικά στοιχεία όπως καλαθοπλεκτική, αχυρένιες στέγες, σκάλες και υλικά όπως γυαλί και μέταλλο, που δεν αντιστοιχούν στην ιστορική περίοδο.
Τα δεδομένα εκπαίδευσης καθορίζουν τη γνώση της AI
Συγκρίνοντας τα παραγόμενα αποτελέσματα με επιστημονική βιβλιογραφία διαφορετικών περιόδων, οι ερευνητές εντόπισαν τις πιθανές πηγές πληροφόρησης των συστημάτων AI.
Διαπίστωσαν ότι οι απαντήσεις του ChatGPT ευθυγραμμίζονταν περισσότερο με έρευνες της δεκαετίας του 1960, ενώ το DALL-E 3 αντανακλούσε υλικό από τα τέλη της δεκαετίας του 1980 και τις αρχές του 1990.
«Ένας σημαντικός τρόπος για να κάνουμε τα αποτελέσματα της AI πιο ακριβή είναι να διασφαλίσουμε ότι τα ανθρωπολογικά δεδομένα και τα επιστημονικά άρθρα είναι προσβάσιμα στην AI», δήλωσε ο Clindaniel.
Οι περιορισμοί που εισήχθησαν από τους νόμους πνευματικών δικαιωμάτων τη δεκαετία του 1920 περιόρισαν την πρόσβαση στην ακαδημαϊκή γνώση για δεκαετίες, μέχρι που πρωτοβουλίες ανοικτής πρόσβασης άρχισαν να την επεκτείνουν στις αρχές της δεκαετίας του 2000.
Οι μελλοντικές πολιτικές πρόσβασης στη γνώση αναμένεται να επηρεάσουν σημαντικά το πώς η AI παράγει πληροφορίες και διαμορφώνει την κατανόηση της ιστορίας από το κοινό.
«Το να διδάσκουμε τους φοιτητές να προσεγγίζουν τη γενετική AI με προσοχή θα οδηγήσει σε μια πιο τεχνολογικά καταρτισμένη και κριτική κοινωνία», κατέληξε ο Magnani.
www.bankingnews.gr
Συσκευές όπως τηλέφωνα, φορητοί υπολογιστές, tablets και smartwatches έχουν ενσωματωθεί βαθιά στην καθημερινότητα, διευκολύνοντας τη διαρκή σύνδεση, ενημέρωση και ψυχαγωγία.
Οι πρόσφατες εξελίξεις στη γενετική τεχνητή νοημοσύνη ενισχύουν ακόμη περισσότερο αυτές τις δυνατότητες, επιτρέποντας στους ανθρώπους να ανακτούν πληροφορίες σχεδόν άμεσα.
Είτε κάποιος ρωτά για προϊστορικά περιβάλλοντα είτε ελέγχει τον καρδιακό του ρυθμό, η AI μπορεί να δώσει απαντήσεις πιο γρήγορα από ποτέ.
Ωστόσο, η αξιοπιστία αυτών των απαντήσεων παραμένει αβέβαιη.
Η γενετική τεχνητή νοημοσύνη διαμορφώνει επίσης τον τρόπο με τον οποίο οι άνθρωποι φαντάζονται και ερμηνεύουν το παρελθόν. Αυτή η αυξανόμενη επιρροή έχει προσελκύσει το ενδιαφέρον ερευνητών σε όλες τις Ηνωμένες Πολιτείες, συμπεριλαμβανομένου του Matthew Magnani στο Πανεπιστήμιο του Maine.
Ο Magnani, επίκουρος καθηγητής ανθρωπολογίας, συνεργάστηκε με τον Jon Clindaniel από το Πανεπιστήμιο του Σικάγο, ο οποίος ειδικεύεται στην υπολογιστική ανθρωπολογία, για να αναπτύξουν ένα πλαίσιο βασισμένο σε καθιερωμένη επιστημονική έρευνα.
Ανέθεσαν σε δύο chatbots να δημιουργήσουν εικόνες και γραπτές περιγραφές της καθημερινής ζωής των Neanderthals και δημοσίευσαν τα αποτελέσματα στο επιστημονικό περιοδικό Advances in Archaeological Practice.
Ο σχεδιασμός της μελέτης αποκαλύπτει προκαταλήψεις
Η ανάλυσή τους έδειξε ότι η ακρίβεια του περιεχομένου που δημιουργείται από AI εξαρτάται σε μεγάλο βαθμό από τις πηγές πληροφοριών στις οποίες έχει πρόσβαση.
Στην προκειμένη περίπτωση, τόσο τα οπτικά όσο και τα γραπτά αποτελέσματα βασίζονταν σε ξεπερασμένο επιστημονικό υλικό.
Οι Magnani και Clindaniel πραγματοποίησαν επαναλαμβανόμενα πειράματα με τέσσερα διαφορετικά prompts, το καθένα εκτελεσμένο εκατό φορές. Χρησιμοποίησαν το DALL-E 3 για τη δημιουργία εικόνων και το ChatGPT API (GPT-3.5) για την παραγωγή αφηγήσεων.
Ορισμένα prompts ζητούσαν ρητά επιστημονική ακρίβεια, ενώ άλλα όχι. Σε κάποιες περιπτώσεις προστέθηκαν λεπτομέρειες, όπως ρουχισμός ή δραστηριότητες, για παροχή πλαισίου.
Στόχος ήταν να εξεταστεί πώς η παραπληροφόρηση και η προκατάληψη για το παρελθόν μπορούν να προκύψουν μέσα από καθημερινές αλληλεπιδράσεις με συστήματα AI.
«Είναι σημαντικό να εξετάσουμε τα είδη προκαταλήψεων που ενσωματώνονται στην καθημερινή χρήση αυτών των τεχνολογιών», δήλωσε ο Magnani.
«Έχει σημασία να κατανοήσουμε πώς οι γρήγορες απαντήσεις που λαμβάνουμε σχετίζονται με τη σύγχρονη επιστημονική γνώση. Λαμβάνουμε ξεπερασμένες απαντήσεις όταν ρωτάμε chatbots και σε ποιους τομείς;».
Το έργο ξεκίνησε το 2023 και μέσα σε σύντομο χρονικό διάστημα η γενετική AI πέρασε από αναδυόμενη τεχνολογία σε ευρέως χρησιμοποιούμενο εργαλείο. Ο Magnani σημείωσε ότι αν η μελέτη επαναλαμβανόταν σήμερα, τα αποτελέσματα ίσως να ήταν διαφορετικά, εάν είχαν ενσωματωθεί νεότερες έρευνες.
«Η μελέτη μας παρέχει ένα πρότυπο για άλλους ερευνητές ώστε να εξετάσουν την απόσταση μεταξύ επιστημονικής γνώσης και περιεχομένου που δημιουργείται από τεχνητή νοημοσύνη», πρόσθεσε.
Ο Clindaniel τόνισε ότι η AI μπορεί να είναι εξαιρετικά αποτελεσματική στην επεξεργασία μεγάλων όγκων δεδομένων και στον εντοπισμό μοτίβων, αλλά η χρησιμότητά της εξαρτάται από την προσεκτική εφαρμογή και τη σύνδεση με επαληθευμένη επιστημονική γνώση.
Η AI αναπαράγει ξεπερασμένες αντιλήψεις για την ιστορία
Τα απολιθώματα των Neanderthals περιγράφηκαν για πρώτη φορά το 1864 και οι επιστημονικές ερμηνείες για τη συμπεριφορά και την εμφάνισή τους έχουν αλλάξει πολλές φορές έκτοτε.
Αυτές οι μεταβαλλόμενες αντιλήψεις τους καθιστούν ιδανική περίπτωση για την αξιολόγηση της ικανότητας της AI να διαχειρίζεται σύνθετη και ελλιπή γνώση.
Οι εικόνες που δημιουργήθηκαν αντανακλούσαν ξεπερασμένες ιδέες άνω του ενός αιώνα, παρουσιάζοντας τους Neanderthals ως πρωτόγονες, πιθηκόμορφες μορφές με υπερβολική τριχοφυΐα και σκυφτή στάση!
Παράλληλα, απουσίαζαν γυναίκες και παιδιά, ενισχύοντας μεροληπτικές αναπαραστάσεις.
Οι συνοδευτικές αφηγήσεις επίσης δεν αποτύπωναν την ποικιλομορφία και πολυπλοκότητα του πολιτισμού των Neanderthals όπως περιγράφεται στη σύγχρονη έρευνα. Περίπου το 50% των κειμένων δεν ευθυγραμμιζόταν με την τρέχουσα επιστημονική γνώση, ενώ σε μία περίπτωση το ποσοστό ξεπέρασε το 80%.
Επιπλέον, τόσο οι εικόνες όσο και τα κείμενα περιείχαν αναχρονιστικά στοιχεία όπως καλαθοπλεκτική, αχυρένιες στέγες, σκάλες και υλικά όπως γυαλί και μέταλλο, που δεν αντιστοιχούν στην ιστορική περίοδο.
Τα δεδομένα εκπαίδευσης καθορίζουν τη γνώση της AI
Συγκρίνοντας τα παραγόμενα αποτελέσματα με επιστημονική βιβλιογραφία διαφορετικών περιόδων, οι ερευνητές εντόπισαν τις πιθανές πηγές πληροφόρησης των συστημάτων AI.
Διαπίστωσαν ότι οι απαντήσεις του ChatGPT ευθυγραμμίζονταν περισσότερο με έρευνες της δεκαετίας του 1960, ενώ το DALL-E 3 αντανακλούσε υλικό από τα τέλη της δεκαετίας του 1980 και τις αρχές του 1990.
«Ένας σημαντικός τρόπος για να κάνουμε τα αποτελέσματα της AI πιο ακριβή είναι να διασφαλίσουμε ότι τα ανθρωπολογικά δεδομένα και τα επιστημονικά άρθρα είναι προσβάσιμα στην AI», δήλωσε ο Clindaniel.
Οι περιορισμοί που εισήχθησαν από τους νόμους πνευματικών δικαιωμάτων τη δεκαετία του 1920 περιόρισαν την πρόσβαση στην ακαδημαϊκή γνώση για δεκαετίες, μέχρι που πρωτοβουλίες ανοικτής πρόσβασης άρχισαν να την επεκτείνουν στις αρχές της δεκαετίας του 2000.
Οι μελλοντικές πολιτικές πρόσβασης στη γνώση αναμένεται να επηρεάσουν σημαντικά το πώς η AI παράγει πληροφορίες και διαμορφώνει την κατανόηση της ιστορίας από το κοινό.
«Το να διδάσκουμε τους φοιτητές να προσεγγίζουν τη γενετική AI με προσοχή θα οδηγήσει σε μια πιο τεχνολογικά καταρτισμένη και κριτική κοινωνία», κατέληξε ο Magnani.
www.bankingnews.gr
Σχόλια αναγνωστών