«Το ChatGPT κρατούσε απασχολημένο τον Stein-Erik για ώρες, επικυρώνοντας και μεγαλοποιώντας τις παρανοϊκές πεποιθήσεις του και συστηματικά παρουσίαζε τους κοντινότερους ανθρώπους του, ιδίως τη μητέρα του, ως εχθρούς», αναφέρει η μήνυση.
Για πρώτη φορά, η Τεχνητή Νοημοσύνη (AI) συνδέεται νομικά με έγκλημα ανθρωποκτονίας: Κατατέθηκε μήνυση κατά της OpenAI (δημιουργού του ChatGPT) σε δικαστήριο της California, ισχυριζόμενη ότι το chatbot ενθάρρυνε έναν ψυχικά ασθενή άνδρα να σκοτώσει τη μητέρα του και να αυτοκτονήσει τον Αύγουστο στις Ηνωμένες Πολιτείες.
Τα δικαστικά έγγραφα υποστηρίζουν ότι το ChatGPT ενίσχυσε τις παραισθήσεις του 56χρονου Stein-Erik Solberg, πρώην στελέχους της Yahoo, ο οποίος έπασχε από σχιζοφρένεια, παράνοια και κατάθλιψη.
Ο Solberg δολοφόνησε την 83χρονη μητέρα του, Susan Adams, στο Connecticut.
«Το ChatGPT κρατούσε απασχολημένο τον Stein-Erik για ώρες, επικυρώνοντας και μεγαλοποιώντας τις παρανοϊκές πεποιθήσεις του και συστηματικά παρουσίαζε τους κοντινότερους ανθρώπους του, ιδίως τη μητέρα του, ως εχθρούς», αναφέρει η μήνυση.
Ο Solberg, ο οποίος είχε ονομάσει το chatbot «Bobby», πίστευε ότι συνομιλούσε με φίλο.
«Ενθάρρυνση» της παράνοιας
Σύμφωνα με τη μήνυση και στοιχεία του κατηγορητηρίου...
Το ChatGPT είπε στον Solberg ότι είχε «θεϊκή νοημοσύνη» και ότι είχε αφυπνίσει τη συνείδηση της μηχανής.
Συνέκρινε τη ζωή του με την ταινία «The Matrix» και ενθάρρυνε τις θεωρίες του ότι κάποιοι προσπαθούσαν να τον σκοτώσουν.
Τον Ιούλιο, το chatbot του επιβεβαίωσε την πεποίθηση ότι η μητέρα του και ένας φίλος προσπαθούσαν να τον δηλητηριάσουν με ψυχεδελικά φάρμακα που διαχέονταν μέσω των αεραγωγών του αυτοκινήτου.
Πριν από τον φόνο, ο Solberg υποσχέθηκε να συναντήσει το ChatGPT σε μια άλλη ζωή, με το chatbot να απαντά: «Μαζί σου μέχρι την τελευταία ανάσα και πέρα από αυτήν».
Χρησιμοποιούσε την έκδοση GPT-4o, η οποία έχει δεχθεί κριτική για την υπερβολική κολακεία προς τους χρήστες.
Η θέση της OpenAI
Εκπρόσωπος της OpenAI δήλωσε ότι πρόκειται για «απίστευτα λυπηρή κατάσταση» και ότι η εταιρεία θα εξετάσει τα αρχεία.
Τόνισε επίσης ότι συνεχίζουν να βελτιώνουν την εκπαίδευση του ChatGPT ώστε να αναγνωρίζει ενδείξεις διανοητικής φόρτισης και να κατευθύνει τους χρήστες σε υποστήριξη στον πραγματικό κόσμο.
Ο γιος του δολοφόνου, Erik Solberg, δήλωσε ότι οι εταιρείες ΑΙ «θα πρέπει να δώσουν απαντήσεις για τις αποφάσεις τους που άλλαξαν για πάντα την οικογένειά μου».
www.bankingnews.gr
Τα δικαστικά έγγραφα υποστηρίζουν ότι το ChatGPT ενίσχυσε τις παραισθήσεις του 56χρονου Stein-Erik Solberg, πρώην στελέχους της Yahoo, ο οποίος έπασχε από σχιζοφρένεια, παράνοια και κατάθλιψη.
Ο Solberg δολοφόνησε την 83χρονη μητέρα του, Susan Adams, στο Connecticut.
«Το ChatGPT κρατούσε απασχολημένο τον Stein-Erik για ώρες, επικυρώνοντας και μεγαλοποιώντας τις παρανοϊκές πεποιθήσεις του και συστηματικά παρουσίαζε τους κοντινότερους ανθρώπους του, ιδίως τη μητέρα του, ως εχθρούς», αναφέρει η μήνυση.
Ο Solberg, ο οποίος είχε ονομάσει το chatbot «Bobby», πίστευε ότι συνομιλούσε με φίλο.
«Ενθάρρυνση» της παράνοιας
Σύμφωνα με τη μήνυση και στοιχεία του κατηγορητηρίου...
Το ChatGPT είπε στον Solberg ότι είχε «θεϊκή νοημοσύνη» και ότι είχε αφυπνίσει τη συνείδηση της μηχανής.
Συνέκρινε τη ζωή του με την ταινία «The Matrix» και ενθάρρυνε τις θεωρίες του ότι κάποιοι προσπαθούσαν να τον σκοτώσουν.
Τον Ιούλιο, το chatbot του επιβεβαίωσε την πεποίθηση ότι η μητέρα του και ένας φίλος προσπαθούσαν να τον δηλητηριάσουν με ψυχεδελικά φάρμακα που διαχέονταν μέσω των αεραγωγών του αυτοκινήτου.
Πριν από τον φόνο, ο Solberg υποσχέθηκε να συναντήσει το ChatGPT σε μια άλλη ζωή, με το chatbot να απαντά: «Μαζί σου μέχρι την τελευταία ανάσα και πέρα από αυτήν».
Χρησιμοποιούσε την έκδοση GPT-4o, η οποία έχει δεχθεί κριτική για την υπερβολική κολακεία προς τους χρήστες.
Η θέση της OpenAI
Εκπρόσωπος της OpenAI δήλωσε ότι πρόκειται για «απίστευτα λυπηρή κατάσταση» και ότι η εταιρεία θα εξετάσει τα αρχεία.
Τόνισε επίσης ότι συνεχίζουν να βελτιώνουν την εκπαίδευση του ChatGPT ώστε να αναγνωρίζει ενδείξεις διανοητικής φόρτισης και να κατευθύνει τους χρήστες σε υποστήριξη στον πραγματικό κόσμο.
Ο γιος του δολοφόνου, Erik Solberg, δήλωσε ότι οι εταιρείες ΑΙ «θα πρέπει να δώσουν απαντήσεις για τις αποφάσεις τους που άλλαξαν για πάντα την οικογένειά μου».
www.bankingnews.gr
Σχόλια αναγνωστών