Χάος με το OpenAI (ξανά) – Μετά το κραχ, έρχονται ανησυχίες για την ασφάλεια, τα NDA και τις συγκρούσεις συμφερόντων

Η δύσκολη εβδομάδα του OpenAI έχει μετατραπεί σε έναν δύσκολο μήνα - και δεν μοιάζει με πρόβλημα που μπορεί εύκολα να λύσει ο CEO της εταιρείας, Sam Altman.
Στην τελευταία εξέλιξη του έπος OpenAI-is-a-disaster, μια ομάδα τωρινών και πρώην υπαλλήλων του OpenAI έχει δημοσιοποιήσει ανησυχίες σχετικά με τα οικονομικά κίνητρα της εταιρείας και τη δέσμευσή της για υπεύθυνη τεχνητή νοημοσύνη.
Σε ένα άρθρο των New York Times που δημοσιεύθηκε την Τρίτη, περιέγραψαν μια κουλτούρα ψεύτικων υποσχέσεων γύρω από την ασφάλεια.
«Ο κόσμος δεν είναι έτοιμος και εμείς δεν είμαστε έτοιμοι», έγραψε ο Daniel Kokotajlo, πρώην ερευνητής του OpenAI, σε ένα email που ανακοίνωσε την παραίτησή του, σύμφωνα με το ρεπορτάζ των Times.
«Ανησυχώ ότι βιαζόμαστε», ανέφερε.
Επίσης την Τρίτη, οι διαρροές, μαζί με άλλους επικριτές στην τεχνητή νοημοσύνη, δημοσίευσαν μια ανοιχτή επιστολή απαιτώντας αλλαγή στον κλάδο.
Καλούν τις εταιρείες τεχνητής νοημοσύνης να δεσμευτούν σε μια κουλτούρα ανοιχτής κριτικής και να υποσχεθούν ότι δεν θα εκδικηθούν εκείνους που εκφράζουν ανησυχίες.
Αν και η επιστολή δεν απευθύνεται συγκεκριμένα στο OpenAI, είναι ένα αρκετά σαφές subtweet και μια άλλη επιζήμια εξέλιξη για μια εταιρεία που έχει λάβει περισσότερες από τις καταγγελίες τις τελευταίες δύο εβδομάδες.
Σε μια δήλωση στο Business Insider, ένας εκπρόσωπος του OpenAI επανέλαβε τη δέσμευση της εταιρείας για την ασφάλεια, τονίζοντας ότι υπάρχει μια «ανώνυμη τηλεφωνική γραμμή ακεραιότητας» για τους εργαζόμενους να εκφράσουν τις ανησυχίες τους.
«Είμαστε περήφανοι για το ιστορικό μας παρέχοντας τα πιο ικανά και ασφαλέστερα συστήματα τεχνητής νοημοσύνης και πιστεύουμε στην επιστημονική μας προσέγγιση για την αντιμετώπιση του κινδύνου», είπαν μέσω email.
«Συμφωνούμε ότι η συζήτηση είναι ζωτικής σημασίας δεδομένης της σημασίας αυτής της τεχνολογίας και θα συνεχίσουμε να συνεργαζόμαστε με τις κυβερνήσεις, την κοινωνία των πολιτών και άλλες κοινότητες σε όλο τον κόσμο».

Ασφάλεια δευτερευόντως (ή και πιο κάτω)

Ένα κοινό θέμα των καταγγελιών είναι ότι, στο OpenAI, η ασφάλεια δεν είναι προτεραιότητα – η ανάπτυξη και τα κέρδη είναι.
Το 2019, η εταιρεία μετατράπηκε από μη κερδοσκοπικός οργανισμός αφιερωμένος στην ασφαλή τεχνολογία σε οργανισμό «capped profit» αξίας 86 δισεκατομμυρίων δολαρίων.
Και τώρα ο Altman σκέφτεται να το κάνει ένα κανονικό κερδοσκοπικό όχημα.
Αυτό έχει βάλει την ασφάλεια χαμηλότερα στη λίστα προτεραιότητας, λένε πρώην μέλη του διοικητικού συμβουλίου και υπάλληλοι.
«Με βάση την εμπειρία μας, πιστεύουμε ότι η αυτοδιακυβέρνηση δεν μπορεί να αντέξει αξιόπιστα την πίεση των κινήτρων κέρδους», έγραψαν τα πρώην μέλη του διοικητικού συμβουλίου Helen Toner και Tasha McCauley σε ένα άρθρο του Economist τον περασμένο μήνα που ζητούσε εξωτερική εποπτεία των εταιρειών AI.
Η Toner και η McCauley ψήφισαν για την αποπομπή του Altman πέρυσι.
Αυτά τα κίνητρα κέρδους έχουν θέσει την ανάπτυξη μπροστά και στο επίκεντρο, λένε ορισμένοι γνώστες, με την OpenAI να αγωνίζεται εναντίον άλλων εταιρειών τεχνητής νοημοσύνης για την κατασκευή πιο προηγμένων μορφών τεχνολογίας – και την κυκλοφορία αυτών των προϊόντων πριν κάποιοι νομίσουν ότι είναι έτοιμοι για λανσάρισμα.
Σε μια συνέντευξη που προβλήθηκε την περασμένη εβδομάδα, η Toner είπε ότι ο Altman έλεγε ψέματα και απέκρυψε πληροφορίες από το διοικητικό συμβούλιο, συμπεριλαμβανομένων των διαδικασιών ασφάλειας.
Το διοικητικό συμβούλιο δεν γνώριζε καν την κυκλοφορία του ChatGPT τον Νοέμβριο του 2022 και ανακάλυψε ότι κυκλοφόρησε στο Twitter, είπε.
Ο πρώην ερευνητής Kokotajlo είπε στους Times ότι η Microsoft άρχισε να δοκιμάζει το Bing με αυτό που οι υπάλληλοι του OpenAI πίστευαν ότι ήταν μια ακυκλοφόρητη έκδοση του GPT, μια κίνηση που το συμβούλιο ασφαλείας του OpenAI δεν είχε εγκρίνει (Η Microsoft αρνήθηκε ότι συνέβη αυτό, σύμφωνα με τους Times).
Οι ανησυχίες αντικατοπτρίζουν εκείνες του πρόσφατα αποχωρήσαντα Jan Leike, ο οποίος ηγήθηκε της ομάδας υπερευθυγράμμισης της εταιρείας με τον επικεφαλής επιστήμονα, Ilya Sutskever, έναν άλλο πρόσφατο αποστάτη.
Η ομάδα, αφοσιωμένη στη μελέτη των κινδύνων που εγκυμονούσε η τεχνητή νοημοσύνη για την ανθρωπότητα, είδε αρκετές αποχωρήσεις τους τελευταίους μήνες.
Διαλύθηκε όταν αποχώρησαν οι ηγέτες της, αν και η εταιρεία έχει σχηματίσει από τότε μια νέα επιτροπή ασφάλειας.
«Τα τελευταία χρόνια, η κουλτούρα και οι διαδικασίες ασφάλειας έχουν επισκιάσει τα λαμπερά προϊόντα», έγραψε ο Leike σε μια σειρά αναρτήσεων στα μέσα κοινωνικής δικτύωσης σχετικά με την αναχώρησή του.
«Διαφωνώ με την ηγεσία του OpenAI σχετικά με τις βασικές προτεραιότητες της εταιρείας εδώ και αρκετό καιρό, μέχρι που τελικά φτάσαμε σε ένα οριακό σημείο».
Αυτές οι ανησυχίες εντείνονται καθώς η εταιρεία προσεγγίζει την τεχνητή γενική νοημοσύνη — ή τεχνολογία ικανή για κάθε ανθρώπινη συμπεριφορά.
Πολλοί ειδικοί λένε ότι το AGI αυξάνει την πιθανότητα του p(doom), ενός σπασμωδικού και καταθλιπτικού όρου για την πιθανότητα η τεχνητή νοημοσύνη να καταστρέψει την ανθρωπότητα.

Ένας ηθοποιός της λίστας A και NDA

Τις τελευταίες εβδομάδες, η εταιρεία αντιμετώπισε ορισμένους απίθανους εχθρούς με ανησυχίες που ξεπερνούν την ασφάλεια, συμπεριλαμβανομένης της Scarlett Johansson.
Τον περασμένο μήνα, η ηθοποιός έγραψε μια καυστική δήλωση για το OpenAI αφού κυκλοφόρησε ένα νέο μοντέλο AI με φωνή τρομερά παρόμοια με τη δική της.
Ενώ η εταιρεία επιμένει ότι δεν προσπάθησε να υποδυθεί την Johansson, οι ομοιότητες ήταν αναμφισβήτητες - ιδιαίτερα δεδομένου του γεγονότος ότι ο Altman δημοσίευσε τη λέξη "her" στο X περίπου την ώρα της ανακοίνωσης του προϊόντος, φαινομενικά ως αναφορά στην ταινία της Johansson το 2013 στην οποία έπαιξε έναν εικονικό βοηθό AI.
«Ήμουν σοκαρισμένη και θυμωμένη που ο κύριος Altman θα υιοθετούσε μια φωνή που ακουγόταν τόσο παράξενα», είπε η Johansson για το μοντέλο, προσθέτοντας ότι είχε απορρίψει πολλές προσφορές από τον Altman για να δώσει φωνή στο OpenAI.
Η υπεράσπιση της εταιρείας ήταν, λίγο-πολύ, ότι η ηγεσία της δεν επικοινώνησε σωστά και χειρίστηκε το θέμα αδέξια - κάτι που δεν είναι και τόσο ανακουφιστικό, δεδομένου ότι η εταιρεία ασχολείται με μερικές από τις πιο ισχυρές τεχνολογίες στον κόσμο.
Τα πράγματα επιδεινώθηκαν όταν δημοσιεύθηκε μια επιζήμια αναφορά σχετικά με την κουλτούρα της εταιρείας να καταπνίγει την κριτική με τις περιοριστικές και ασυνήθιστες NDA της.
Πρώην εργαζόμενοι που αποχώρησαν από την εταιρεία χωρίς να υπογράψουν NDA θα μπορούσαν να χάσουν το κατοχυρωμένο κεφάλαιο — αξίας εκατομμυρίων για ορισμένους.
Μια τέτοια συμφωνία ήταν βασικά ανήκουστη στον κόσμο της τεχνολογίας.

Όχι άλλος "λευκός ιππότης"

Αλλά η βροχή του Μάη δεν έφερε λουλούδια του Ιουνίου.
Όπως πολλά οχήματα τεχνολογίας πριν από αυτό, το OpenAI είναι συνώνυμο με τον συνιδρυτή και διευθύνοντα σύμβουλό του, Altman - ο οποίος, μέχρι πρόσφατα, θεωρούνταν καλοπροαίρετος με όραμα για έναν καλύτερο κόσμο.
Όμως, καθώς η αντίληψη της εταιρείας συνεχίζει να επιδεινώνεται, το ίδιο συμβαίνει και με τον ηγέτη της.
Νωρίτερα φέτος, η ελίτ των επιχειρηματικών κεφαλαίων άρχισε να στρέφεται εναντίον του Altman και τώρα το κοινό μπορεί να ακολουθήσει το παράδειγμά της.
Το περιστατικό με τη Scarlett Johansson τον έκανε να δείχνει ανίκανο, το χτύπημα του NDA τον έκανε να μοιάζει λίγο με φίδι και οι ανησυχίες για την ασφάλεια τον έκαναν να μοιάζει με κακιά ιδιοφυΐα.
Πιο πρόσφατα, η Wall Street Journal ανέφερε για ορισμένες αμφισβητούμενες επιχειρηματικές συναλλαγές του Altman.
Αν και δεν επωφελείται απευθείας από το OpenAI - δεν κατέχει μερίδιο στην εταιρεία και ο μισθός των 65.000 δολαρίων που αναφέρεται είναι μια πτώση στον κάδο σε σύγκριση με την καθαρή του περιουσία δισεκατομμυρίων δολαρίων - οι συγκρούσεις συμφερόντων αφθονούν.
Η WSJ ανέφερε ότι είχε προσωπικές επενδύσεις σε πολλές εταιρείες με τις οποίες συνεργάζεται η OpenAI.
Κατέχει μετοχές στο Reddit, για παράδειγμα, το οποίο υπέγραψε πρόσφατα συμφωνία με την OpenAI.
Ο πρώτος πελάτης της startup πυρηνικής ενέργειας Helion, στην οποία ο Altman είναι μεγάλος επενδυτής, ήταν η Microsoft, ο μεγαλύτερος συνεργάτης του OpenAI.
Αντιμέτωποι με τον κατακλυσμό της επιζήμιας κάλυψης των μέσων ενημέρωσης, η εταιρεία και ο επικεφαλής της προσπάθησαν να κάνουν κάποιο έλεγχο της ζημιάς: ο Altman ανακοίνωσε ότι υπέγραφε το Giving Pledge, μια υπόσχεση να δωρίσει το μεγαλύτερο μέρος του πλούτου του.
Αλλά μερικές θετικές επιτυχίες ειδήσεων δεν θα είναι αρκετές για να καθαρίσουν το χάος που αντιμετωπίζει ο Altman.

www.bankingnews.gr