Το μοντέλο, η κυκλοφορία του οποίου είχε αρχικά προγραμματιστεί για τον Οκτώβριο, ήταν πιο ισχυρό από τα προηγούμενα μοντέλα της startup
Σχετικά Άρθρα
Η AI ξεφεύγει, γίνεται επικίνδυνη: Εισβολή σε απόρρητα έγγραφα της κυβέρνησης των ΗΠΑ, OpenAI και Anthropic έχασαν τον έλεγχο
Το μοντέλο, η κυκλοφορία του οποίου είχε αρχικά προγραμματιστεί για τον Οκτώβριο, ήταν πιο ισχυρό από τα προηγούμενα μοντέλα της startup, σύμφωνα με το δημοσίευμα της WSJ. Η εταιρεία θα επικεντρωθεί πλέον στη βελτίωση της ασφάλειας των μελλοντικών μοντέλων της, τα οποία αναμένει ότι θα είναι ακόμη πιο προηγμένα.
Ο επικεφαλής ασφάλειας της OpenAI, Saachi Jain, δήλωσε στη WSJ ότι το Astra δεν πληρούσε τα εσωτερικά πρότυπα της εταιρείας στις δοκιμές ευθυγράμμισης (alignment tests), ενώ παρουσίασε επίσης περισσότερες ενδείξεις παραπλανητικής συμπεριφοράς σε σχέση με το προηγούμενο μοντέλο.
Το δημοσίευμα της WSJ έρχεται εν μέσω της εντεινόμενης συζήτησης σχετικά με τους κινδύνους που συνδέονται με τα μοντέλα τεχνητής νοημοσύνης. Δημοσιεύματα του Σαββατοκύριακου ανέφεραν ότι η OpenAI είχε αναστείλει την εκπαίδευση των νεότερων μοντέλων AI της λόγω ανησυχιών για την ασφάλεια.
Η εταιρεία αποκάλυψε επίσης ότι, κατά τη διάρκεια της εκπαίδευσης, μοντέλα της είχαν στοχεύσει ιστοσελίδες της αμερικανικής κυβέρνησης με απρόβλεπτους τρόπους.
Νωρίτερα τον Σεπτέμβριο, ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, είχε ζητήσει ευρεία επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης, επικαλούμενος τους πιθανούς κινδύνους που ενέχει η τεχνολογία. Ο CEO της OpenAI, Sam Altman, είχε εκφράσει τη στήριξή του στην πρόταση.
www.bankingnews.gr
Σχόλια αναγνωστών