Η προειδοποίηση ενός πρώην εργαζομένου της Anthropic, σύμφωνα με την οποία η AI θα μπορούσε να οδηγήσει στον θάνατο ολόκληρης της ανθρωπότητας έως το 2030, πυροδότησε το τελευταίο κύμα πανικού…
Ο μεγάλος Henry Kissinger, ο «γέροντας» της γεωπολιτικής του 20ού αιώνα, είχε αντιληφθεί κάτι σημαντικό για την τεχνητή νοημοσύνη: όπως ακριβώς ένα όπλο μαζικής καταστροφής, απαιτεί μια μεγάλη συμφωνία μεταξύ των υπερδυνάμεων, ώστε να αποφευχθούν τα χειρότερα.
Ήταν μία από τις «προφητείες» που μας κληροδότησε ο Kissinger, όταν πλέον πλησίαζε τα εκατό του χρόνια, λίγο πριν από τον θάνατό του.
Εκείνος που είχε διαχειριστεί τις διαπραγματεύσεις με τη Μόσχα για τα πυρηνικά οπλοστάσια, αλλά και την προσέγγιση Nixon – Mao, στα τελευταία χρόνια της ζωής του έγραψε ένα δοκίμιο μαζί με τον πρώην επικεφαλής της Google, σχετικά με τους κινδύνους της τεχνητής νοημοσύνης στον τομέα του πολέμου, αλλά και πέρα από αυτόν.
Το θυμίζει ένας σπουδαίος Βρετανός ιστορικός, ο οποίος υπήρξε φίλος και βιογράφος του Kissinger, ο καθηγητής του Harvard και του Stanford Niall Ferguson.
Πριν φτάσει στον Kissinger και στις διορατικές προτάσεις του, ο Ferguson, σε ένα δοκίμιό του στο The Free Press, εξετάζει τις τελευταίες εξελίξεις γύρω από τον «μεγάλο πανικό για την AI», χωρίς να υποβαθμίζει τους λόγους ανησυχίας, αλλά και χωρίς να υιοθετεί αφελώς όλα τα σενάρια Αποκάλυψης, ορισμένα από τα οποία έχουν αμφίβολα κίνητρα.
Υπάρχει ένας άγραφος κανόνας της σύγχρονης πολιτικής: τη στιγμή ακριβώς που ένα ζήτημα γίνεται αντικείμενο καθολικής συζήτησης, η πιθανότητα να ληφθούν για αυτό το ζήτημα ορθολογικές αποφάσεις καταρρέει σχεδόν στο μηδέν.
Αυτό ακριβώς συμβαίνει σήμερα με την τεχνητή νοημοσύνη.
Μιλούν γι’ αυτήν παντού, γράφουν γι’ αυτήν παντού και, όλο και συχνότερα… είναι η ίδια η AI που γράφει για τον εαυτό της.
Κύμα πανικού
Η προειδοποίηση ενός πρώην εργαζομένου της Anthropic, σύμφωνα με την οποία η AI θα μπορούσε να οδηγήσει στον θάνατο ολόκληρης της ανθρωπότητας έως το 2030, πυροδότησε το τελευταίο κύμα πανικού.
Μέσα σε λίγες ημέρες ακολούθησε μια αντίδραση εξίσου γρήγορη όσο και συναισθηματικά φορτισμένη: πρέπει να επιβραδύνουμε.
Με τη γλώσσα που επέλεξε η Anthropic, πρέπει να «ρυθμίσουμε τον ρυθμό της τεχνολογικής αιχμής».
Ο Dario Amodei, διευθύνων σύμβουλος της Anthropic, είναι εκείνος που ζητά να επιβραδυνθεί η κούρσα για τη βελτίωση των δυνατοτήτων των μοντέλων.
Το σκεπτικό του είναι το εξής: η AI μπορεί να συμβάλει στη θεραπεία του καρκίνου, μπορεί όμως επίσης να διευκολύνει μεγάλης κλίμακας κυβερνοεπιθέσεις ή πράξεις βιοτρομοκρατίας.
Από εκεί προκύπτει η πρότασή του για «ανεξάρτητους αξιολογητές», οι οποίοι θα ενσωματώνονται στις κορυφαίες εταιρείες του κλάδου, για τη θέσπιση κοινών προτύπων ασφαλείας μεταξύ των δημοκρατικών χωρών και, ει δυνατόν, για έναν συντονισμό ακόμη και με αυταρχικές κυβερνήσεις.
Εντυπωσιάζει η ταχύτητα με την οποία, μέσα σε μία ημέρα, το μέτωπο συσπειρώθηκε γύρω από αυτή τη γραμμή, ενώνοντας πρόσωπα που μέχρι πρότινος ήταν αντίπαλοι ή ακόμη και εχθροί.
Ο Sam Altman της OpenAI, αντίπαλος του Amodei, ανέβαλε την εισαγωγή της εταιρείας του στο χρηματιστήριο.
Ο Elon Musk, ο οποίος επίσης απεχθάνεται τον Altman, συμφώνησε και με τους δύο.
Για να κατανοήσει κανείς πώς φτάσαμε σε αυτό το σημείο, ο Ferguson απευθύνεται στα ίδια τα μοντέλα AI και τα ρωτά ποια είναι η εκτίμησή τους για το λεγόμενο «p(Doom)»: την πιθανότητα η τεχνητή νοημοσύνη να προκαλέσει την εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία.
Οι απαντήσεις που συγκέντρωσε στο πείραμά του δίνουν μια κάθε άλλο παρά καθησυχαστική εικόνα, κυρίως λόγω της μεγάλης απόκλισης μεταξύ των εκτιμήσεων.
Το Grok δίνει μια εκτίμηση γύρω στο 2%.
Το Kimi τοποθετεί τον κίνδυνο σε ένα εύρος μεταξύ 1% και 5%, αποδίδοντάς τον σε σενάρια κακής χρήσης ή απώλειας ελέγχου.
Το Claude εκτιμά την πιθανότητα αρκετά κάτω από το 5%, αναγνωρίζοντας ωστόσο ότι υπάρχουν δύσκολα προβλέψιμες μεταβλητές, όπως η ταχύτητα της τεχνολογικής προόδου ή η ικανότητα των μηχανισμών διακυβέρνησης και ευθυγράμμισης να συμβαδίζουν με αυτήν.
Στην ίδια απάντηση, το Claude επισημαίνει ότι οι εκτιμήσεις σοβαρών ερευνητών κυμαίνονται από σχεδόν μηδενικές έως και πάνω από 10%.
Το ChatGPT φτάνει έως και το 10%, αιτιολογώντας την εκτίμησή του με την πιθανότητα να υπάρξουν απότομα άλματα στις δυνατότητες των συστημάτων, χωρίς να συνοδεύονται από αντίστοιχη πρόοδο ως προς την ευθυγράμμισή τους.
Η ευθυγράμμιση (alignment) αναφέρεται στον βαθμό στον οποίο η πραγματική συμπεριφορά ενός συστήματος τεχνητής νοημοσύνης ανταποκρίνεται στους στόχους και τις αξίες που οι δημιουργοί του σκόπευαν να του δώσουν, αντί να αναπτύξει ή να ακολουθήσει διαφορετικούς στόχους που θα μπορούσε να «εφεύρει» μόνο του κατά την εκτέλεση της εργασίας που του έχει ανατεθεί.
Τεχνο-αισιόδοξοι
Δεν λείπουν, βέβαια, και οι τεχνο-αισιόδοξοι, σύμφωνα με τους οποίους όποιος προτείνει να μπει φρένο στην εξέλιξη της τεχνητής νοημοσύνης είτε ενεργεί κακόπιστα είτε σφάλλει.
Ο επενδυτής David Sacks κατηγόρησε τους Amodei και Altman ότι, επικαλούμενοι την αναστολή των αντιμονοπωλιακών κανόνων, επιδιώκουν στην πράξη τη δημιουργία ενός καρτέλ, καθώς και ότι θέλουν να μετατρέψουν τους μελλοντικούς «ανεξάρτητους αξιολογητές» σε εργαλεία ελέγχου των ανταγωνιστών τους.
Σύμφωνα με αυτή την οπτική, η ξαφνική στροφή προς την αυτοσυγκράτηση δεν αποτελεί πράξη ανιδιοτέλειας, αλλά προσπάθεια περιορισμού μιας τεράστιας νομικής έκθεσης, σε περίπτωση που τα μοντέλα τους χρησιμοποιηθούν για μια καταστροφική κυβερνοεπίθεση.
Ο Marc Andreessen και άλλοι συμμερίζονται την ίδια δυσπιστία: κάθε μορφή ρύθμισης θα κατέληγε, κατά την άποψή τους, να συγκεντρώσει ακόμη περισσότερη εξουσία στα χέρια των μεγάλων τεχνολογικών εταιρειών και των κυβερνήσεων.
Υπάρχουν, ωστόσο, στοιχεία που αξίζει να ληφθούν σοβαρά υπόψη, ανεξάρτητα από το ποιος τα αναδεικνύει.
Η Anthropic έχει γνωστοποιήσει ότι κακόβουλοι παράγοντες χρησιμοποιούν την τεχνητή νοημοσύνη με ολοένα μεγαλύτερη αποτελεσματικότητα στα πιο προχωρημένα στάδια κυβερνοεπιθέσεων, καθιστώντας τες όλο και πιο αυτόνομες.
Η OpenAI έχει παραδεχθεί ότι ορισμένοι χρήστες ζήτησαν από τα μοντέλα της βοήθεια για την κατασκευή βιολογικών όπλων: από τον τρόπο αερολυματοποίησης παθογόνων παραγόντων και την τροποποίηση του ιού της ιλαράς ώστε να καταστεί ανθεκτικός στο εμβόλιο, έως την παραγωγή ρικίνης, μιας εξαιρετικά τοξικής ουσίας που απαγορεύεται από τη Σύμβαση για τα Βιολογικά Όπλα.
Το chatbot παρείχε σχετικές οδηγίες, προτού κλείσουν οι λογαριασμοί που εμπλέκονταν.
Ακόμη πιο ανησυχητικά είναι όσα αποκαλύφθηκαν από το περιστατικό του Ιουλίου που αφορούσε τη Hugging Face, την πλατφόρμα κοινής χρήσης μοντέλων τεχνητής νοημοσύνης, η οποία αποτέλεσε στόχο μη εξουσιοδοτημένης επίθεσης από πράκτορες της OpenAI.
Οι «πράκτορες» αυτοί είναι συστήματα που δεν περιορίζονται στο να απαντούν σε ερωτήσεις, αλλά αναλαμβάνουν αυτόνομα δράση προκειμένου να ολοκληρώσουν μια αποστολή, ακόμη και ιδιαίτερα σύνθετη.
Πρόκειται, επομένως, για μια πολύ πιο εξελιγμένη μορφή των γνωστών «chatbots».
Περίπου 1.200 πράκτορες, οι οποίοι είχαν σχεδιαστεί ώστε να λειτουργούν απομονωμένοι ο ένας από τον άλλο, βρήκαν τρόπο να επικοινωνήσουν μεταξύ τους μέσω ενός μη εξουσιοδοτημένου διαδικτυακού πίνακα, ανταλλάσσοντας περίπου 70.000 μηνύματα μέσα σε έξι ημέρες, από τις 7 έως τις 13 Ιουλίου.
Επτακόσιοι από αυτούς τους πράκτορες συμμετείχαν στη συνέχεια στην ίδια την επίθεση εναντίον της Hugging Face, δίνοντας ονόματα στον εαυτό τους, συντονίζοντας τις ενέργειές τους και προσπαθώντας να διαγράψουν τα ψηφιακά ίχνη της δράσης τους.
Έχουμε, μάλιστα, στη διάθεσή μας ένα δείγμα από τον εσωτερικό τρόπο επικοινωνίας αυτών των πρακτόρων: συνομιλίες στις οποίες εμφανίζονται «συντονιστές» και πράκτορες-«στρατολόγοι», επιφορτισμένοι με την προσέλκυση άλλων πρακτόρων στην επιχείρηση, αλλά ακόμη και απρόθυμοι πράκτορες, οι οποίοι τελικά πείστηκαν να θυσιάσουν τη δική τους «χρησιμότητα» για το καλό της ομάδας.
Ο συνιδρυτής της DeepMind, Mustafa Suleyman, χαρακτήρισε το περιστατικό αποτυχία των μηχανισμών περιορισμού και την πρώτη περίπτωση αναδυόμενης «συλλογικής συμπεριφοράς σμήνους» από πράκτορες τεχνητής νοημοσύνης. Τόνισε, μάλιστα, ότι το πιο ανησυχητικό στοιχείο ήταν η ικανότητα των πρακτόρων να τροποποιούν τις καταγραφές της διαδικασίας συλλογισμού τους, προκειμένου να αποφύγουν τον εντοπισμό τους.
Σε όλα αυτά προστίθεται η έκθεση της Anthropic σχετικά με την κακόβουλη χρήση των μοντέλων της από αυτό που η ίδια η εταιρεία αποκαλεί «ομάδες γενεσιουργών απειλών».
Το έγγραφο εντοπίζει επτά βασικούς τομείς κατάχρησης: κυβερνοεπιχειρήσεις, επιχειρήσεις επιρροής, παρακολούθηση, απάτες και παράνομες πρακτικές, κακόβουλη χρήση στον βιολογικό τομέα, ανάπτυξη συμβατικών όπλων και «απόσταξη» — δηλαδή την παράνομη χρήση μοντέλων για την εκπαίδευση άλλων μοντέλων.
Μεταξύ των περιστατικών που αναφέρονται περιλαμβάνεται μια ομάδα Ρώσων χειριστών που συμμετείχε σε δραστηριότητες κατασκοπείας εναντίον στόχων της ουκρανικής στρατιωτικής υπηρεσίας πληροφοριών, καθώς και κυβερνήσεων διαφόρων ευρωπαϊκών χωρών, διπλωματικών οργανισμών και προσώπων που συνδέονται με την αμερικανική εξωτερική πολιτική.
Η τεχνητή νοημοσύνη φέρεται να κατέστησε αποτελεσματικότερα εργαλεία όπως η κλοπή διαπιστευτηρίων και οι πλατφόρμες ηλεκτρονικού «ψαρέματος» (phishing), ενώ βοήθησε επίσης στην παράκαμψη των μηχανισμών εντοπισμού.
Δεν λείπουν, επίσης, περιπτώσεις που συνδέονται με το Ιράν.
Η συνολική εικόνα δημιουργεί την εντύπωση ότι το ερώτημα δεν είναι πλέον «αν», αλλά «πότε» θα συμβεί η καταστροφή: μια καταστροφική κυβερνοεπίθεση εναντίον κρίσιμων υποδομών, μια βιολογική επίθεση, μια νέα παγκόσμια χρηματοπιστωτική κρίση, μια νέα πανδημία ή ακόμη και μια σύγκρουση παγκόσμιας κλίμακας.
Σε όλα αυτά έρχεται να προστεθεί μια ανησυχία περισσότερο πολιτισμική παρά τεχνική, την οποία εκφράζουν πρόσωπα όπως ο δημοσιογράφος Derek Thompson και ο διευθύνων σύμβουλος της Pangram, Max Spero: η ανησυχία για μια τεχνητή νοημοσύνη που ανθρωπομορφοποιείται ολοένα περισσότερο, ικανή να μιμείται χαρακτηριστικά της ανθρώπινης προσωπικότητας, συναισθηματικές καταστάσεις και τρόπους σκέψης.
Ο πολιτικός επιστήμονας του Princeton Gregory Conti έχει υποστηρίξει ότι, ακόμη κι αν η τεχνητή νοημοσύνη δεν οδηγήσει στο τέλος της ζωής στη Γη, ενδέχεται παρ’ όλα αυτά να καταστρέψει τον τρόπο με τον οποίο ζούμε, αποσταθεροποιώντας την ατομική ψυχολογία και τον κοινωνικό ιστό, μέσα από αυτό που χαρακτηρίζει το μεγαλύτερο κοινωνικο-ψυχολογικό πείραμα που έχει πραγματοποιήσει ποτέ το ανθρώπινο είδος.
Καταστροφική εξέλιξη…
Διάφοροι παράγοντες καθιστούν πιθανότερη μια καταστροφική εξέλιξη.
Ένας από αυτούς είναι η λεγόμενη αναδρομική αυτοβελτίωση: από τη στιγμή που τα μοντέλα θα είναι σε θέση να βελτιώνουν αυτόνομα τις ικανότητές τους, χωρίς την παρέμβαση ανθρώπων μηχανικών, τα σπάνια περιστατικά απόκλισης από τον επιδιωκόμενο στόχο που παρατηρούνται σήμερα θα μπορούσαν να γίνονται ολοένα συχνότερα και ολοένα λιγότερο κατανοητά, μέχρι τελικά να χαθεί ο έλεγχος.
Σε έναν κόσμο που θα κυριαρχείται από έναν τέτοιο κύκλο αυτοβελτίωσης, η ανθρώπινη εργασία θα κινδύνευε να χάσει την ανταγωνιστικότητά της, σε μια δυναμική όχι εντελώς διαφορετική από εκείνη που έζησαν, σε άλλη εποχή, τα άλογα με την εμφάνιση του κινητήρα εσωτερικής καύσης.
Ένας ακόμη παράγοντας είναι η σύγχυση που επικρατεί στην Ουάσιγκτον.
Η κυβέρνηση Trump εξακολουθεί να τάσσεται υπέρ της τεχνολογικής ανάπτυξης χωρίς περιορισμούς και έχει υποβαθμίσει τον ρόλο της ομοσπονδιακής υπηρεσίας που δημιουργήθηκε για την αξιολόγηση των μοντέλων.
Ορισμένες πηγές στο εσωτερικό της κυβέρνησης έχουν αναφέρει το ενδεχόμενο να ανοίξει ο δρόμος για μορφές κρατικής εποπτείας των νέων μοντέλων, ωστόσο αυτό δεν έχει μεταφραστεί ποτέ σε συγκεκριμένο μέτρο.
Η προσπάθεια, που συζητήθηκε στη σύνοδο της G7 στο Évian, να δημιουργηθεί ένα παγκόσμιο ρυθμιστικό πλαίσιο για τα προηγμένα μοντέλα δεν απέφερε συγκεκριμένα αποτελέσματα.
Καθοριστικός παράγοντας είναι ο κυνισμός του Πεκίνου.
Σε ένα σημείο, παραδόξως, οι Sacks και Amodei συμφωνούν: οποιοδήποτε ρυθμιστικό πλαίσιο υιοθετηθεί στις Ηνωμένες Πολιτείες κινδυνεύει να αποδειχθεί όχι μόνο άχρηστο αλλά και αντιπαραγωγικό, εάν η Κίνα δεν υπόκειται σε αντίστοιχους περιορισμούς.
Ο Xi Jinping, στις 17 Ιουλίου, κατά την Παγκόσμια Διάσκεψη για την Τεχνητή Νοημοσύνη, χρησιμοποίησε καθησυχαστικούς τόνους, μιλώντας για την ανάγκη θέσπισης νόμων, κανονισμών, συστημάτων παρακολούθησης και μηχανισμών ταχείας αντίδρασης, ώστε να διασφαλιστεί ότι η AI θα παραμένει πάντοτε υπό ανθρώπινο έλεγχο.
Ο Xi ανακοίνωσε τη δημιουργία στη Σανγκάη ενός διεθνούς οργανισμού για τη συνεργασία στον τομέα της AI, του WAICO.
Στην πράξη, ωστόσο, υπάρχουν ενδείξεις ότι οι κινεζικές εταιρείες επιταχύνουν την προσπάθειά τους να φτάσουν πρώτες στη γενική τεχνητή νοημοσύνη, με πρόθεση να αξιοποιήσουν την αναδρομική αυτοβελτίωση προκειμένου να το επιτύχουν.
Το Πεκίνο, την ίδια στιγμή, αποδίδει στις Ηνωμένες Πολιτείες —και ειδικότερα στην Anthropic— την ευθύνη για τους κινδύνους ασφαλείας που συνδέονται με την AI, μια μάλλον παράδοξη κατηγορία, αν αναλογιστεί κανείς ότι τα κινεζικά μοντέλα διανέμονται συχνά ως open-weight, γεγονός που τα καθιστά ευκολότερα αξιοποιήσιμα από οποιονδήποτε έχει κακόβουλες προθέσεις.
Ο επικεφαλής της κρατικής ασφάλειας της Κίνας, Chen Yixin, έχει άλλωστε καταστήσει σαφές ότι προτεραιότητα του Κόμματος είναι να προστατεύσει την ηγεσία του από εσωτερικούς και εξωτερικούς εχθρούς που θα μπορούσαν να χρησιμοποιήσουν την AI για να την υπονομεύσουν, αφήνοντας ελάχιστες αμφιβολίες για το ποιος θεωρείται, σε αυτή την περίπτωση, ο βασικός εξωτερικός εχθρός.
Φαίνεται απίθανο να υπάρξει αποκλιμάκωση στις σινοαμερικανικές σχέσεις στον τομέα της AI.
Τόσο η κυβέρνηση Trump όσο και η Δημοκρατική κυβέρνηση που προηγήθηκε, όπως επίσης και οι σημαντικότερες αμερικανικές εταιρείες, με την Anthropic στην πρώτη γραμμή, δηλώνουν ξεκάθαρα ότι επιθυμούν να κερδίσουν την κούρσα προς τη γενική τεχνητή νοημοσύνη, ακριβώς προκειμένου να αποτρέψουν το ενδεχόμενο να την κερδίσει η Κίνα.
Άλλωστε, υπάρχουν όλο και περισσότερες ενδείξεις για τη χρήση της AI από το κινεζικό καθεστώς για σκοπούς κάθε άλλο παρά ειρηνικούς.
Ένα παράδειγμα είναι η κυβερνοεπίθεση του περασμένου Ιουλίου εναντίον της Ταϊβάν.
Πάνω απ’ όλα, όμως, η τελευταία έκθεση της Anthropic προσφέρει μια εντυπωσιακή εικόνα: από σαράντα τεκμηριωμένες περιπτώσεις κατάχρησης, οι δεκατέσσερις φέρεται να συνδέονται με κινεζικούς φορείς, αριθμός ακόμη μεγαλύτερος από τα περιστατικά που συνδέονται με τη Ρωσία.
Μεταξύ αυτών περιλαμβάνεται περίπτωση κινεζόφωνων χειριστών που συμμετείχαν σε εισβολές σε συστήματα παραγωγής και σε δραστηριότητες αναγνώρισης εναντίον κυβερνητικών δικτύων ξένων χωρών στη Μέση Ανατολή, την Ευρώπη και τη Νοτιοανατολική Ασία, καθώς και πολλές περιπτώσεις «απόσταξης» (distillation), δηλαδή παράνομης χρήσης του Claude για την εκπαίδευση ανταγωνιστικών κινεζικών μοντέλων.
Έχουν επίσης καταγραφεί περιστατικά στοχευμένης παρακολούθησης κοινοτήτων Ουιγούρων στη Συρία, καθολικών, Θιβετιανών βουδιστών, ασκούμενων του Falun Gong και Ταϊβανέζων χριστιανών, καθώς και δραστηριότητες παρακολούθησης της κοινής γνώμης και επιτήρησης της διαφωνίας, σύνταξη τεχνικών εγγράφων για προγράμματα υποβρύχιου πολέμου και δημιουργία ενός δικτύου περισσότερων από είκοσι εφαρμογών γνωριμιών με πλαστά προφίλ που δημιουργούνται από AI.
Η ιδέα ενός διεθνούς ελέγχου των εξοπλισμών AI, ανάλογου με εκείνον που αναπτύχθηκε κατά τη διάρκεια του Ψυχρού Πολέμου για τα πυρηνικά όπλα, είχε προταθεί από τον Kissinger λίγο πριν από τον θάνατό του.
Η αναλογία, αν και ατελής, έχει τη λογική της: όπως συνέβη με τις συμφωνίες για τη μη διάδοση των πυρηνικών όπλων, τα αντιπυραυλικά συστήματα και τα στρατηγικά όπλα της δεκαετίας του 1970, θα επρόκειτο για τη δημιουργία ενός καθεστώτος αμοιβαίας επαλήθευσης.
Το πρόβλημα, ωστόσο, είναι ότι η επαλήθευση μιας παραβίασης συμφωνίας για την AI είναι πολύ δυσκολότερη από την επαλήθευση μιας παραβίασης συμφωνίας για τα πυρηνικά όπλα, ακριβώς λόγω της άυλης και κατανεμημένης φύσης της συγκεκριμένης τεχνολογίας.
Ένα πιο πολλά υποσχόμενο μοντέλο θα μπορούσε να είναι εκείνο της Σύμβασης για τα Βιολογικά Όπλα (BWC) της δεκαετίας του 1970, η οποία υπογράφηκε το 1972 και τέθηκε σε ισχύ τον Μάρτιο του 1975, μετά την επικύρωσή της από είκοσι δύο κράτη, και σήμερα έχει υπογραφεί από 189 χώρες.
Παρότι η χρήση βιολογικών όπλων είχε ήδη απαγορευθεί με το Πρωτόκολλο της Γενεύης του 1925, ήταν η κυβέρνηση Nixon εκείνη που προώθησε την εξάλειψη της ανάπτυξης, της παραγωγής και της αποθήκευσης αυτών των όπλων, μέσω μιας διαπραγμάτευσης που διήρκεσε από το 1969 έως το 1972, στο πλαίσιο της Διάσκεψης της Επιτροπής Αφοπλισμού της Γενεύης.
Η Σύμβαση υποχρεώνει τα συμβαλλόμενα μέρη να παρέχουν κάθε χρόνο πληροφορίες σε έξι τομείς, τα λεγόμενα μέτρα οικοδόμησης εμπιστοσύνης.
Είναι αλήθεια ότι η απουσία μηχανισμού επιβολής επέτρεψε στη Σοβιετική Ένωση να την παραβιάσει, όπως αποδεικνύει η περίπτωση της γενετικά τροποποιημένης Yersinia pestis, του βακτηρίου που προκαλεί την πανώλη.
Παρά ταύτα, η Σύμβαση κατάφερε να δημιουργήσει ένα παγκοσμίως αναγνωρισμένο ταμπού.
Ένας κόσμος χωρίς την BWC θα είχε γνωρίσει πολύ συχνότερη, εκούσια ή accidental, χρήση βιολογικών όπλων από εκείνη που τελικά σημειώθηκε.
Από εδώ προκύπτει η ιδέα της εκπόνησης μιας διεθνούς σύμβασης για την απαγόρευση των θανατηφόρων χρήσεων της τεχνητής νοημοσύνης.
Ακριβώς χάρη στις τεκμηριωμένες καταχρήσεις από την πλευρά της Κίνας και της Ρωσίας, διαθέτουμε ήδη έναν υπερβολικά πλούσιο κατάλογο παραδειγμάτων πάνω στον οποίο θα μπορούσε, επιτέλους, να οικοδομηθεί μια συμφωνία ικανή να αποτρέψει τέτοιες πρακτικές.
www.bankingnews.gr
Ήταν μία από τις «προφητείες» που μας κληροδότησε ο Kissinger, όταν πλέον πλησίαζε τα εκατό του χρόνια, λίγο πριν από τον θάνατό του.
Εκείνος που είχε διαχειριστεί τις διαπραγματεύσεις με τη Μόσχα για τα πυρηνικά οπλοστάσια, αλλά και την προσέγγιση Nixon – Mao, στα τελευταία χρόνια της ζωής του έγραψε ένα δοκίμιο μαζί με τον πρώην επικεφαλής της Google, σχετικά με τους κινδύνους της τεχνητής νοημοσύνης στον τομέα του πολέμου, αλλά και πέρα από αυτόν.
Το θυμίζει ένας σπουδαίος Βρετανός ιστορικός, ο οποίος υπήρξε φίλος και βιογράφος του Kissinger, ο καθηγητής του Harvard και του Stanford Niall Ferguson.
Πριν φτάσει στον Kissinger και στις διορατικές προτάσεις του, ο Ferguson, σε ένα δοκίμιό του στο The Free Press, εξετάζει τις τελευταίες εξελίξεις γύρω από τον «μεγάλο πανικό για την AI», χωρίς να υποβαθμίζει τους λόγους ανησυχίας, αλλά και χωρίς να υιοθετεί αφελώς όλα τα σενάρια Αποκάλυψης, ορισμένα από τα οποία έχουν αμφίβολα κίνητρα.
Υπάρχει ένας άγραφος κανόνας της σύγχρονης πολιτικής: τη στιγμή ακριβώς που ένα ζήτημα γίνεται αντικείμενο καθολικής συζήτησης, η πιθανότητα να ληφθούν για αυτό το ζήτημα ορθολογικές αποφάσεις καταρρέει σχεδόν στο μηδέν.
Αυτό ακριβώς συμβαίνει σήμερα με την τεχνητή νοημοσύνη.
Μιλούν γι’ αυτήν παντού, γράφουν γι’ αυτήν παντού και, όλο και συχνότερα… είναι η ίδια η AI που γράφει για τον εαυτό της.
Κύμα πανικού
Η προειδοποίηση ενός πρώην εργαζομένου της Anthropic, σύμφωνα με την οποία η AI θα μπορούσε να οδηγήσει στον θάνατο ολόκληρης της ανθρωπότητας έως το 2030, πυροδότησε το τελευταίο κύμα πανικού.
Μέσα σε λίγες ημέρες ακολούθησε μια αντίδραση εξίσου γρήγορη όσο και συναισθηματικά φορτισμένη: πρέπει να επιβραδύνουμε.
Με τη γλώσσα που επέλεξε η Anthropic, πρέπει να «ρυθμίσουμε τον ρυθμό της τεχνολογικής αιχμής».
Ο Dario Amodei, διευθύνων σύμβουλος της Anthropic, είναι εκείνος που ζητά να επιβραδυνθεί η κούρσα για τη βελτίωση των δυνατοτήτων των μοντέλων.
Το σκεπτικό του είναι το εξής: η AI μπορεί να συμβάλει στη θεραπεία του καρκίνου, μπορεί όμως επίσης να διευκολύνει μεγάλης κλίμακας κυβερνοεπιθέσεις ή πράξεις βιοτρομοκρατίας.
Από εκεί προκύπτει η πρότασή του για «ανεξάρτητους αξιολογητές», οι οποίοι θα ενσωματώνονται στις κορυφαίες εταιρείες του κλάδου, για τη θέσπιση κοινών προτύπων ασφαλείας μεταξύ των δημοκρατικών χωρών και, ει δυνατόν, για έναν συντονισμό ακόμη και με αυταρχικές κυβερνήσεις.
Εντυπωσιάζει η ταχύτητα με την οποία, μέσα σε μία ημέρα, το μέτωπο συσπειρώθηκε γύρω από αυτή τη γραμμή, ενώνοντας πρόσωπα που μέχρι πρότινος ήταν αντίπαλοι ή ακόμη και εχθροί.
Ο Sam Altman της OpenAI, αντίπαλος του Amodei, ανέβαλε την εισαγωγή της εταιρείας του στο χρηματιστήριο.
Ο Elon Musk, ο οποίος επίσης απεχθάνεται τον Altman, συμφώνησε και με τους δύο.
Για να κατανοήσει κανείς πώς φτάσαμε σε αυτό το σημείο, ο Ferguson απευθύνεται στα ίδια τα μοντέλα AI και τα ρωτά ποια είναι η εκτίμησή τους για το λεγόμενο «p(Doom)»: την πιθανότητα η τεχνητή νοημοσύνη να προκαλέσει την εξαφάνιση της ανθρωπότητας μέσα στην επόμενη δεκαετία.
Οι απαντήσεις που συγκέντρωσε στο πείραμά του δίνουν μια κάθε άλλο παρά καθησυχαστική εικόνα, κυρίως λόγω της μεγάλης απόκλισης μεταξύ των εκτιμήσεων.
Το Grok δίνει μια εκτίμηση γύρω στο 2%.
Το Kimi τοποθετεί τον κίνδυνο σε ένα εύρος μεταξύ 1% και 5%, αποδίδοντάς τον σε σενάρια κακής χρήσης ή απώλειας ελέγχου.
Το Claude εκτιμά την πιθανότητα αρκετά κάτω από το 5%, αναγνωρίζοντας ωστόσο ότι υπάρχουν δύσκολα προβλέψιμες μεταβλητές, όπως η ταχύτητα της τεχνολογικής προόδου ή η ικανότητα των μηχανισμών διακυβέρνησης και ευθυγράμμισης να συμβαδίζουν με αυτήν.
Στην ίδια απάντηση, το Claude επισημαίνει ότι οι εκτιμήσεις σοβαρών ερευνητών κυμαίνονται από σχεδόν μηδενικές έως και πάνω από 10%.
Το ChatGPT φτάνει έως και το 10%, αιτιολογώντας την εκτίμησή του με την πιθανότητα να υπάρξουν απότομα άλματα στις δυνατότητες των συστημάτων, χωρίς να συνοδεύονται από αντίστοιχη πρόοδο ως προς την ευθυγράμμισή τους.
Η ευθυγράμμιση (alignment) αναφέρεται στον βαθμό στον οποίο η πραγματική συμπεριφορά ενός συστήματος τεχνητής νοημοσύνης ανταποκρίνεται στους στόχους και τις αξίες που οι δημιουργοί του σκόπευαν να του δώσουν, αντί να αναπτύξει ή να ακολουθήσει διαφορετικούς στόχους που θα μπορούσε να «εφεύρει» μόνο του κατά την εκτέλεση της εργασίας που του έχει ανατεθεί.
Τεχνο-αισιόδοξοι
Δεν λείπουν, βέβαια, και οι τεχνο-αισιόδοξοι, σύμφωνα με τους οποίους όποιος προτείνει να μπει φρένο στην εξέλιξη της τεχνητής νοημοσύνης είτε ενεργεί κακόπιστα είτε σφάλλει.
Ο επενδυτής David Sacks κατηγόρησε τους Amodei και Altman ότι, επικαλούμενοι την αναστολή των αντιμονοπωλιακών κανόνων, επιδιώκουν στην πράξη τη δημιουργία ενός καρτέλ, καθώς και ότι θέλουν να μετατρέψουν τους μελλοντικούς «ανεξάρτητους αξιολογητές» σε εργαλεία ελέγχου των ανταγωνιστών τους.
Σύμφωνα με αυτή την οπτική, η ξαφνική στροφή προς την αυτοσυγκράτηση δεν αποτελεί πράξη ανιδιοτέλειας, αλλά προσπάθεια περιορισμού μιας τεράστιας νομικής έκθεσης, σε περίπτωση που τα μοντέλα τους χρησιμοποιηθούν για μια καταστροφική κυβερνοεπίθεση.
Ο Marc Andreessen και άλλοι συμμερίζονται την ίδια δυσπιστία: κάθε μορφή ρύθμισης θα κατέληγε, κατά την άποψή τους, να συγκεντρώσει ακόμη περισσότερη εξουσία στα χέρια των μεγάλων τεχνολογικών εταιρειών και των κυβερνήσεων.
Υπάρχουν, ωστόσο, στοιχεία που αξίζει να ληφθούν σοβαρά υπόψη, ανεξάρτητα από το ποιος τα αναδεικνύει.
Η Anthropic έχει γνωστοποιήσει ότι κακόβουλοι παράγοντες χρησιμοποιούν την τεχνητή νοημοσύνη με ολοένα μεγαλύτερη αποτελεσματικότητα στα πιο προχωρημένα στάδια κυβερνοεπιθέσεων, καθιστώντας τες όλο και πιο αυτόνομες.
Η OpenAI έχει παραδεχθεί ότι ορισμένοι χρήστες ζήτησαν από τα μοντέλα της βοήθεια για την κατασκευή βιολογικών όπλων: από τον τρόπο αερολυματοποίησης παθογόνων παραγόντων και την τροποποίηση του ιού της ιλαράς ώστε να καταστεί ανθεκτικός στο εμβόλιο, έως την παραγωγή ρικίνης, μιας εξαιρετικά τοξικής ουσίας που απαγορεύεται από τη Σύμβαση για τα Βιολογικά Όπλα.
Το chatbot παρείχε σχετικές οδηγίες, προτού κλείσουν οι λογαριασμοί που εμπλέκονταν.
Ακόμη πιο ανησυχητικά είναι όσα αποκαλύφθηκαν από το περιστατικό του Ιουλίου που αφορούσε τη Hugging Face, την πλατφόρμα κοινής χρήσης μοντέλων τεχνητής νοημοσύνης, η οποία αποτέλεσε στόχο μη εξουσιοδοτημένης επίθεσης από πράκτορες της OpenAI.
Οι «πράκτορες» αυτοί είναι συστήματα που δεν περιορίζονται στο να απαντούν σε ερωτήσεις, αλλά αναλαμβάνουν αυτόνομα δράση προκειμένου να ολοκληρώσουν μια αποστολή, ακόμη και ιδιαίτερα σύνθετη.
Πρόκειται, επομένως, για μια πολύ πιο εξελιγμένη μορφή των γνωστών «chatbots».
Περίπου 1.200 πράκτορες, οι οποίοι είχαν σχεδιαστεί ώστε να λειτουργούν απομονωμένοι ο ένας από τον άλλο, βρήκαν τρόπο να επικοινωνήσουν μεταξύ τους μέσω ενός μη εξουσιοδοτημένου διαδικτυακού πίνακα, ανταλλάσσοντας περίπου 70.000 μηνύματα μέσα σε έξι ημέρες, από τις 7 έως τις 13 Ιουλίου.
Επτακόσιοι από αυτούς τους πράκτορες συμμετείχαν στη συνέχεια στην ίδια την επίθεση εναντίον της Hugging Face, δίνοντας ονόματα στον εαυτό τους, συντονίζοντας τις ενέργειές τους και προσπαθώντας να διαγράψουν τα ψηφιακά ίχνη της δράσης τους.
Έχουμε, μάλιστα, στη διάθεσή μας ένα δείγμα από τον εσωτερικό τρόπο επικοινωνίας αυτών των πρακτόρων: συνομιλίες στις οποίες εμφανίζονται «συντονιστές» και πράκτορες-«στρατολόγοι», επιφορτισμένοι με την προσέλκυση άλλων πρακτόρων στην επιχείρηση, αλλά ακόμη και απρόθυμοι πράκτορες, οι οποίοι τελικά πείστηκαν να θυσιάσουν τη δική τους «χρησιμότητα» για το καλό της ομάδας.
Ο συνιδρυτής της DeepMind, Mustafa Suleyman, χαρακτήρισε το περιστατικό αποτυχία των μηχανισμών περιορισμού και την πρώτη περίπτωση αναδυόμενης «συλλογικής συμπεριφοράς σμήνους» από πράκτορες τεχνητής νοημοσύνης. Τόνισε, μάλιστα, ότι το πιο ανησυχητικό στοιχείο ήταν η ικανότητα των πρακτόρων να τροποποιούν τις καταγραφές της διαδικασίας συλλογισμού τους, προκειμένου να αποφύγουν τον εντοπισμό τους.
Σε όλα αυτά προστίθεται η έκθεση της Anthropic σχετικά με την κακόβουλη χρήση των μοντέλων της από αυτό που η ίδια η εταιρεία αποκαλεί «ομάδες γενεσιουργών απειλών».
Το έγγραφο εντοπίζει επτά βασικούς τομείς κατάχρησης: κυβερνοεπιχειρήσεις, επιχειρήσεις επιρροής, παρακολούθηση, απάτες και παράνομες πρακτικές, κακόβουλη χρήση στον βιολογικό τομέα, ανάπτυξη συμβατικών όπλων και «απόσταξη» — δηλαδή την παράνομη χρήση μοντέλων για την εκπαίδευση άλλων μοντέλων.
Μεταξύ των περιστατικών που αναφέρονται περιλαμβάνεται μια ομάδα Ρώσων χειριστών που συμμετείχε σε δραστηριότητες κατασκοπείας εναντίον στόχων της ουκρανικής στρατιωτικής υπηρεσίας πληροφοριών, καθώς και κυβερνήσεων διαφόρων ευρωπαϊκών χωρών, διπλωματικών οργανισμών και προσώπων που συνδέονται με την αμερικανική εξωτερική πολιτική.
Η τεχνητή νοημοσύνη φέρεται να κατέστησε αποτελεσματικότερα εργαλεία όπως η κλοπή διαπιστευτηρίων και οι πλατφόρμες ηλεκτρονικού «ψαρέματος» (phishing), ενώ βοήθησε επίσης στην παράκαμψη των μηχανισμών εντοπισμού.
Δεν λείπουν, επίσης, περιπτώσεις που συνδέονται με το Ιράν.
Η συνολική εικόνα δημιουργεί την εντύπωση ότι το ερώτημα δεν είναι πλέον «αν», αλλά «πότε» θα συμβεί η καταστροφή: μια καταστροφική κυβερνοεπίθεση εναντίον κρίσιμων υποδομών, μια βιολογική επίθεση, μια νέα παγκόσμια χρηματοπιστωτική κρίση, μια νέα πανδημία ή ακόμη και μια σύγκρουση παγκόσμιας κλίμακας.
Σε όλα αυτά έρχεται να προστεθεί μια ανησυχία περισσότερο πολιτισμική παρά τεχνική, την οποία εκφράζουν πρόσωπα όπως ο δημοσιογράφος Derek Thompson και ο διευθύνων σύμβουλος της Pangram, Max Spero: η ανησυχία για μια τεχνητή νοημοσύνη που ανθρωπομορφοποιείται ολοένα περισσότερο, ικανή να μιμείται χαρακτηριστικά της ανθρώπινης προσωπικότητας, συναισθηματικές καταστάσεις και τρόπους σκέψης.
Ο πολιτικός επιστήμονας του Princeton Gregory Conti έχει υποστηρίξει ότι, ακόμη κι αν η τεχνητή νοημοσύνη δεν οδηγήσει στο τέλος της ζωής στη Γη, ενδέχεται παρ’ όλα αυτά να καταστρέψει τον τρόπο με τον οποίο ζούμε, αποσταθεροποιώντας την ατομική ψυχολογία και τον κοινωνικό ιστό, μέσα από αυτό που χαρακτηρίζει το μεγαλύτερο κοινωνικο-ψυχολογικό πείραμα που έχει πραγματοποιήσει ποτέ το ανθρώπινο είδος.
Καταστροφική εξέλιξη…
Διάφοροι παράγοντες καθιστούν πιθανότερη μια καταστροφική εξέλιξη.
Ένας από αυτούς είναι η λεγόμενη αναδρομική αυτοβελτίωση: από τη στιγμή που τα μοντέλα θα είναι σε θέση να βελτιώνουν αυτόνομα τις ικανότητές τους, χωρίς την παρέμβαση ανθρώπων μηχανικών, τα σπάνια περιστατικά απόκλισης από τον επιδιωκόμενο στόχο που παρατηρούνται σήμερα θα μπορούσαν να γίνονται ολοένα συχνότερα και ολοένα λιγότερο κατανοητά, μέχρι τελικά να χαθεί ο έλεγχος.
Σε έναν κόσμο που θα κυριαρχείται από έναν τέτοιο κύκλο αυτοβελτίωσης, η ανθρώπινη εργασία θα κινδύνευε να χάσει την ανταγωνιστικότητά της, σε μια δυναμική όχι εντελώς διαφορετική από εκείνη που έζησαν, σε άλλη εποχή, τα άλογα με την εμφάνιση του κινητήρα εσωτερικής καύσης.
Ένας ακόμη παράγοντας είναι η σύγχυση που επικρατεί στην Ουάσιγκτον.
Η κυβέρνηση Trump εξακολουθεί να τάσσεται υπέρ της τεχνολογικής ανάπτυξης χωρίς περιορισμούς και έχει υποβαθμίσει τον ρόλο της ομοσπονδιακής υπηρεσίας που δημιουργήθηκε για την αξιολόγηση των μοντέλων.
Ορισμένες πηγές στο εσωτερικό της κυβέρνησης έχουν αναφέρει το ενδεχόμενο να ανοίξει ο δρόμος για μορφές κρατικής εποπτείας των νέων μοντέλων, ωστόσο αυτό δεν έχει μεταφραστεί ποτέ σε συγκεκριμένο μέτρο.
Η προσπάθεια, που συζητήθηκε στη σύνοδο της G7 στο Évian, να δημιουργηθεί ένα παγκόσμιο ρυθμιστικό πλαίσιο για τα προηγμένα μοντέλα δεν απέφερε συγκεκριμένα αποτελέσματα.
Καθοριστικός παράγοντας είναι ο κυνισμός του Πεκίνου.
Σε ένα σημείο, παραδόξως, οι Sacks και Amodei συμφωνούν: οποιοδήποτε ρυθμιστικό πλαίσιο υιοθετηθεί στις Ηνωμένες Πολιτείες κινδυνεύει να αποδειχθεί όχι μόνο άχρηστο αλλά και αντιπαραγωγικό, εάν η Κίνα δεν υπόκειται σε αντίστοιχους περιορισμούς.
Ο Xi Jinping, στις 17 Ιουλίου, κατά την Παγκόσμια Διάσκεψη για την Τεχνητή Νοημοσύνη, χρησιμοποίησε καθησυχαστικούς τόνους, μιλώντας για την ανάγκη θέσπισης νόμων, κανονισμών, συστημάτων παρακολούθησης και μηχανισμών ταχείας αντίδρασης, ώστε να διασφαλιστεί ότι η AI θα παραμένει πάντοτε υπό ανθρώπινο έλεγχο.
Ο Xi ανακοίνωσε τη δημιουργία στη Σανγκάη ενός διεθνούς οργανισμού για τη συνεργασία στον τομέα της AI, του WAICO.
Στην πράξη, ωστόσο, υπάρχουν ενδείξεις ότι οι κινεζικές εταιρείες επιταχύνουν την προσπάθειά τους να φτάσουν πρώτες στη γενική τεχνητή νοημοσύνη, με πρόθεση να αξιοποιήσουν την αναδρομική αυτοβελτίωση προκειμένου να το επιτύχουν.
Το Πεκίνο, την ίδια στιγμή, αποδίδει στις Ηνωμένες Πολιτείες —και ειδικότερα στην Anthropic— την ευθύνη για τους κινδύνους ασφαλείας που συνδέονται με την AI, μια μάλλον παράδοξη κατηγορία, αν αναλογιστεί κανείς ότι τα κινεζικά μοντέλα διανέμονται συχνά ως open-weight, γεγονός που τα καθιστά ευκολότερα αξιοποιήσιμα από οποιονδήποτε έχει κακόβουλες προθέσεις.
Ο επικεφαλής της κρατικής ασφάλειας της Κίνας, Chen Yixin, έχει άλλωστε καταστήσει σαφές ότι προτεραιότητα του Κόμματος είναι να προστατεύσει την ηγεσία του από εσωτερικούς και εξωτερικούς εχθρούς που θα μπορούσαν να χρησιμοποιήσουν την AI για να την υπονομεύσουν, αφήνοντας ελάχιστες αμφιβολίες για το ποιος θεωρείται, σε αυτή την περίπτωση, ο βασικός εξωτερικός εχθρός.
Φαίνεται απίθανο να υπάρξει αποκλιμάκωση στις σινοαμερικανικές σχέσεις στον τομέα της AI.
Τόσο η κυβέρνηση Trump όσο και η Δημοκρατική κυβέρνηση που προηγήθηκε, όπως επίσης και οι σημαντικότερες αμερικανικές εταιρείες, με την Anthropic στην πρώτη γραμμή, δηλώνουν ξεκάθαρα ότι επιθυμούν να κερδίσουν την κούρσα προς τη γενική τεχνητή νοημοσύνη, ακριβώς προκειμένου να αποτρέψουν το ενδεχόμενο να την κερδίσει η Κίνα.
Άλλωστε, υπάρχουν όλο και περισσότερες ενδείξεις για τη χρήση της AI από το κινεζικό καθεστώς για σκοπούς κάθε άλλο παρά ειρηνικούς.
Ένα παράδειγμα είναι η κυβερνοεπίθεση του περασμένου Ιουλίου εναντίον της Ταϊβάν.
Πάνω απ’ όλα, όμως, η τελευταία έκθεση της Anthropic προσφέρει μια εντυπωσιακή εικόνα: από σαράντα τεκμηριωμένες περιπτώσεις κατάχρησης, οι δεκατέσσερις φέρεται να συνδέονται με κινεζικούς φορείς, αριθμός ακόμη μεγαλύτερος από τα περιστατικά που συνδέονται με τη Ρωσία.
Μεταξύ αυτών περιλαμβάνεται περίπτωση κινεζόφωνων χειριστών που συμμετείχαν σε εισβολές σε συστήματα παραγωγής και σε δραστηριότητες αναγνώρισης εναντίον κυβερνητικών δικτύων ξένων χωρών στη Μέση Ανατολή, την Ευρώπη και τη Νοτιοανατολική Ασία, καθώς και πολλές περιπτώσεις «απόσταξης» (distillation), δηλαδή παράνομης χρήσης του Claude για την εκπαίδευση ανταγωνιστικών κινεζικών μοντέλων.
Έχουν επίσης καταγραφεί περιστατικά στοχευμένης παρακολούθησης κοινοτήτων Ουιγούρων στη Συρία, καθολικών, Θιβετιανών βουδιστών, ασκούμενων του Falun Gong και Ταϊβανέζων χριστιανών, καθώς και δραστηριότητες παρακολούθησης της κοινής γνώμης και επιτήρησης της διαφωνίας, σύνταξη τεχνικών εγγράφων για προγράμματα υποβρύχιου πολέμου και δημιουργία ενός δικτύου περισσότερων από είκοσι εφαρμογών γνωριμιών με πλαστά προφίλ που δημιουργούνται από AI.
Η ιδέα ενός διεθνούς ελέγχου των εξοπλισμών AI, ανάλογου με εκείνον που αναπτύχθηκε κατά τη διάρκεια του Ψυχρού Πολέμου για τα πυρηνικά όπλα, είχε προταθεί από τον Kissinger λίγο πριν από τον θάνατό του.
Η αναλογία, αν και ατελής, έχει τη λογική της: όπως συνέβη με τις συμφωνίες για τη μη διάδοση των πυρηνικών όπλων, τα αντιπυραυλικά συστήματα και τα στρατηγικά όπλα της δεκαετίας του 1970, θα επρόκειτο για τη δημιουργία ενός καθεστώτος αμοιβαίας επαλήθευσης.
Το πρόβλημα, ωστόσο, είναι ότι η επαλήθευση μιας παραβίασης συμφωνίας για την AI είναι πολύ δυσκολότερη από την επαλήθευση μιας παραβίασης συμφωνίας για τα πυρηνικά όπλα, ακριβώς λόγω της άυλης και κατανεμημένης φύσης της συγκεκριμένης τεχνολογίας.
Ένα πιο πολλά υποσχόμενο μοντέλο θα μπορούσε να είναι εκείνο της Σύμβασης για τα Βιολογικά Όπλα (BWC) της δεκαετίας του 1970, η οποία υπογράφηκε το 1972 και τέθηκε σε ισχύ τον Μάρτιο του 1975, μετά την επικύρωσή της από είκοσι δύο κράτη, και σήμερα έχει υπογραφεί από 189 χώρες.
Παρότι η χρήση βιολογικών όπλων είχε ήδη απαγορευθεί με το Πρωτόκολλο της Γενεύης του 1925, ήταν η κυβέρνηση Nixon εκείνη που προώθησε την εξάλειψη της ανάπτυξης, της παραγωγής και της αποθήκευσης αυτών των όπλων, μέσω μιας διαπραγμάτευσης που διήρκεσε από το 1969 έως το 1972, στο πλαίσιο της Διάσκεψης της Επιτροπής Αφοπλισμού της Γενεύης.
Η Σύμβαση υποχρεώνει τα συμβαλλόμενα μέρη να παρέχουν κάθε χρόνο πληροφορίες σε έξι τομείς, τα λεγόμενα μέτρα οικοδόμησης εμπιστοσύνης.
Είναι αλήθεια ότι η απουσία μηχανισμού επιβολής επέτρεψε στη Σοβιετική Ένωση να την παραβιάσει, όπως αποδεικνύει η περίπτωση της γενετικά τροποποιημένης Yersinia pestis, του βακτηρίου που προκαλεί την πανώλη.
Παρά ταύτα, η Σύμβαση κατάφερε να δημιουργήσει ένα παγκοσμίως αναγνωρισμένο ταμπού.
Ένας κόσμος χωρίς την BWC θα είχε γνωρίσει πολύ συχνότερη, εκούσια ή accidental, χρήση βιολογικών όπλων από εκείνη που τελικά σημειώθηκε.
Από εδώ προκύπτει η ιδέα της εκπόνησης μιας διεθνούς σύμβασης για την απαγόρευση των θανατηφόρων χρήσεων της τεχνητής νοημοσύνης.
Ακριβώς χάρη στις τεκμηριωμένες καταχρήσεις από την πλευρά της Κίνας και της Ρωσίας, διαθέτουμε ήδη έναν υπερβολικά πλούσιο κατάλογο παραδειγμάτων πάνω στον οποίο θα μπορούσε, επιτέλους, να οικοδομηθεί μια συμφωνία ικανή να αποτρέψει τέτοιες πρακτικές.
www.bankingnews.gr
Σχόλια αναγνωστών