Ο επόμενος πόλεμος θα ξεκινήσει από τις μηχανές - «Κόκκινες γραμμές» ΗΠΑ - Κίνας για την ΑΙ με όρους... πυρηνικής αποτροπής

Αμερικανοί και Κινέζοι ειδικοί προτείνουν κανόνες ασφαλείας για την τεχνητή νοημοσύνη, αντίστοιχους με εκείνους που ισχύουν για τα πυρηνικά – Ανθρώπινος έλεγχος στις στρατιωτικές αποφάσεις και ειδική «κόκκινη γραμμή» για περιστατικά AI
Πώς θα αντιδρούσε η Ουάσινγκτον ή το Πεκίνο, εάν ένα σύστημα τεχνητής νοημοσύνης παρενέβαινε σε ένα δίκτυο πυρηνικής διοίκησης ή εξαπέλυε μια στρατιωτική κυβερνοεπίθεση;
Σε ένα τέτοιο σενάριο, οι δύο κυβερνήσεις ενδέχεται να είχαν μόλις λίγα λεπτά για να αποφασίσουν εάν δέχονται επίθεση από την άλλη πλευρά, σημειώνει το Reuters. 
Αυτόν τον κίνδυνο επισημαίνουν Αμερικανοί και Κινέζοι ειδικοί σε θέματα ασφάλειας, οι οποίοι συμμετέχουν σε διάλογο μεταξύ των δύο χωρών και το έργο τους τροφοδοτεί τις επίσημες συζητήσεις.
Οι ειδικοί καλούν ΗΠΑ και Κίνα να προετοιμαστούν για τέτοια ενδεχόμενα, καθώς αυξάνονται οι ανησυχίες για την ταχύτατη ενίσχυση των δυνατοτήτων και της αυτονομίας των συστημάτων AI.
Οι προτάσεις τους περιλαμβάνουν «κόκκινες γραμμές» γύρω από τα πυρηνικά συστήματα, διατήρηση του ανθρώπινου ελέγχου σε κρίσιμες κυβερνοεπιθέσεις και δημιουργία ειδικής τηλεφωνικής γραμμής για περιστατικά που αφορούν αυτόνομα συστήματα τεχνητής νοημοσύνης.
Οι συστάσεις δημοσιεύθηκαν την περασμένη εβδομάδα, ενόψει των προγραμματισμένων συνομιλιών σε κυβερνητικό επίπεδο για την AI και της αναμενόμενης συνάντησης στις 24 Σεπτεμβρίου στην Washington μεταξύ του Αμερικανού προέδρου Donald Trump και του Κινέζου προέδρου Xi Jinping.

Από τα chips και τα μοντέλα στην πυρηνική αποτροπή

Οι συντάκτες της πρότασης, Melanie Sisson, senior fellow στο Brookings Institution, και Tianjiao Jiang, αναπληρωτής καθηγητής στο Fudan University, συμμετείχαν στον διάλογο ΗΠΑ–Κίνας για την AI και την εθνική ασφάλεια, ο οποίος διεξάγεται από το 2019 με τη συμμετοχή του Brookings και του Center for International Security and Strategy του Πανεπιστημίου Tsinghua. 
Οι προτάσεις τους δείχνουν ότι ο ανταγωνισμός ΗΠΑ–Κίνας στην τεχνητή νοημοσύνη περνά πλέον από τη μάχη για τα chips και τα προηγμένα μοντέλα σε ζητήματα που παραδοσιακά συνδέονται με τον έλεγχο των εξοπλισμών.
Το κρίσιμο ερώτημα είναι πώς θα αποτραπεί το ενδεχόμενο ένα ατύχημα να εκληφθεί ως εχθρική επίθεση, πώς θα περιοριστούν οι στρατιωτικές αποφάσεις που λαμβάνονται από μηχανές και πώς θα διασφαλιστούν τα κανάλια επικοινωνίας μεταξύ δύο πυρηνικών δυνάμεων όταν η τεχνολογία συμπεριφέρεται με απρόβλεπτο τρόπο.
Ο υπουργός Κρατικής Ασφάλειας της Κίνας Chen Yixin έγραψε αυτή την εβδομάδα σε κυβερνητικό μέσο ότι η AI «μετασχηματίζει θεμελιωδώς τη μορφή της στρατιωτικής αντιπαράθεσης». Όπως ανέφερε, η τεχνητή νοημοσύνη έχει περάσει από υποστηρικτικό ρόλο στο πεδίο της μάχης σε κεντρικό ρόλο, επικαλούμενος πλήγματα που κατευθύνονται από AI στον πόλεμο ΗΠΑ–Ισραήλ με το Ιράν.

«Κόκκινες γραμμές» γύρω από τα πυρηνικά

Η Melanie Sisson υποστηρίζει ότι οι άνθρωποι θα πρέπει να διατηρούν την αποκλειστική εξουσία να εγκρίνουν κυβερνοεπιθέσεις με τη χρήση AI εναντίον των συστημάτων πυρηνικής διοίκησης, ελέγχου και επικοινωνιών της άλλης χώρας ή εναντίον στρατηγικής σημασίας υποδομών.
Ένα αυτόνομο σύστημα μπορεί να δυσλειτουργήσει, να υπερβεί τις εντολές που έχει λάβει ή να παραβιαστεί από τρίτους. Την ίδια στιγμή, η χώρα που δέχεται την επίθεση ενδέχεται να μην μπορεί να διακρίνει εάν η ενέργεια ήταν αποτέλεσμα ατυχήματος ή εάν είχε διαταχθεί από την αντίπαλη κυβέρνηση.
Ο Tianjiao Jiang πρότεινε τη θέσπιση σαφών «κόκκινων γραμμών», ώστε να απαγορεύεται στην AI να αποφασίζει αυτόνομα για τη χρήση πυρηνικών όπλων ή να επιτίθεται αυτοβούλως σε συστήματα πυρηνικής διοίκησης.
Παράλληλα, ζητά προστασία για κρίσιμες υποδομές, μεταξύ άλλων στους τομείς της ενέργειας, των χρηματοπιστωτικών υπηρεσιών και της υγείας.
Ο ίδιος τάσσεται υπέρ μιας κοινά αποδεκτής έννοιας για τον «ουσιαστικό ανθρώπινο έλεγχο», ώστε οι δύο χώρες να μην χρησιμοποιούν την ίδια ορολογία για να δικαιολογούν διαφορετικά επίπεδα αυτονομίας των μηχανών.
Η ιδέα αυτή βασίζεται στην αρχή που είχαν υποστηρίξει τον Νοέμβριο του 2024 ο τότε πρόεδρος των ΗΠΑ Joe Biden και ο Xi Jinping, σύμφωνα με την οποία οι άνθρωποι θα πρέπει να διατηρούν τον έλεγχο των αποφάσεων για τη χρήση πυρηνικών όπλων.
Η Lora Saalman, associate senior fellow στο Stockholm International Peace Research Institute, είχε γράψει τον Φεβρουάριο ότι πρόκειται για σημαντικό σημείο σύγκλισης μεταξύ ΗΠΑ και Κίνας, την ώρα που και οι δύο χώρες εμφανίζουν ενδείξεις για βαθύτερη ενσωμάτωση της AI σε πυρηνικά και συναφή συστήματα.

Όταν οι μηχανές κινούνται ταχύτερα από τους ανθρώπους

Ο Jiang προτείνει επίσης τη δημιουργία ειδικής στρατιωτικής τηλεφωνικής γραμμής μεταξύ ΗΠΑ και Κίνας για περιστατικά που αφορούν AI, προειδοποιώντας ότι οι αυτοματοποιημένες κυβερνοαντιδράσεις θα μπορούσαν να κλιμακωθούν ταχύτερα από την ικανότητα των ανθρώπων να παρέμβουν.
Ένα αμυντικό σύστημα AI της μίας χώρας θα μπορούσε να αντιδράσει αυτόματα σε ύποπτη δραστηριότητα. Η άλλη πλευρά, όμως, θα μπορούσε να ερμηνεύσει αυτή την αντίδραση ως επίθεση και να προχωρήσει σε αντίποινα προτού κατανοήσει τι πραγματικά συνέβη.
Μια ειδική γραμμή επικοινωνίας θα μπορούσε να επιτρέψει σε μία κυβέρνηση να ενημερώσει την άλλη ότι μια ασυνήθιστη επιχείρηση AI ήταν αποτέλεσμα ατυχήματος, μη εξουσιοδοτημένη ενέργεια ή ακόμη υπό διερεύνηση, προτού εκληφθεί ως εσκεμμένη κρατική ενέργεια.
Ωστόσο, ειδικοί όπως η Carla Freeman του Johns Hopkins School of Advanced International Studies έχουν αμφισβητήσει τη χρησιμότητα της υφιστάμενης στρατιωτικής γραμμής επικοινωνίας ΗΠΑ–Κίνας σε περίπτωση κρίσης.
Η Freeman επικαλείται την άρνηση Κινέζων αξιωματούχων να απαντήσουν σε κλήσεις των Αμερικανών ομολόγων τους κατά το περιστατικό με το «κατασκοπευτικό αερόστατο» τον Φεβρουάριο του 2023.
Όπως έχει γράψει σε άρθρο της στο War on the Rocks τον Ιανουάριο, η αυστηρά ιεραρχική λειτουργία της κινεζικής γραφειοκρατίας περιορίζει τη δυνατότητα αξιωματούχων χαμηλότερου επιπέδου να αναλαμβάνουν πρωτοβουλίες στις επαφές τους με Αμερικανούς ομολόγους.

ΗΠΑ και Κίνα απέναντι στο νέο ρίσκο

Καμία από τις δύο κυβερνήσεις δεν έχει υιοθετήσει δημοσίως τις προτάσεις του Brookings και του Tsinghua. Ωστόσο, η Κίνα εντάσσει ολοένα και περισσότερο την AI στον υφιστάμενο μηχανισμό ελέγχου των εξοπλισμών.
Η τεχνητή νοημοσύνη αποτελεί πλέον επίσημο χαρτοφυλάκιο του Department of Arms Control του κινεζικού υπουργείου Εξωτερικών, το οποίο είναι επίσης αρμόδιο για τα πυρηνικά όπλα, τη μη διάδοση, τους πυραύλους και άλλα ζητήματα διεθνούς ασφάλειας.
Ο Shen Jian, πρεσβευτής της Κίνας για θέματα αφοπλισμού, δήλωσε σε συνεδρίαση του ΟΗΕ στη Γενεύη τον Ιούνιο ότι η στρατιωτική AI μπορεί να επηρεάσει τη στρατηγική σταθερότητα και να αυξήσει τον κίνδυνο λανθασμένων υπολογισμών και κλιμάκωσης μιας σύγκρουσης. Παράλληλα, υποστήριξε ότι τα όπλα θα πρέπει να παραμένουν υπό ανθρώπινο έλεγχο.
Το Πεκίνο υποστηρίζει επίσης ότι η ασφάλεια της AI δεν θα πρέπει να μετατραπεί σε πρόσχημα για την επιβολή τεχνολογικών περιορισμών.
Στις ΗΠΑ δεν υπάρχει αντίστοιχος ενιαίος μηχανισμός ελέγχου εξοπλισμών για την AI. Η πολιτική εθνικής ασφάλειας είναι κατανεμημένη μεταξύ του National Security Council του Λευκού Οίκου, του State Department, του Πενταγώνου και άλλων υπηρεσιών.
Και οι δύο κυβερνήσεις, πάντως, παραμένουν επιφυλακτικές απέναντι σε μέτρα που θα μπορούσαν να επιβραδύνουν τη δική τους τεχνολογική ανάπτυξη. Ο Trump έχει προειδοποιήσει ότι ευρείς περιορισμοί θα μπορούσαν να δώσουν πλεονέκτημα στην Κίνα, ενώ το Πεκίνο αντιμετωπίζει πολλούς από τους αμερικανικούς τεχνολογικούς περιορισμούς ως προσπάθειες διατήρησης της αμερικανικής υπεροχής.
Έτσι, η κούρσα ΗΠΑ–Κίνας για την τεχνητή νοημοσύνη αποκτά πλέον μια νέα, πολύ πιο επικίνδυνη διάσταση: δεν αφορά μόνο το ποιος θα κατασκευάσει τα ισχυρότερα chips ή τα προηγμένα μοντέλα, αλλά και το πώς θα αποφευχθεί μια στρατιωτική κρίση που θα μπορούσε να ξεκινήσει από μια απόφαση μιας μηχανής.

www.bankingnews.gr