Ο διάσημος ειδικός στην ασφάλεια της τεχνητής νοημοσύνης, Roman Yampolsky, προειδοποιεί ότι η πιθανότητα η Τεχνητή Νοημοσύνη να καταστρέψει την ανθρωπότητα μέσα στον επόμενο αιώνα φτάνει το 99,9%
Σε έναν κόσμο όλο και πιο εξαρτημένο από τους αλγόριθμους, έχει ακουστεί η πιο τρομακτική προειδοποίηση μέχρι σήμερα.
Ο Roman Yampolsky, διακεκριμένος ειδικός στην ασφάλεια της Τεχνητής Νοημοσύνης από το Πανεπιστήμιο του Louisville, δήλωσε σε πρόσφατη συνέντευξη ότι η πιθανότητα η υπερ-νοήμονα Τεχνητή Νοημοσύνη να καταστρέψει την ανθρωπότητα μέσα στον επόμενο αιώνα φτάνει το 99,9%!
Αυτή η σοκαριστική πρόβλεψη, η οποία εκφωνήθηκε στο podcast του Lex Friedman, επανέφερε τη σφοδρή συζήτηση για το μέλλον που δημιουργούμε.
Ο Yampolsky, του οποίου η έρευνα επικεντρώνεται στην κυβερνοασφάλεια και στην ανεξέλεγκτη εξέλιξη της Τεχνητής Νοημοσύνης, δεν αφήνει περιθώριο αισιοδοξίας:
«Κανένα από τα συστήματα που έχουμε δημιουργήσει δεν ήταν άψογο», ανέφερε ο ειδικός.
«Δεν έχουμε κανέναν λόγο να πιστεύουμε ότι μπορούμε να δημιουργήσουμε Τεχνητή Νοημοσύνη που να είναι ταυτόχρονα ισχυρή και απολύτως ασφαλής, και που θα παραμείνει υπό τον έλεγχο μας».
Ο απαισιόδοξος αυτός τόνος υποστηρίζεται και από τα επιχειρήματά του στο βιβλίο του, όπου περιγράφει βασικά προβλήματα όπως το «μαύρο κουτί» για τη φύση των αλγορίθμων και την αδυναμία διασφάλισης μακροπρόθεσμου ελέγχου.
Η εναλλακτική οπτική
Ωστόσο, το αποκαλυπτικό σενάριο του Yampolsky δεν γίνεται ευρέως αποδεκτό από την επιστημονική κοινότητα.
Μια σημαντική μελέτη των Πανεπιστημίων της Οξφόρδης και του Βόννης, με συμμετοχή πάνω από 2.700 ειδικών, δίνει διαφορετική εικόνα.
Οι ερευνητές εκτιμούν ότι η μέση πιθανότητα καταστροφικού αποτελέσματος από την Τεχνητή Νοημοσύνη είναι μόλις 5%.
«Μεταξύ των ειδικών στην ΤΝ, η συνείδηση του κινδύνου είναι κοινή», σχολιάζει η συν-συγγραφέας Katya Grace. «Αλλά η διαφωνία αφορά την κλίμακα: μιλούν για 1% ή 20% κίνδυνο, όχι για 99,9%».
Το σκεπτικιστικό στρατόπεδο ηγούνται διακεκριμένες προσωπικότητες όπως ο συνιδρυτής της Google Andrew Brain και ένας από τους «νονούς» της βαθιάς μάθησης, Yann LeCun.
Ο LeCun κατηγορεί ακόμα και ορισμένους συναδέλφους του, συμπεριλαμβανομένου του CEO της OpenAI, Sam Altman, ότι προκαλούν υστερία καταστροφής για ιδιοτελείς σκοπούς, όπως η ενίσχυση των ρυθμίσεων της αγοράς υπέρ των μεγάλων παικτών.
Ενδιαφέρον παρουσιάζει ότι ο ίδιος ο Altman έχει επανειλημμένα εκφράσει ανησυχίες. Το 2015 παραδέχθηκε ότι «η Τεχνητή Νοημοσύνη πιθανώς θα οδηγήσει στο τέλος του κόσμου», αν και με τη συνοδεία αστείου σχολίου για «μεγάλες εταιρείες» που θα εμφανιστούν στη διαδικασία.
Φέτος, κάλεσε σε επανεξέταση του «κοινωνικού συμβολαίου» στην εποχή της αυτοματοποίησης, προβλέποντας την εξαφάνιση ολόκληρων επαγγελμάτων. Αυτά τα λόγια, αν και μακριά από τον φονταμενταλιστικό τόνο του Yampolsky, σκιαγραφούν ένα μέλλον βαθιάς κοινωνικής αναστάτωσης.
Έτσι, η επιστημονική κοινότητα δεν χωρίζεται σε όσους βλέπουν κινδύνους και όσους τους αρνούνται, αλλά μεταξύ εκείνων που θεωρούν την καταστροφή σχεδόν αναπόφευκτη και εκείνων που την θεωρούν απλώς ένα από πολλά πιθανά – και προληπτικά – σενάρια.
Ενώ κάποιοι, όπως ο Yampolsky, ζητούν ακραία προσοχή, άλλοι υπενθυμίζουν ότι η κύρια απειλή της Τεχνητής Νοημοσύνης ίσως να είναι πιο καθημερινά προβλήματα: πλήρης παρακολούθηση, αποσταθεροποίηση της αγοράς εργασίας και η κολοσσιαία κατανάλωση ενέργειας που ήδη αποτελεί πραγματικότητα.
www.bankingnews.gr
Ο Roman Yampolsky, διακεκριμένος ειδικός στην ασφάλεια της Τεχνητής Νοημοσύνης από το Πανεπιστήμιο του Louisville, δήλωσε σε πρόσφατη συνέντευξη ότι η πιθανότητα η υπερ-νοήμονα Τεχνητή Νοημοσύνη να καταστρέψει την ανθρωπότητα μέσα στον επόμενο αιώνα φτάνει το 99,9%!
Αυτή η σοκαριστική πρόβλεψη, η οποία εκφωνήθηκε στο podcast του Lex Friedman, επανέφερε τη σφοδρή συζήτηση για το μέλλον που δημιουργούμε.
Ο Yampolsky, του οποίου η έρευνα επικεντρώνεται στην κυβερνοασφάλεια και στην ανεξέλεγκτη εξέλιξη της Τεχνητής Νοημοσύνης, δεν αφήνει περιθώριο αισιοδοξίας:
«Κανένα από τα συστήματα που έχουμε δημιουργήσει δεν ήταν άψογο», ανέφερε ο ειδικός.
«Δεν έχουμε κανέναν λόγο να πιστεύουμε ότι μπορούμε να δημιουργήσουμε Τεχνητή Νοημοσύνη που να είναι ταυτόχρονα ισχυρή και απολύτως ασφαλής, και που θα παραμείνει υπό τον έλεγχο μας».
Ο απαισιόδοξος αυτός τόνος υποστηρίζεται και από τα επιχειρήματά του στο βιβλίο του, όπου περιγράφει βασικά προβλήματα όπως το «μαύρο κουτί» για τη φύση των αλγορίθμων και την αδυναμία διασφάλισης μακροπρόθεσμου ελέγχου.
Η εναλλακτική οπτική
Ωστόσο, το αποκαλυπτικό σενάριο του Yampolsky δεν γίνεται ευρέως αποδεκτό από την επιστημονική κοινότητα.
Μια σημαντική μελέτη των Πανεπιστημίων της Οξφόρδης και του Βόννης, με συμμετοχή πάνω από 2.700 ειδικών, δίνει διαφορετική εικόνα.
Οι ερευνητές εκτιμούν ότι η μέση πιθανότητα καταστροφικού αποτελέσματος από την Τεχνητή Νοημοσύνη είναι μόλις 5%.
«Μεταξύ των ειδικών στην ΤΝ, η συνείδηση του κινδύνου είναι κοινή», σχολιάζει η συν-συγγραφέας Katya Grace. «Αλλά η διαφωνία αφορά την κλίμακα: μιλούν για 1% ή 20% κίνδυνο, όχι για 99,9%».
Το σκεπτικιστικό στρατόπεδο ηγούνται διακεκριμένες προσωπικότητες όπως ο συνιδρυτής της Google Andrew Brain και ένας από τους «νονούς» της βαθιάς μάθησης, Yann LeCun.
Ο LeCun κατηγορεί ακόμα και ορισμένους συναδέλφους του, συμπεριλαμβανομένου του CEO της OpenAI, Sam Altman, ότι προκαλούν υστερία καταστροφής για ιδιοτελείς σκοπούς, όπως η ενίσχυση των ρυθμίσεων της αγοράς υπέρ των μεγάλων παικτών.
Ενδιαφέρον παρουσιάζει ότι ο ίδιος ο Altman έχει επανειλημμένα εκφράσει ανησυχίες. Το 2015 παραδέχθηκε ότι «η Τεχνητή Νοημοσύνη πιθανώς θα οδηγήσει στο τέλος του κόσμου», αν και με τη συνοδεία αστείου σχολίου για «μεγάλες εταιρείες» που θα εμφανιστούν στη διαδικασία.
Φέτος, κάλεσε σε επανεξέταση του «κοινωνικού συμβολαίου» στην εποχή της αυτοματοποίησης, προβλέποντας την εξαφάνιση ολόκληρων επαγγελμάτων. Αυτά τα λόγια, αν και μακριά από τον φονταμενταλιστικό τόνο του Yampolsky, σκιαγραφούν ένα μέλλον βαθιάς κοινωνικής αναστάτωσης.
Έτσι, η επιστημονική κοινότητα δεν χωρίζεται σε όσους βλέπουν κινδύνους και όσους τους αρνούνται, αλλά μεταξύ εκείνων που θεωρούν την καταστροφή σχεδόν αναπόφευκτη και εκείνων που την θεωρούν απλώς ένα από πολλά πιθανά – και προληπτικά – σενάρια.
Ενώ κάποιοι, όπως ο Yampolsky, ζητούν ακραία προσοχή, άλλοι υπενθυμίζουν ότι η κύρια απειλή της Τεχνητής Νοημοσύνης ίσως να είναι πιο καθημερινά προβλήματα: πλήρης παρακολούθηση, αποσταθεροποίηση της αγοράς εργασίας και η κολοσσιαία κατανάλωση ενέργειας που ήδη αποτελεί πραγματικότητα.
www.bankingnews.gr
Σχόλια αναγνωστών