Η Νέα Ορλεάνη γίνεται η πρώτη μεγαλούπολη που βάζει αλγόριθμους να απαντούν σε ανθρώπους που παλεύουν για τη ζωή τους.
Η Νέα Ορλεάνη δοκιμάζει μέχρι ποιο σημείο είναι διατεθειμένοι οι Αμερικανοί να εμπιστευτούν την τεχνητή νοημοσύνη, όταν το διακύβευμα είναι ασύγκριτα υψηλότερο από τη σύνταξη ενός email ή την παραγγελία φαγητού, σύμφωνα με δημοσίευμα της New York Post.
Η πόλη έχει ξεκινήσει να επιτρέπει σε ένα σύστημα τεχνητής νοημοσύνης (AI) να διαχειρίζεται ορισμένες κλήσεις στο 911, καθιστώντας την, όπως φαίνεται, τον πρώτο μεγάλο δήμο των ΗΠΑ που τοποθετεί ένα bot απευθείας ανάμεσα στους πολίτες που καλούν σε βοήθεια και τους ανθρώπινους χειριστές.
Το σκεπτικό πίσω από την απόφαση και ο όγκος των κλήσεων
Η ιδέα αφορά κυρίως τον όγκο των περιστατικών.
Το κέντρο επικοινωνιών έκτακτης ανάγκης της Νέας Ορλεάνης δέχεται περισσότερες από 1.000 κλήσεις σε μια τυπική ημέρα, και οι αξιωματούχοι πιστεύουν ότι ο αυτοματισμός μπορεί να αποσυμφορήσει το σύστημα, επιτρέποντας στους διαβιβαστές να επικεντρωθούν στις πραγματικές εκτάκτους ανάγκες.
Η τεχνολογία δεν προορίζεται να αναλάβει εξ ολοκλήρου τη λειτουργία του 911.
Αντίθετα, μπορεί να διαχειρίζεται καταστάσεις που φαίνονται επαναλαμβανόμενες ή σχετικά ρουτίνας όταν οι ανθρώπινοι χειριστές είναι απασχολημένοι.
Για παράδειγμα, καταιγισμός κλήσεων για το ίδιο τροχαίο ατύχημα που έχει ήδη αναφερθεί θα μπορούσε ενδεχομένως να φιλτραριστεί μέσω του αυτοματοποιημένου συστήματος, αντί να απασχολεί πολλαπλούς διαβιβαστές.
Οι σφοδρές αντιδράσεις, οι θανάσιμοι κίνδυνοι και οι σκεπτικιστές
Η New York Post σημειώνει ότι οι αξιωματούχοι της πόλης επιμένουν πως ο άνθρωπος παραμένει στο επίκεντρο της επιχείρησης. Ωστόσο, οι σκεπτικιστές τονίζουν ότι οι κλήσεις έκτακτης ανάγκης είναι ακριβώς το είδος των χαοτικών και απρόβλεπτων αλληλεπιδράσεων που οι υπολογιστές ενδέχεται να δυσκολευτούν να ερμηνεύσουν.
Οι άνθρωποι που καλούν το 911 δεν διαβάζουν από σενάριο. Μπορεί να είναι τρομοκρατημένοι, να ψιθυρίζουν, να βρίσκονται υπό την επήρεια αλκοόλ, να είναι τραυματισμένοι, μπερδεμένοι ή να μιλούν μέσα σε έντονο θόρυβο υποβάθρου. Σε ορισμένες περιπτώσεις, οι καλούντες αποκρύπτουν εσκεμμένα τι συμβαίνει επειδή κάποιο άλλο άτομο βρίσκεται κοντά τους.
Ένας επικριτής στο διαδίκτυο, ο οποίος αναγνωρίστηκε ως πρώην διαβιβαστής του 911, χαρακτήρισε το πείραμα ως «τη χειρότερη ιδέα που θα μπορούσε να σκειφτεί κανείς», επιχειρηματολογώντας ότι οι έμπειροι χειριστές ακούν συστηματικά στοιχεία και ενδείξεις πέρα από τις λεκτικές εκφράσεις του καλούντος.
Αυτή η ανησυχία αποκτά ακόμη μεγαλύτερη βαρύτητα αν αναλογιστεί κανείς τα συνεχιζόμενα προβλήματα αξιοπιστίας που περιβάλλουν τη διαλογική τεχνητή νοημοσύνη (conversational AI). Τα φωνητικά μοντέλα μπορούν με βεβαιότητα να παραγάγουν λανθασμένες πληροφορίες, ενώ ερευνητές κυβερνοασφάλειας έχουν αποδείξει ότι ειδικά διαμορφωμένα ηχητικά σήματα μπορούν μερικές φορές να χειραγωγήσουν τα συστήματα AI ώστε να συμπεριφερθούν με ανεπιθύμητους τρόπους.
Η εξάπλωση του αυτοματισμού και το αβέβαιο μέλλον
Η Νέα Ορλεάνη δεν είναι η μόνη που εισάγει αλγόριθμους στις υπηρεσίες έκτακτης ανάγκης:
Atlanta: Χρησιμοποιεί τεχνολογία AI για να βοηθήσει τους χειριστές στον εντοπισμό της τοποθεσίας των καλούντων.
Seattle: Έχει χρησιμοποιήσει αυτοματοποιημένα εργαλεία για την ταξινόμηση των ιατρικών κλήσεων βάσει επείγοντος.
Η ειδοποιός διαφορά είναι ότι η Νέα Ορλεάνη φαίνεται να πηγαίνει ένα βήμα παραπέρα, επιτρέποντας στην τεχνητή νοημοσύνη να αλληλεπιδρά στην πράξη με ορισμένους από τους ανθρώπους που καλούν το 911.
Οι αξιωματούχοι πιστεύουν ότι οι ασφαλιστικές δικλείδες, η ανθρώπινη επίβλεψη και τα αυστηρά όρια σχετικά με το πότε ενεργοποιείται το σύστημα μπορούν να καταστήσουν την τεχνολογία χρήσιμη, χωρίς να παραδοθεί η ανταπόκριση έκτακτης ανάγκης σε μια μηχανή.
Πρόκειται για ένα φιλόδοξο, αν και ιδιαίτερα ανησυχητικό πείραμα: Την επόμενη φορά που κάποιος θα καλέσει το 911 στη Νέα Ορλεάνη, η πρώτη φωνή που θα ακούσει ενδέχεται να μην ανήκει καν σε άνθρωπο.
www.bankingnews.gr
Η πόλη έχει ξεκινήσει να επιτρέπει σε ένα σύστημα τεχνητής νοημοσύνης (AI) να διαχειρίζεται ορισμένες κλήσεις στο 911, καθιστώντας την, όπως φαίνεται, τον πρώτο μεγάλο δήμο των ΗΠΑ που τοποθετεί ένα bot απευθείας ανάμεσα στους πολίτες που καλούν σε βοήθεια και τους ανθρώπινους χειριστές.
Το σκεπτικό πίσω από την απόφαση και ο όγκος των κλήσεων
Η ιδέα αφορά κυρίως τον όγκο των περιστατικών.
Το κέντρο επικοινωνιών έκτακτης ανάγκης της Νέας Ορλεάνης δέχεται περισσότερες από 1.000 κλήσεις σε μια τυπική ημέρα, και οι αξιωματούχοι πιστεύουν ότι ο αυτοματισμός μπορεί να αποσυμφορήσει το σύστημα, επιτρέποντας στους διαβιβαστές να επικεντρωθούν στις πραγματικές εκτάκτους ανάγκες.
Η τεχνολογία δεν προορίζεται να αναλάβει εξ ολοκλήρου τη λειτουργία του 911.
Αντίθετα, μπορεί να διαχειρίζεται καταστάσεις που φαίνονται επαναλαμβανόμενες ή σχετικά ρουτίνας όταν οι ανθρώπινοι χειριστές είναι απασχολημένοι.
Για παράδειγμα, καταιγισμός κλήσεων για το ίδιο τροχαίο ατύχημα που έχει ήδη αναφερθεί θα μπορούσε ενδεχομένως να φιλτραριστεί μέσω του αυτοματοποιημένου συστήματος, αντί να απασχολεί πολλαπλούς διαβιβαστές.
Οι σφοδρές αντιδράσεις, οι θανάσιμοι κίνδυνοι και οι σκεπτικιστές
Η New York Post σημειώνει ότι οι αξιωματούχοι της πόλης επιμένουν πως ο άνθρωπος παραμένει στο επίκεντρο της επιχείρησης. Ωστόσο, οι σκεπτικιστές τονίζουν ότι οι κλήσεις έκτακτης ανάγκης είναι ακριβώς το είδος των χαοτικών και απρόβλεπτων αλληλεπιδράσεων που οι υπολογιστές ενδέχεται να δυσκολευτούν να ερμηνεύσουν.
Οι άνθρωποι που καλούν το 911 δεν διαβάζουν από σενάριο. Μπορεί να είναι τρομοκρατημένοι, να ψιθυρίζουν, να βρίσκονται υπό την επήρεια αλκοόλ, να είναι τραυματισμένοι, μπερδεμένοι ή να μιλούν μέσα σε έντονο θόρυβο υποβάθρου. Σε ορισμένες περιπτώσεις, οι καλούντες αποκρύπτουν εσκεμμένα τι συμβαίνει επειδή κάποιο άλλο άτομο βρίσκεται κοντά τους.
Ένας επικριτής στο διαδίκτυο, ο οποίος αναγνωρίστηκε ως πρώην διαβιβαστής του 911, χαρακτήρισε το πείραμα ως «τη χειρότερη ιδέα που θα μπορούσε να σκειφτεί κανείς», επιχειρηματολογώντας ότι οι έμπειροι χειριστές ακούν συστηματικά στοιχεία και ενδείξεις πέρα από τις λεκτικές εκφράσεις του καλούντος.
Αυτή η ανησυχία αποκτά ακόμη μεγαλύτερη βαρύτητα αν αναλογιστεί κανείς τα συνεχιζόμενα προβλήματα αξιοπιστίας που περιβάλλουν τη διαλογική τεχνητή νοημοσύνη (conversational AI). Τα φωνητικά μοντέλα μπορούν με βεβαιότητα να παραγάγουν λανθασμένες πληροφορίες, ενώ ερευνητές κυβερνοασφάλειας έχουν αποδείξει ότι ειδικά διαμορφωμένα ηχητικά σήματα μπορούν μερικές φορές να χειραγωγήσουν τα συστήματα AI ώστε να συμπεριφερθούν με ανεπιθύμητους τρόπους.
Η εξάπλωση του αυτοματισμού και το αβέβαιο μέλλον
Η Νέα Ορλεάνη δεν είναι η μόνη που εισάγει αλγόριθμους στις υπηρεσίες έκτακτης ανάγκης:
Atlanta: Χρησιμοποιεί τεχνολογία AI για να βοηθήσει τους χειριστές στον εντοπισμό της τοποθεσίας των καλούντων.
Seattle: Έχει χρησιμοποιήσει αυτοματοποιημένα εργαλεία για την ταξινόμηση των ιατρικών κλήσεων βάσει επείγοντος.
Η ειδοποιός διαφορά είναι ότι η Νέα Ορλεάνη φαίνεται να πηγαίνει ένα βήμα παραπέρα, επιτρέποντας στην τεχνητή νοημοσύνη να αλληλεπιδρά στην πράξη με ορισμένους από τους ανθρώπους που καλούν το 911.
Οι αξιωματούχοι πιστεύουν ότι οι ασφαλιστικές δικλείδες, η ανθρώπινη επίβλεψη και τα αυστηρά όρια σχετικά με το πότε ενεργοποιείται το σύστημα μπορούν να καταστήσουν την τεχνολογία χρήσιμη, χωρίς να παραδοθεί η ανταπόκριση έκτακτης ανάγκης σε μια μηχανή.
Πρόκειται για ένα φιλόδοξο, αν και ιδιαίτερα ανησυχητικό πείραμα: Την επόμενη φορά που κάποιος θα καλέσει το 911 στη Νέα Ορλεάνη, η πρώτη φωνή που θα ακούσει ενδέχεται να μην ανήκει καν σε άνθρωπο.
www.bankingnews.gr
Σχόλια αναγνωστών