Πιθανώς να ακουστούν κάποια «γαλλικά», μια ανοιχτή παλάμη μπορεί να ανέβει μέχρι το παράθυρο, και μετά η ζωή απλώς συνεχίζεται, εφόσον βεβαίως δεν προέκυψε κάποιο ατύχημα και βιαζόμαστε να πάμε στις δουλειές μας.
Τα robotaxi της Tesla, σύμφωνα με στοιχεία που η ίδια η εταιρεία κατέθεσε στην NHTSA, εμπλέκονται σε δυστυχήματα περίπου 4 φορές συχνότερα από τον μέσο άνθρωπο οδηγό, παρότι έχουν πάντα επόπτη μέσα στο όχημα έτοιμο να επέμβει.
Δοκιμάστε τώρα να αλλάξετε έναν μόνο παράγοντα στη σκηνή. Αντί για βιαστικό ή αμελή ή κουρασμένο οδηγό, βάλτε στη θέση του έναν αλγόριθμο, ένα αυτόνομο όχημα που σταματά αδικαιολόγητα στη μέση ενός δρόμου και μπλοκάρει την κίνηση για λίγα λεπτά. Η αντίδρασή μας αλλάζει ριζικά. Δεν την γλυτώνει κανείς με μια βωμολοχία ή απρεπή χειρονομία. Αντιθέτως, ζητάμε εξηγήσεις και υπεύθυνο, αναρωτιόμαστε αν θα έπρεπε καν να κυκλοφορεί ένα τέτοιο «πράγμα» στους δρόμους δίπλα σε ανθρώπους.
Δύο λάθη συγκρίσιμης βαρύτητας, με δύο εντελώς διαφορετικές συλλογικές αντιδράσεις. Το ερώτημα που αξίζει να μας απασχολήσει δεν είναι γιατί κάνουν λάθη οι μηχανές. Είναι γιατί το ένα λάθος το ξεπλένουμε, ακόμα κι αν αυτό γίνεται με λάθος εκφράσεις και τρόπους, ενώ το άλλο δεν το συγχωρούμε ποτέ, όσο μικρό κι αν είναι.
Στην Αμερική τα στοιχεία υπάρχουν ήδη
Στις ΗΠΑ το ζήτημα δεν είναι υποθετικό, εκεί κυκλοφορούν ήδη χιλιάδες αυτόνομα οχήματα και υπάρχουν αριθμοί να συγκρίνει κανείς, όχι μόνο εικασίες.
Το σημείο εκκίνησης είναι συνήθως ένα νούμερο. Το 94% των δυστυχημάτων αποδίδεται σε ανθρώπινο λάθος, σύμφωνα με έρευνα της αμερικανικής υπηρεσίας οδικής ασφάλειας NHTSA που δημοσιεύτηκε το 2015 πάνω σε στοιχεία της διετίας 2005 έως 2007. Έντεκα χρόνια μετά είναι ακόμα ο αριθμός που κυκλοφορεί παντού ως επιχείρημα υπέρ της αυτοματοποίησης, παρότι κανείς δεν τον έχει ξαναμετρήσει έκτοτε. Πάνω σε αυτό το παράδοξο δούλεψε ο ερευνητής Berkeley Dietvorst, ο οποίος το ίδιο έτος ονόμασε αποστροφή προς τον αλγόριθμο την τάση μας να εμπιστευόμαστε λιγότερο έναν αλγόριθμο απ’ όσο έναν άνθρωπο, ακόμη κι όταν κάνει σαφώς λιγότερα λάθη.
Κάποιοι αλγόριθμοι οδηγούν καλύτερα από τον άνθρωπο, κάποιοι ίσως χειρότερα. Το ζήτημα δεν είναι αν η μηχανή είναι εγγενώς καλύτερος οδηγός. Είναι ποια μηχανή μπορεί να τα καταφέρει καλύτερα και με περισσότερη ασφάλεια, φτιαγμένη από ποιον, και με πόση επιμέλεια.
Εκεί όμως, σε αντίθεση με την Ελλάδα, υπάρχουν και πραγματικά δεδομένα απόδοσης, όχι μόνο επιχειρήματα. Το Ινστιτούτο Ασφάλισης για την Οδική Ασφάλεια των ΗΠΑ ανέλυσε πενήντα εκατομμύρια μίλια αυτόνομης οδήγησης της Waymo, θυγατρικής της Google, και το εύρημα ήταν ξεκάθαρο. Τα αυτόνομα οχήματα της Waymo είχαν 68% λιγότερα σοβαρά δυστυχήματα απ’ όσα θα είχαν άνθρωποι πίσω από το τιμόνι στις ίδιες ακριβώς πόλεις. Ως «σοβαρά» ορίζονται εδώ τα δυστυχήματα που κανονικά καταλήγουν σε αναφορά στην αστυνομία.
Δεν οδηγούν όμως όλοι οι αλγόριθμοι το ίδιο καλά. Τα robotaxi της Tesla, σύμφωνα με στοιχεία που η ίδια η εταιρεία κατέθεσε στην NHTSA, εμπλέκονται σε δυστυχήματα περίπου 4 φορές συχνότερα από τον μέσο άνθρωπο οδηγό, παρότι έχουν πάντα επόπτη μέσα στο όχημα έτοιμο να επέμβει. Το δείγμα βέβαια είναι ακόμα μικρό, μόλις μερικές εκατοντάδες χιλιάδες μίλια συνολικά, πολύ λιγότερο από τα πενήντα εκατομμύρια της Waymo.
Αυτό που κρατάμε είναι ότι το ερώτημα μπορεί να απαντηθεί με νούμερα. Κάποιοι αλγόριθμοι οδηγούν καλύτερα από τον άνθρωπο, κάποιοι ίσως χειρότερα. Το ζήτημα δεν είναι αν η μηχανή είναι εγγενώς καλύτερος οδηγός. Είναι ποια μηχανή μπορεί να τα καταφέρει καλύτερα και με περισσότερη ασφάλεια, φτιαγμένη από ποιον, και με πόση επιμέλεια.
Ο φόβος πριν από την εμπειρία
Στην Ελλάδα δεν κυκλοφορεί, στην πράξη, κανένα αυτόνομο όχημα ακόμα. Υπάρχουν μόνο περιορισμένα πιλοτικά προγράμματα πανεπιστημίων και ερευνητικών φορέων, με ανθρώπινη εποπτεία σε κάθε δοκιμή. Δεν έχουμε δει ποτέ ένα robotaxi να μπλοκάρει έναν δρόμο στην Αθήνα, και ευτυχώς δεν έχουμε ζήσει ποτέ δυστύχημα εξαιτίας αλγορίθμου. Κι όμως, ήδη δεν τον εμπιστευόμαστε.
Η γενικότερη σχέση μας με την τεχνολογία δείχνει ακριβώς αυτό το χάσμα. Σύμφωνα με έρευνα του IDGC, το 67% των Ελλήνων χρησιμοποιεί εργαλεία τεχνητής νοημοσύνης τουλάχιστον μία φορά την εβδομάδα, αλλά μόλις το 7,2% τη θεωρεί αξιόπιστη πηγή. Χρησιμοποιούμε τον αλγόριθμο καθημερινά και δεν τον εμπιστευόμαστε σχεδόν καθόλου. Δεν υπάρχει λόγος να ελπίζουμε πως στο τιμόνι τα πράγματα θα είναι διαφορετικά. Μάλλον το αντίθετο, αφού εκεί διακυβεύεται κάτι πολύ πιο σοβαρό από μια λάθος απάντηση σε ένα chatbot.
Τα τελευταία πενήντα χρόνια, σύμφωνα με δημοσιευμένα στοιχεία, περίπου 130.000 άνθρωποι έχουν χάσει τη ζωή τους σε τροχαία στην Ελλάδα, και 350.000 έχουν μείνει ανάπηροι. Είναι αριθμός μεγαλύτερος από τον πληθυσμό ολόκληρων πόλεων.
Τον μεθυσμένο οδηγό που μας κόβει στη λεωφόρο τον έχουμε συναντήσει χιλιάδες φορές, και πολύ πιθανόν να τον έχουμε μουτζώσει ακόμη περισσότερες. Τον ξέρουμε, τον αναγνωρίζουμε, τον προβλέπουμε, και πρακτικά τον συγχωρούμε κάθε φορά, απλώς επειδή το κακό δεν μας χτύπησε ακόμα την πόρτα. Τον αλγόριθμο δεν τον έχουμε συναντήσει ποτέ. Και όμως έχουμε ήδη αποφασίσει, πριν καν εμφανιστεί στον δρόμο μας, πως δεν του αξίζει καμία επιείκεια.
Το πιο θλιβερό απ’ όλα είναι ότι κλείνουμε τα μάτια μπροστά σε ένα πρόβλημα που μόνο υποθετικό δεν είναι. Βρίσκεται μπροστά μας εδώ και δεκαετίες. Τα τελευταία πενήντα χρόνια, σύμφωνα με δημοσιευμένα στοιχεία, περίπου 130.000 άνθρωποι έχουν χάσει τη ζωή τους σε τροχαία στην Ελλάδα, και 350.000 έχουν μείνει ανάπηροι. Είναι αριθμός μεγαλύτερος από τον πληθυσμό ολόκληρων πόλεων.
Μπροστά σε αυτό το μέγεθος, η ερώτηση αλλάζει. Δεν είναι πια αν εμπιστευόμαστε τον αλγόριθμο περισσότερο ή λιγότερο από τον άνθρωπο. Είναι αν έχουμε το δικαίωμα να αρνούμαστε μια τεχνολογία που θα μπορούσε ενδεχομένως να σώσει ζωές, μόνο και μόνο επειδή δεν μας εμπνέει εμπιστοσύνη. Αν ο άνθρωπος πίσω από το τιμόνι έχει στοιχίσει 130.000 ζωές σε μισό αιώνα, τι ακριβώς προστατεύουμε όταν αρνούμαστε πεισματικά να τον αντικαταστήσουμε, έστω εν μέρει, με κάτι που υπόσχεται να κάνει πολύ λιγότερα λάθη;
Τι ακριβώς προστατεύουμε και ποιον ακριβώς συγχωρούμε;
Το βαθύτερο ερώτημα πίσω από όλα αυτά δεν είναι στατιστικό. Είναι φιλοσοφικό, ίσως και ηθικό. Και δεν λύνεται με αριθμούς, στατιστικές και έρευνες, όσο κι αν μέχρι εδώ προσπαθήσαμε να το προσεγγίσουμε μέσα από αυτά.
Τι ακριβώς συγχωρούμε όταν συγχωρούμε έναν άνθρωπο πίσω από το τιμόνι στην πραγματικότητα; Όχι τόσο το ίδιο το λάθος, όσο την κατάσταση που το προκάλεσε. Την κούραση, τη βιασύνη, την απόσπαση της προσοχής. Καταστάσεις που αναγνωρίζουμε επειδή τις έχουμε ζήσει κι εμείς ή επειδή ξέρουμε ότι κάποια στιγμή μπορεί να τις ξαναζήσουμε.
Κάτω από αυτή την επιείκεια κρύβεται ίσως ένας υπολογισμός που δύσκολα παραδεχόμαστε. Συγχωρούμε τον άλλον επειδή μπορούμε να φανταστούμε τον εαυτό μας στη θέση του. Κάποια μέρα μπορεί να είμαστε εμείς εκείνοι που θα φρενάρουν αργά, που θα κόψουν απότομα, που θα κοιτάξουν το κινητό ένα δευτερόλεπτο παραπάνω. Εκείνοι που, χωρίς να το θέλουν, θα περάσουν από τη θέση του πιθανού θύματος στη θέση του θύτη.
Υπό αυτή την έννοια, η συγχώρεση λειτουργεί σαν ένα είδος ασφαλίστρου. Δείχνουμε επιείκεια στην ανθρώπινη αδυναμία του άλλου επειδή γνωρίζουμε ότι κάποια στιγμή μπορεί να χρειαστούμε την ίδια επιείκεια για τη δική μας.
Ο αλγόριθμος δεν μας προσφέρει τίποτα αντίστοιχο στο οποίο να μπορούμε να αναγνωρίσουμε τον εαυτό μας. Δεν κουράζεται, δεν βιάζεται, δεν πίνει, δεν έχει καλή ή κακή μέρα. Και, κυρίως, δεν πρόκειται ποτέ να βρεθούμε στη θέση του. Κανείς δεν φοβάται ότι ένα πρωί θα ξυπνήσει και θα ανακαλύψει πως έγινε αλγόριθμος.
Όταν λοιπόν ο αλγόριθμος κάνει λάθος, δεν μπορούμε να το εντάξουμε σε κάποια γνώριμη αφήγηση ανθρώπινης αδυναμίας. Δεν υπάρχει κάτι δικό μας μέσα στο λάθος του, ούτε έχουμε λόγο να επενδύσουμε επιείκεια σε αυτό σήμερα ελπίζοντας ότι θα μας επιστραφεί αύριο.
Ίσως αυτό να μην είναι απαραίτητα κακό. Υπάρχει κάτι υγιές στην επιθυμία μας να παραμείνει ο δρόμος χώρος ανθρώπινης ευθύνης. Όμως πίσω από αυτή την επιλογή στέκονται 130.000 άνθρωποι που δεν γύρισαν ποτέ σπίτι. Και για εκείνους δεν έχει καμία σημασία αν αυτός που κρατούσε το τιμόνι ήταν άνθρωπος ή αλγόριθμος.
Ίσως αυτό που οι αλγόριθμοι πρέπει ακόμη να αποδείξουν δεν είναι μόνο ότι μπορούν να οδηγήσουν με μεγαλύτερη ασφάλεια, αλλά ότι μπορούν να αποκτήσουν θέση μέσα στην ιστορία που αφηγούμαστε συλλογικά για τον εαυτό μας. Μια ιστορία στην οποία ο άνθρωπος πίσω από το τιμόνι εξακολουθεί να απολαμβάνει μια ιδιότυπη επιείκεια ακόμα και σε νομικό πλαίσιο, όχι επειδή αξίζει πάντα τη συγχώρεση, αλλά επειδή μπορούμε να αναγνωρίσουμε τον εαυτό μας μέσα στο λάθος του.
Και ίσως αυτό να είναι το δυσκολότερο σημείο ολόκληρης της συζήτησης. Όταν υπερασπιζόμαστε το δικαίωμα του ανθρώπου να παραμένει πίσω από το τιμόνι, μπορεί να μην προστατεύουμε μόνο την ελευθερία του να οδηγεί. Μπορεί να προστατεύουμε και το δικαίωμά μας να κάνουμε λάθος. Μόνο που δεν έχουν όλα τα λάθη το ίδιο κόστος. Από κάποια μαθαίνουμε και γινόμαστε καλύτεροι. Υπάρχουν όμως και λάθη που δεν αφήνουν περιθώριο για δεύτερη ευκαιρία, γιατί το κόστος τους μετριέται σε ανθρώπινες ζωές.
Δεν υπάρχουν σχόλια :
Δημοσίευση σχολίου