Εκχωρούμε στην ΑΙ την εξουσία

Ο φόβος ότι η τεχνητή νοημοσύνη θα αποκτήσει κάποτε υπερβολική δύναμη μας εμποδίζει να δούμε το προφανές: ότι αναθέτουμε οικειοθελώς στις μηχανές ένα μέρος της δικής μας εξουσίας. Αυτό είναι το κεντρικό μήνυμα της Τζιλ Λεπόρ, καθηγήτριας Αμερικανικής Ιστορίας στο Χάρβαρντ, βραβευμένης με Πούλιτζερ συγγραφέως και επί χρόνια μόνιμης συνεργάτιδος του «The New Yorker». Στο νέο της βιβλίο, «The Rise and Fall of the Artificial State», ανατρέχει στην ιστορία της αυτοματοποίησης για να αποκαλύψει τον τρόπο με τον οποίο οι πολίτες μετατράπηκαν πρώτα σε αριθμούς, έπειτα σε δεδομένα, για να γίνουν στο τέλος αντικείμενα πρόβλεψης.

Το καθεστώς που περιγράφει η Αμερικανίδα καθηγήτρια δεν είναι απλώς ένα σενάριο. Οταν η δημόσια σφαίρα ελέγχεται εξ ολοκλήρου από ιδιωτικές πλατφόρμες, όταν οι πολιτικές αποφάσεις επηρεάζονται ολοένα και περισσότερο από αλγορίθμους και όταν υποχωρούν οι ανθρώπινες αλληλεπιδράσεις, ο δρόμος για το «τεχνητό κράτος» ανοίγει διάπλατα. Μιλώντας στην «Κ», η Λεπόρ εξηγεί γιατί η αντίσταση σε αυτήν την εξέλιξη προϋποθέτει κάτι πιο απαιτητικό από τη ρύθμιση της τεχνολογίας: την προθυμία μας να αναλάβουμε τις δημοκρατικές μας ευθύνες.

– Ανησυχούμε συχνά ότι η τεχνητή νοημοσύνη θα γίνει υπερβολικά ισχυρή. Στο νέο σας βιβλίο, όμως, υποστηρίζετε ότι μπορεί εμείς οι ίδιοι να παραδίδουμε την εξουσία μας στις μηχανές. Μήπως τελικά φοβόμαστε το λάθος πράγμα;

– Πιστεύω ότι έχουμε μεγαλύτερη δύναμη πάνω στα μελλούμενα απ’ όσο νομίζουμε. Πολλοί άνθρωποι αισθάνονται ότι αυτή η εξέλιξη συμβαίνει ερήμην μας, ότι αυτά τα εργαλεία μάς επιβάλλονται. Οτι θα έρθουν, για παράδειγμα, τα ανθρωποειδή ρομπότ και ότι εμείς πρέπει απλώς να το αποδεχθούμε. Η ιστορική αναδρομή, όμως, μας βοηθάει να αντιληφθούμε και τον δικό μας ρόλο: ότι κι εμείς παραδίδουμε τις δημοκρατικές μας ευθύνες στην αυτοματοποίηση.

– Σε ποιο βαθμό είναι οι ΗΠΑ ήδη το «τεχνητό κράτος» που περιγράφετε;

– Πιστεύω ότι ο δημόσιος διάλογος έχει υποστεί μεγάλο πλήγμα από την αυτοματοποίηση και τον έλεγχο που ασκούν οι ιδιωτικές εταιρείες. Αυτό που συνήθως αποκαλούμε «δημόσια σφαίρα» είναι ο χώρος όπου οι πολίτες ενημερώνονται για όσα συμβαίνουν στον κόσμο, συζητούν τι πρέπει να γίνει και ποιον θέλουν να εκλέξουν και επικοινωνούν με τους εκλεγμένους αντιπροσώπους τους. Ο χώρος που έχουμε σήμερα δεν αποτελεί πλέον πραγματικά δημόσια σφαίρα. Ανήκει εξ ολοκλήρου σε ιδιώτες και σε αυτόν συμμετέχουν περισσότερα bots, παρά άνθρωποι. Δρουν επίσης πολλοί κακόβουλοι παράγοντες, ενώ οι άνθρωποι που συμμετέχουν σε αυτές τις πλατφόρμες αντιπροσωπεύουν ένα πολύ μικρό τμήμα του εκλογικού σώματος. Ολα αυτά έχουν στρεβλώσει και πολώσει την πολιτική μας ζωή. Ζούμε σε έναν κόσμο όπου επιτρέπουμε όλο και περισσότερο να μας κυβερνούν μηχανές, οι οποίες ανήκουν σε ιδιωτικές εταιρείες με τα δικά τους συμφέροντα.

– Τι συμβαίνει στη δημοκρατία όταν οι πολίτες αντιμετωπίζονται κυρίως ως δεδομένα;

– Υπάρχουν πολλοί λόγοι για τους οποίους οι κυβερνήσεις συλλέγουν δεδομένα για τους πολίτες: για να διαχειρίζονται τη φορολογία και τις κοινωνικές παροχές. Μεγάλο μέρος της υποδομής αυτού που αποκαλώ «τεχνητό κράτος» είναι απολύτως ουδέτερο ή αθώο. Οι λειτουργίες αυτές, όμως, αυτοματοποιούνται όλο και περισσότερο, καθιστώντας μας ευάλωτους σε χειραγώγηση μαζικής κλίμακας. Νομίζω επίσης ότι υπάρχει μια γενικευμένη αίσθηση πως αποανθρωποποιούμαστε. Μαθαίνεις κάτι σκρολάροντας τις ειδήσεις στο κινητό σου και έπειτα ίσως αναρτάς τις σκέψεις σου γι’ αυτό στα μέσα κοινωνικής δικτύωσης, αντί να πας σε μια εκδήλωση, να τηλεφωνήσεις στον εκλεγμένο αντιπρόσωπό σου ή να συζητήσεις το θέμα με άλλους γονείς στην παιδική χαρά ή με τον γείτονά σου.

Κάθε φορά που το κάνουμε αυτό, μας φαίνεται τόσο βολικό, εύκολο, φθηνό και αποτελεσματικό. Αλλά κάθε φορά υποκαθιστούμε μια ανθρώπινη επαφή με αυτή τη διαδικασία. Το σύνολο αυτών των επαφών είναι εκείνο που κρατάει ενωμένες τις κοινωνίες και τις κοινότητες. Αν συνεχίσουμε να περιορίζουμε τις ανθρώπινες αλληλεπιδράσεις και να τις αντικαθιστούμε με αλληλεπιδράσεις ανθρώπου και μηχανής, δεν θα πρέπει να μας προκαλεί έκπληξη το γεγονός ότι ο κοινωνικός ιστός μοιάζει να ξηλώνεται και ότι οι άνθρωποι αισθάνονται μόνοι, αποξενωμένοι και θυμωμένοι.

– Γιατί κατέχει τόσο σημαντική θέση σε αυτό το βιβλίο η επιστημονική φαντασία;

– Μου αρέσει η επιστημονική φαντασία. Από παιδί κιόλας μου άρεσε. Αναφέρομαι τόσο πολύ σε αυτήν στο βιβλίο, γιατί έχει διαμορφώσει τη φαντασία αυτών των απίστευτα πλούσιων μεγιστάνων της τεχνολογίας. Διάβαζαν κυρίως τέτοια βιβλία. Επαιζαν βιντεοπαιχνίδια, διάβαζαν κόμικς, έβλεπαν ταινίες. Αυτό που αγαπούν στο συγκεκριμένο είδος είναι η δυνατότητα οικοδόμησης ολόκληρων κόσμων. Στην επιστημονική φαντασία όλα βασίζονται στη δημιουργία κόσμων. Τώρα χτίζουν τον κόσμο μας με υλικά από τις φαντασιώσεις της παιδικής τους ηλικίας. Αν δεν θέλουμε να ζήσουμε σ’ αυτόν τον κόσμο, αν δεν θέλουμε να τους αφήσουμε να τον χτίσουν, έχουμε την υποχρέωση να καταλάβουμε από πού προέρχονται οι ιδέες τους.

– Υποστηρίζετε ότι το «τεχνητό κράτος» δεν είναι ανίκητο. Ποια είναι η πολιτική εναλλακτική; Τι πρέπει να κάνουμε διαφορετικά;

– Πρέπει να λάβουμε συνειδητές αποφάσεις για το ποιες πολιτικές και κοινωνικές δραστηριότητες θέλουμε να εξακολουθήσουμε να ασκούμε αυτοπροσώπως, από κοινού, ως άνθρωποι μέσα στις κοινότητές μας. Ακόμη και ο Μπιλ Γκέιτς έγραψε πρόσφατα ένα εκτενές υπόμνημα στο οποίο υποστήριξε ότι πρέπει να δημιουργήσουμε θέσεις εργασίας «αποκλειστικά για ανθρώπους» (Human Reserved).

Ισως τα ρομπότ να είναι σε θέση να κάνουν αυτές τις δουλειές καλύτερα, φθηνότερα και αποδοτικότερα. Για ηθικούς λόγους, όμως, θα πρέπει να τις κάνουν άνθρωποι. Μπορούμε να επεκτείνουμε αυτόν τον τρόπο σκέψης και στην πολιτική. Ο Σαμ Αλτμαν της OpenAI έχει πει ότι θα ήταν υπέροχο να είχαμε έναν πρόεδρο τεχνητής νοημοσύνης, επειδή μια τέτοια μηχανή θα μπορούσε να μετράει διαρκώς την κοινή γνώμη και να ενεργεί αναλόγως, εκπληρώνοντας τις επιθυμίες του λαού. Εγώ θα έλεγα ότι αυτή είναι μια φρικτή ιδέα και πρέπει να είμαστε πρόθυμοι να το πούμε δημοσίως. Επίσης, δεν πιστεύω ότι τα εκλεγμένα μέλη των αντιπροσωπευτικών σωμάτων πρέπει απλώς να καταφεύγουν στο X (πρώην Twitter) για να διαπιστώσουν τι θέλει ο κόσμος. Η δημοκρατία απαιτεί τη δύσκολη δουλειά της προσωπικής συνάντησης με τους ψηφοφόρους. Αν οι άνθρωποι δεν θέλουν να κυβερνώνται από μηχανές, πρέπει να είναι πρόθυμοι να αναλάβουν το έργο της δημοκρατικής διακυβέρνησης.

– Σε είκοσι χρόνια από τώρα, τι θα μας εκπλήξει περισσότερο από όσα θεωρούμε σήμερα φυσιολογικά στη χρήση της τεχνητής νοημοσύνης;

– Εκτιμώ ότι θα μας εκπλήξει η πρώιμη υιοθέτηση της τεχνητής νοημοσύνης στην εκπαίδευση. Την ώρα που τα σχολεία στις ΗΠΑ προσπαθούν εναγωνίως να απαγορεύσουν τα smartphones, την ώρα που οι νομοθέτες επιχειρούν να περιορίσουν την πρόσβαση των παιδιών στα μέσα κοινωνικής δικτύωσης και υπάρχει τόσο μεγάλη αναστάτωση γύρω από την επίδραση των ψηφιακών μέσων, εμφανίζεται η τεχνητή νοημοσύνη και όλα τα σχολεία λένε: «Υπέροχα! Μπορούμε να τη δώσουμε σε όλους τους μαθητές μας;».

Δεν πήραν κανένα μάθημα από την προηγούμενη εμπειρία; Την ίδια στιγμή που προσπαθούν να απαλλαγούν από το ένα πρόβλημα, υποδέχονται ένα άλλο. Νομίζω ότι, κοιτάζοντας πίσω, θα εκπλαγούμε με αυτό. Ηδη μία πολιτεία των ΗΠΑ ψήφισε νόμο που απαγορεύει στους εκπαιδευτικούς να χρησιμοποιούν την τεχνητή νοημοσύνη από το νηπιαγωγείο έως τις πρώτες τάξεις του γυμνασίου. Ισως η χρήση της να πρέπει να επιτρέπεται μόνο στο λύκειο. Βλέπουμε, λοιπόν, ήδη κάποιες αντιδράσεις. Από τα τέλη του 2022, όμως, κυριάρχησε η λογική «ας χρησιμοποιήσουμε την τεχνητή νοημοσύνη για τη διδασκαλία». Εχουν εμφανιστεί ακόμη και ολόκληρα σχολεία όπου τη διδασκαλία αναλαμβάνει εξ ολοκλήρου η τεχνητή νοημοσύνη.

– Τι επιδιώκετε μέσα από το έργο σας;

– Προσπαθώ να επαναφέρω την αίσθηση του παρελθόντος σε μια εποχή κατά την οποία όλοι έχουν στραμμένο το βλέμμα τους στο μέλλον. Υπάρχει μια μακρά ιστορία πίσω από όσα μας έφεραν εδώ και μπορούμε να αντλήσουμε πολλά διδάγματα από αυτήν. Πιστεύω επίσης ότι, όταν άνθρωποι όπως ο Eλον Μασκ, ο Μαρκ Ζoύκερμπεργκ ή ο Σαμ Αλτμαν μιλούν για το όραμά τους για το μέλλον –όχι μόνο τεχνολογικά, αλλά και οικονομικά, κοινωνικά και πολιτικά– αξίζει πραγματικά να εξετάζουμε από πού προέρχεται αυτό το όραμα. Διότι σχετίζεται πολύ λιγότερο με το μέλλον απ’ ό,τι με το παρελθόν. Εχει να κάνει με κακές πολιτικές ιδέες που έχουν αποτύχει. Εχει να κάνει με την παιδαριώδη επιστημονική φαντασία που λατρεύουν. Θέλω να βοηθήσω τον κόσμο να το δει αυτό και να συνειδητοποιήσει ότι δεν εκλέξαμε αυτούς τους ανθρώπους και ότι ίσως μπορούμε να τα καταφέρουμε χωρίς αυτούς.

– Και τέλος, ποιο είναι το σημαντικότερο δίδαγμα που πρέπει να αντλήσουμε από το παρελθόν;

– Πιστεύω ότι πρέπει να διδαχθούμε πως, κατά το μεγαλύτερο μέρος της ανθρώπινης ιστορίας, τους ανθρώπους κυβερνούσαν οι τύραννοι. Η τυραννία παίρνει πολλές μορφές. Η δημοκρατία, παρά τα προβλήματά της, είναι το μοναδικό πολίτευμα υπό το οποίο οι άνθρωποι αυτοκυβερνήθηκαν. Είναι πολύτιμη. Γι’ αυτό πρέπει να εξετάζουμε με μεγαλύτερη προσοχή ποιες δυνάμεις την υπονομεύουν.