Χορεύοντας με τα bots
Παύλος Τσίμας, Τα Νέα, Δημοσιευμένο: 2023-02-18
Συνέβη κάποτε στην Αρκαδία. Ένα Σάββατο βράδυ, παραμονή εκλογών, τα χωριά γέμισαν με αγγελτήρια θανάτου ενός υποψήφιου βουλευτή. Τα είχε τυπώσει και διανείμει ένας εσωκομματικός αντίπαλος, ώστε οι ψηφοφόροι να πάνε την επομένη στο εκλογικό τμήμα σίγουροι πως ο εκλιπών δεν έχει πια, εκεί που βρίσκεται, ανάγκη τον σταυρό προτίμησής τους. Εννοείται, πως ο μακαρίτης έχαιρε άκρας υγείας- τουλάχιστον μέχρι να καταμετρηθούν οι σταυροί.
Αυτή είναι μια απλή και κάπως πρωτόγονη ιστορία χρήσης των fake news, στην υπηρεσία ενός πολιτικού στόχου.Και δεν είναι από τις αρχαιότερες. Είχε προηγηθεί, για παράδειγμα, ο Οκταβιανός που, στα ρωμαϊκά χρόνια, διέδωσε πως είχε στα χέρια του μια σκανδαλώδη διαθήκη που ο αντίπαλός του ο Αντώνιος είχε συντάξει και άφηνε μεγάλες ρωμαϊκές κτήσεις ως κληρονομιά στα παιδιά της Κλεοπάτρας της Αιγύπτου. Διαθήκη δεν υπήρχε, αλλά η σύγκλητος πείστηκε από τα fake news- falsus nuntium ίσως να τα ονόμαζαν στα λατινικά- και στράφηκε εναντίον του Αντώνιου.
Ουδέν καινόν υπό τον ήλιον. Μόνο που τώρα πια, στην εποχή των social media, των τεχνολογιών «επιτήρησης» και της τεχνητής νοημοσύνης, η αρχαία πρακτική έχει εξελιχθεί σε κάτι δραματικά- ποιοτικά και ποσοτικά- διαφορετικό.
Το 2016 ήταν η χρονιά σταθμός. Το δημοψήφισμα που οδήγησε στο Brexit έδωσε ένα πρώτο δείγμα της δυνατότητας για πρωτοφανείς καμπάνιες μαζικής παραπλάνησης που τα μέσα κοινωνικής δικτύωσης επιτρέπουν. Η φαντασίωση, για παράδειγμα, ότι 350 εκατομμύρια λίρες την εβδομάδα θα εξοικονομούνταν από τις εισφορές στον ευρωπαϊκό προϋπολογισμό και θα χρηματοδοτούσαν το εθνικό σύστημα υγείας είχε μετατραπεί σε βεβαιότητα. Κι έπειτα, στις αμερικανικές εκλογές του ίδιου χρόνου, η έκρηξη των fake news πήρε διαστάσεις πανδημίας. Μια καταιγίδα από αναρτήσεις, για παράδειγμα, αναπαρήγαγαν ένα ανύπαρκτο δημοσίευμα μιας ανύπαρκτης εφημερίδας, της Denver Guardian, που στην πραγματικότητα είχε κατασκευαστεί σε κάποια «φάρμα τρολ» στην Αγία Πετρούπολη, ότι ένας πράκτορας του FBI αυτοκτόνησε επειδή ήταν υπεύθυνος για την διαρροή των emails της Χίλαρι Κλίντον. Η «είδηση» αναδιανεμόταν στο Facebook με ρυθμό 100 shares το λεπτό! Κι έπειτα ήρθε ο covid και η συστηματική καμπάνια υπονόμευσης της αξιοπιστίας της επιστήμης και των εμβολίων στα πολωμένα social media (με αποτέλεσμα οι ρυθμοί εμβολιασμού να είναι 90% μεταξύ των Δημοκρατικών και 53% μεταξύ Ρεπουμπλικάνων). Κι έπειτα ήρθε η 6η Ιανουαρίου και η εισβολή στο Καπιτώλιο. Και όλοι συνειδητοποίησαν ότι οι δημοκρατίες αντιμετωπίζουν έναν θανάσιμο κίνδυνο και πρέπει επειγόντως να βρουν τρόπο να τον αντιμετωπίσουν.
Μα στο μεταξύ έχουμε αλλάξει πίστα. Νέες τεχνολογίες επιτήρησης, παρακολούθησης, υποκλοπών αλλά και μαζικής παραπληροφόρησης αναπτύσσονται με ραγδαίους ρυθμούς, αξιοποιούν εφαρμογές τεχνητής νοημοσύνης και μας περικυκλώνουν. Όχι στα χέρια ενός κράτους Λεβιάθαν, ενός συγκεντρωτικού, αυταρχικού «Πανοπτικού». Αλλά διάχυτες σε μια ανθούσα ελεύθερη αγορά, όπου σκοτεινές και αφανείς επιχειρήσεις διαθέτουν στους πελάτες τους, σε υψηλές αλλά όχι απρόσιτες τιμές, δύο πολύτιμα, νέα προϊόντα: Τεχνολογικά μέσα και λογισμικά ικανά όχι απλώς να παρακολουθούν τις επικοινωνίες κάποιου στόχου αλλά να καταγράφουν ήχο και εικόνα κάθε του δραστηριότητας (Pegasus, Predator κλπ.). Και μέσα βιομηχανοποιημένης διάδοσης ψευδών ή συκοφαντικών ειδήσεων, με αστρονομικές ταχύτητες και σε πρωτοφανή κλίμακα.
Το επίπεδο στο οποίο έχει εξελιχθεί αυτή η συνδυασμένη «βιομηχανία της κατασκοπείας» και «βιομηχανία του ψεύδους» και τα αντίστοιχα δίκτυα λιανικής πώλησής της, αποκάλυψαν αυτές τις μέρες τα δημοσιεύματα μεγάλων εφημερίδων (Washington Post, Guardian, Le Monde, Spiegel κλπ.), για δύο συγκεκριμένες, σκοτεινές «εταιρίες» που προσφέρουν, έναντι μερικών εκατοντάδων χιλιάδων δολαρίων το μήνα, υπηρεσίες χειραγώγησης. Η “Team Jorge”, ενός πρώην στελέχους των Ισραηλινών ειδικών δυνάμεων, για παράδειγμα, διαφημίζει ότι έχει παρέμβει σε πάνω από 30 εκλογικές αναμετρήσεις στον κόσμο και σε δεκάδες περιπτώσεις επιχειρηματικών διαφορών. Προσφέρει στους πελάτες της υπηρεσίες ηθικής εξόντωσης πολιτικών και επιχειρηματικών αντιπάλων ή ενοχλητικών δημοσιογράφων, μέσω, κυρίως, εκστρατειών στα social media. Το πλεονέκτημά της είναι ένα εξελιγμένο λογισμικό, το ΑΙΜ, που μπορεί να κινεί με ημιαυτόματο τρόπο πάνω από 30.000 ψεύτικους λογαριασμούς ανύπαρκτων χρηστών, που είναι κατασκευασμένοι όμως με πειστικό τρόπο, ώστε να ξεφεύγουν από τα φίλτρα επιβεβαίωσης. Μια κλασσική μέθοδος δράσης είναι να φυτεύει ο Jorge ένα δημοσίευμα- μια ψεύτικη ιστορία, μια συκοφαντία- σε κάποιο περιθωριακό Μέσο, επί πληρωμή, κι έπειτα η στρατιά των ψευδολογαριασμών να πλημμυρίζει το διαδίκτυο με εκατοντάδες χιλιάδες αναρτήσεις, χωρίς ίχνη.
Η υπόθεση έχει και τις διασκεδαστικές (όχι για τον ενδιαφερόμενο, φυσικά) πτυχές της. Όπως η περίπτωση του Βρετανού υποψήφιου βουλευτή που του υπέκλεψαν το ηλεκτρονικό ταχυδρομείο και μέσω αυτού παρήγγειλαν στην Amazon ένα σεξουαλικό βοήθημα, που θα παραδιδόταν στο σπίτι του, θα το έβρισκε η σύζυγός του και θα προκαλείτο οικογενειακή κρίση, που θα τον περισπούσε από την προεκλογική του καμπάνια. Αλλά, στην μεγάλη εικόνα της, η υπόθεση είναι πραγματικά τρομακτική.
Ένα μεγάλο πρόβλημα προκύπτει. Πρόβλημα για τις μεγάλες τεχνολογικές πλατφόρμες που συνεχίζουν να κρύβονται πίσω από το δάχτυλό τους και να αρνούνται την ανάληψη της ευθύνης για την χρήση τους για επιχειρήσεις μαζικής παραπληροφόρησης. Πρόβλημα για τις εθνικές και υπερεθνικές αρχές που δεν έχουν βρει αποτελεσματικά μέσα παρέμβασης σε αυτήν την επικίνδυνη (για την ιδιωτική ζωή αλλά και την δημοκρατία) αγορά. Πρόβλημα για εμάς, ειδικότερα, καθώς όχι μόνον τα κατασκοπευτικά λογισμικά τύπου predator, αλλά και οι εταιρίες τύπου Team Jorge διαφημίζουν ότι δρουν και στην Ελλάδα. Και, φυσικά, ένα πρόβλημα και για τον καθέναν από εμάς: Να είμαστε διπλά, τριπλά προσεκτικοί και επιλεκτικοί για τα Μέσα που χρησιμοποιούμε και εμπιστευόμαστε για την ενημέρωσή μας.
Μα για να κλείσω με μια σταγόνα αισιόδοξης επιστημονικής φαντασίας: Φαντάζομαι έναν κόσμο όπου χιλιάδες bots θα διαδίδουν χιλιάδες fake news που θα φθάνουν όμως μόνον σε λογαριασμούς social media άλλων bots, που θα απαντούν με τις δικές του ψευδό-ιστορίες, χωρίς κανείς πραγματικός άνθρωπος να κυκλοφορεί ανάμεσά τους….
Αυτή είναι μια απλή και κάπως πρωτόγονη ιστορία χρήσης των fake news, στην υπηρεσία ενός πολιτικού στόχου.Και δεν είναι από τις αρχαιότερες. Είχε προηγηθεί, για παράδειγμα, ο Οκταβιανός που, στα ρωμαϊκά χρόνια, διέδωσε πως είχε στα χέρια του μια σκανδαλώδη διαθήκη που ο αντίπαλός του ο Αντώνιος είχε συντάξει και άφηνε μεγάλες ρωμαϊκές κτήσεις ως κληρονομιά στα παιδιά της Κλεοπάτρας της Αιγύπτου. Διαθήκη δεν υπήρχε, αλλά η σύγκλητος πείστηκε από τα fake news- falsus nuntium ίσως να τα ονόμαζαν στα λατινικά- και στράφηκε εναντίον του Αντώνιου.
Ουδέν καινόν υπό τον ήλιον. Μόνο που τώρα πια, στην εποχή των social media, των τεχνολογιών «επιτήρησης» και της τεχνητής νοημοσύνης, η αρχαία πρακτική έχει εξελιχθεί σε κάτι δραματικά- ποιοτικά και ποσοτικά- διαφορετικό.
Το 2016 ήταν η χρονιά σταθμός. Το δημοψήφισμα που οδήγησε στο Brexit έδωσε ένα πρώτο δείγμα της δυνατότητας για πρωτοφανείς καμπάνιες μαζικής παραπλάνησης που τα μέσα κοινωνικής δικτύωσης επιτρέπουν. Η φαντασίωση, για παράδειγμα, ότι 350 εκατομμύρια λίρες την εβδομάδα θα εξοικονομούνταν από τις εισφορές στον ευρωπαϊκό προϋπολογισμό και θα χρηματοδοτούσαν το εθνικό σύστημα υγείας είχε μετατραπεί σε βεβαιότητα. Κι έπειτα, στις αμερικανικές εκλογές του ίδιου χρόνου, η έκρηξη των fake news πήρε διαστάσεις πανδημίας. Μια καταιγίδα από αναρτήσεις, για παράδειγμα, αναπαρήγαγαν ένα ανύπαρκτο δημοσίευμα μιας ανύπαρκτης εφημερίδας, της Denver Guardian, που στην πραγματικότητα είχε κατασκευαστεί σε κάποια «φάρμα τρολ» στην Αγία Πετρούπολη, ότι ένας πράκτορας του FBI αυτοκτόνησε επειδή ήταν υπεύθυνος για την διαρροή των emails της Χίλαρι Κλίντον. Η «είδηση» αναδιανεμόταν στο Facebook με ρυθμό 100 shares το λεπτό! Κι έπειτα ήρθε ο covid και η συστηματική καμπάνια υπονόμευσης της αξιοπιστίας της επιστήμης και των εμβολίων στα πολωμένα social media (με αποτέλεσμα οι ρυθμοί εμβολιασμού να είναι 90% μεταξύ των Δημοκρατικών και 53% μεταξύ Ρεπουμπλικάνων). Κι έπειτα ήρθε η 6η Ιανουαρίου και η εισβολή στο Καπιτώλιο. Και όλοι συνειδητοποίησαν ότι οι δημοκρατίες αντιμετωπίζουν έναν θανάσιμο κίνδυνο και πρέπει επειγόντως να βρουν τρόπο να τον αντιμετωπίσουν.
Μα στο μεταξύ έχουμε αλλάξει πίστα. Νέες τεχνολογίες επιτήρησης, παρακολούθησης, υποκλοπών αλλά και μαζικής παραπληροφόρησης αναπτύσσονται με ραγδαίους ρυθμούς, αξιοποιούν εφαρμογές τεχνητής νοημοσύνης και μας περικυκλώνουν. Όχι στα χέρια ενός κράτους Λεβιάθαν, ενός συγκεντρωτικού, αυταρχικού «Πανοπτικού». Αλλά διάχυτες σε μια ανθούσα ελεύθερη αγορά, όπου σκοτεινές και αφανείς επιχειρήσεις διαθέτουν στους πελάτες τους, σε υψηλές αλλά όχι απρόσιτες τιμές, δύο πολύτιμα, νέα προϊόντα: Τεχνολογικά μέσα και λογισμικά ικανά όχι απλώς να παρακολουθούν τις επικοινωνίες κάποιου στόχου αλλά να καταγράφουν ήχο και εικόνα κάθε του δραστηριότητας (Pegasus, Predator κλπ.). Και μέσα βιομηχανοποιημένης διάδοσης ψευδών ή συκοφαντικών ειδήσεων, με αστρονομικές ταχύτητες και σε πρωτοφανή κλίμακα.
Το επίπεδο στο οποίο έχει εξελιχθεί αυτή η συνδυασμένη «βιομηχανία της κατασκοπείας» και «βιομηχανία του ψεύδους» και τα αντίστοιχα δίκτυα λιανικής πώλησής της, αποκάλυψαν αυτές τις μέρες τα δημοσιεύματα μεγάλων εφημερίδων (Washington Post, Guardian, Le Monde, Spiegel κλπ.), για δύο συγκεκριμένες, σκοτεινές «εταιρίες» που προσφέρουν, έναντι μερικών εκατοντάδων χιλιάδων δολαρίων το μήνα, υπηρεσίες χειραγώγησης. Η “Team Jorge”, ενός πρώην στελέχους των Ισραηλινών ειδικών δυνάμεων, για παράδειγμα, διαφημίζει ότι έχει παρέμβει σε πάνω από 30 εκλογικές αναμετρήσεις στον κόσμο και σε δεκάδες περιπτώσεις επιχειρηματικών διαφορών. Προσφέρει στους πελάτες της υπηρεσίες ηθικής εξόντωσης πολιτικών και επιχειρηματικών αντιπάλων ή ενοχλητικών δημοσιογράφων, μέσω, κυρίως, εκστρατειών στα social media. Το πλεονέκτημά της είναι ένα εξελιγμένο λογισμικό, το ΑΙΜ, που μπορεί να κινεί με ημιαυτόματο τρόπο πάνω από 30.000 ψεύτικους λογαριασμούς ανύπαρκτων χρηστών, που είναι κατασκευασμένοι όμως με πειστικό τρόπο, ώστε να ξεφεύγουν από τα φίλτρα επιβεβαίωσης. Μια κλασσική μέθοδος δράσης είναι να φυτεύει ο Jorge ένα δημοσίευμα- μια ψεύτικη ιστορία, μια συκοφαντία- σε κάποιο περιθωριακό Μέσο, επί πληρωμή, κι έπειτα η στρατιά των ψευδολογαριασμών να πλημμυρίζει το διαδίκτυο με εκατοντάδες χιλιάδες αναρτήσεις, χωρίς ίχνη.
Η υπόθεση έχει και τις διασκεδαστικές (όχι για τον ενδιαφερόμενο, φυσικά) πτυχές της. Όπως η περίπτωση του Βρετανού υποψήφιου βουλευτή που του υπέκλεψαν το ηλεκτρονικό ταχυδρομείο και μέσω αυτού παρήγγειλαν στην Amazon ένα σεξουαλικό βοήθημα, που θα παραδιδόταν στο σπίτι του, θα το έβρισκε η σύζυγός του και θα προκαλείτο οικογενειακή κρίση, που θα τον περισπούσε από την προεκλογική του καμπάνια. Αλλά, στην μεγάλη εικόνα της, η υπόθεση είναι πραγματικά τρομακτική.
Ένα μεγάλο πρόβλημα προκύπτει. Πρόβλημα για τις μεγάλες τεχνολογικές πλατφόρμες που συνεχίζουν να κρύβονται πίσω από το δάχτυλό τους και να αρνούνται την ανάληψη της ευθύνης για την χρήση τους για επιχειρήσεις μαζικής παραπληροφόρησης. Πρόβλημα για τις εθνικές και υπερεθνικές αρχές που δεν έχουν βρει αποτελεσματικά μέσα παρέμβασης σε αυτήν την επικίνδυνη (για την ιδιωτική ζωή αλλά και την δημοκρατία) αγορά. Πρόβλημα για εμάς, ειδικότερα, καθώς όχι μόνον τα κατασκοπευτικά λογισμικά τύπου predator, αλλά και οι εταιρίες τύπου Team Jorge διαφημίζουν ότι δρουν και στην Ελλάδα. Και, φυσικά, ένα πρόβλημα και για τον καθέναν από εμάς: Να είμαστε διπλά, τριπλά προσεκτικοί και επιλεκτικοί για τα Μέσα που χρησιμοποιούμε και εμπιστευόμαστε για την ενημέρωσή μας.
Μα για να κλείσω με μια σταγόνα αισιόδοξης επιστημονικής φαντασίας: Φαντάζομαι έναν κόσμο όπου χιλιάδες bots θα διαδίδουν χιλιάδες fake news που θα φθάνουν όμως μόνον σε λογαριασμούς social media άλλων bots, που θα απαντούν με τις δικές του ψευδό-ιστορίες, χωρίς κανείς πραγματικός άνθρωπος να κυκλοφορεί ανάμεσά τους….
