Ποιος βάζει όρια στην Τεχνητή Νοημοσύνη;

Η σύγκρουση στις ΗΠΑ ανάμεσα στο Πεντάγωνο και την Anthropic δεν είναι μια ακόμη διαμάχη για μια κρατική σύμβαση υψηλής τεχνολογίας. Είναι μια υπόθεση με σαφές πολιτικό και δημοκρατικό βάρος.

Θέτει ένα κρίσιμο ερώτημα για τις σύγχρονες δημοκρατίες: όταν η Τεχνητή Νοημοσύνη μπαίνει στον πυρήνα της εθνικής ασφάλειας, ποιος αποφασίζει πώς θα χρησιμοποιηθεί και με ποια όρια;

Η Anthropic δεν αρνήθηκε να συνεργαστεί με το αμερικανικό κράτος. Αντιθέτως, είχε ήδη ενταχθεί στο αμυντικό οικοσύστημα των ΗΠΑ.

Εκεί όπου ξέσπασε η σύγκρουση ήταν στις δύο κόκκινες γραμμές που επέμεινε να διατηρήσει: να μη χρησιμοποιηθεί το μοντέλο της για πλήρως αυτόνομα φονικά όπλα και να μη μετατραπεί σε εργαλείο μαζικής εγχώριας παρακολούθησης.

Δηλαδή, επέμεινε στο αυτονόητο για κάθε προοδευτική δημοκρατική αντίληψη: ότι δεν αρκεί κάτι να είναι τυπικά νόμιμο για να είναι και πολιτικά ή ηθικά αποδεκτό.

Η αντίδραση του Πενταγώνου ήταν αποκαλυπτική. Αντί να αναζητήσει ένα θεσμικό πλαίσιο συνεννόησης, μετέφερε τη διαφωνία στο πιο βαρύ πεδίο κρατικής ισχύος, χαρακτηρίζοντας την εταιρεία «κίνδυνο εφοδιαστικής αλυσίδας».

Με άλλα λόγια, χρησιμοποίησε ένα εργαλείο εθνικής ασφάλειας όχι απέναντι σε έναν ξένο αντίπαλο, αλλά απέναντι σε έναν εγχώριο πάροχο που επέμενε σε όρια. Αυτό είναι το πραγματικά ανησυχητικό στοιχείο της υπόθεσης. Οχι μόνο για τις ΗΠΑ, αλλά για κάθε δημοκρατία που θα βρεθεί μπροστά σε παρόμοια διλήμματα.

Το δίλημμα είναι καθαρό. Η απάντηση δεν μπορεί να είναι ούτε η ανεξέλεγκτη κρατική χρήση της Τεχνητής Νοημοσύνης στο όνομα της ασφάλειας ούτε η παράδοση κρίσιμων αποφάσεων σε λίγες ιδιωτικές εταιρείες, οι οποίες λειτουργούν χωρίς επαρκή δημόσια λογοδοσία.

Χρειαζόμαστε δημοκρατικούς κανόνες, θεσμικές εγγυήσεις, κοινοβουλευτικό έλεγχο, διαφάνεια στις δημόσιες συμβάσεις και νομικά δεσμευτικά όρια για χρήσεις που απειλούν δικαιώματα και ελευθερίες.

Η διαφωνία δεν είναι αν πρέπει να υπάρχουν όρια. Είναι αν αυτά θα είναι δημόσια, θεσμοθετημένα και ελέγξιμα ή αν θα μένουν κρυμμένα μέσα σε αδιαφανείς τεχνικούς μηχανισμούς και πολιτικές συμφωνίες πίσω από κλειστές πόρτες.

Για την Ευρώπη, το μήνυμα είναι σαφές. Αν δεν χτίσουμε από τώρα ένα πλαίσιο δημοκρατικής διακυβέρνησης της Τεχνητής Νοημοσύνης, με ανοιχτά πρότυπα, ανεξάρτητους ελέγχους και πραγματική λογοδοσία, τότε η νέα ψηφιακή ισχύς θα μοιραστεί ανάμεσα σε κρατικούς μηχανισμούς ασφαλείας και ιδιωτικά ολιγοπώλια.

Και τότε η κοινωνία θα βρεθεί θεατής σε αποφάσεις που αφορούν άμεσα τα δικαιώματά της.

Η διαμάχη Πενταγώνου και Anthropic είναι, τελικά, μια προειδοποίηση. Οι δημοκρατικοί θεσμοί δεν μπορεί να έχουν ρόλο μόνο όταν σχεδιάζεται η τεχνολογία. Πρέπει να έχουν ρόλο και όταν αποφασίζεται πώς θα χρησιμοποιηθεί.

Ο Θεόδωρος Γ. Καρούνος είναι ερευνητής στην Ομάδα INFOSTRAG του Εργαστηρίου Βιομηχανικής και Ενεργειακής Οικονομίας(ΕΒΕΟ) του ΕΜΠ και μέλος του ΔΣ του Οργανισμού Ανοικτών Τεχνολογιών (ΕΕΛΛΑΚ)