Η τεχνητή νοημοσύνη δεν πρέπει να αφεθεί στις δυνάμεις της αγοράς

Η πρόσφατη συνέντευξη του επικεφαλής της Anthropic, αλλά και η συμμετοχή των τριών πολύ μεγάλων εταιρειών Τεχνητής Νοημοσύνης (ΤΝ), εκτός της εταιρείας του Ιλον Μασκ, στη συνάντηση της G7, προσφέρονται για γενικότερα συμπεράσματα. Μας δείχνουν πόσο οι ηγέτες των επτά πιο αναπτυγμένων οικονομιών του πλανήτη, χωρίς την Κίνα και τη Ρωσία, αλλά και στελέχη από το εσωτερικό της πιο προηγμένης εταιρείας ΤΝ του πλανήτη, αντιλαμβάνονται ότι η ΤΝ δεν είναι πια ένα ακόμη ψηφιακό προϊόν. Είναι υποδομή ισχύος. Το πιο αποκαλυπτικό σημείο αφορά το μοντέλο Mythos. Η Anthropic ανέπτυξε ένα σύστημα με εξαιρετικές ικανότητες στον εντοπισμό ευπαθειών λογισμικού και στη μετατροπή τους σε εργαλεία επιθέσεων. Με απλά λόγια, ένα τέτοιο μοντέλο δεν βοηθά μόνο έναν μηχανικό να βρει τρύπες ασφαλείας. Μπορεί να οργανώσει κυβερνοεπιθέσεις. Το μοντέλο αυτό, με απόφαση της κυβέρνησης των ΗΠΑ, δεν είναι πλέον δημόσια διαθέσιμο.

Αυτή η επιλογή αποκαλύπτει το πρόβλημα. Δεν μπορεί η ασφάλεια δημοκρατικών κοινωνιών, τραπεζών, νοσοκομείων, δικτύων ενέργειας και δημόσιων υπηρεσιών να εξαρτάται από τις επιλογές μιας κυβέρνησης ή/και μιας ιδιωτικής εταιρείας, όσο υπεύθυνη και αν δηλώνει ότι είναι.

Η αγορά έχει ισχυρά κίνητρα να τρέξει πιο γρήγορα από τους κανόνες. Oποιος κυκλοφορήσει πρώτος ένα ισχυρότερο μοντέλο κερδίζει πελάτες, επενδυτές, δεδομένα και πολιτική επιρροή. Oμως στην ΤΝ, ένα εμπορικό λάθος μπορεί να γίνει κοινωνική βλάβη. Μπορεί να οδηγήσει σε μαζική παραπληροφόρηση, κυβερνοεπιθέσεις, αλγοριθμικές διακρίσεις, ανεξέλεγκτη επιτήρηση ή απότομη ανατροπή στην αγορά εργασίας.

Γι’ αυτό οι δημοκρατικές χώρες χρειάζονται αποτελεσματικό έλεγχο της αγοράς ΤΝ. Oχι για να σταματήσουν την καινοτομία, αλλά για να τη διατηρήσουν συμβατή με την κοινωνία. Χρειάζονται υποχρεωτικοί ανεξάρτητοι έλεγχοι πριν από τη διάθεση ισχυρών μοντέλων, μητρώα κινδύνου, αξιολόγηση κυβερνοασφάλειας, σαφείς κόκκινες γραμμές για στρατιωτική χρήση, απαγόρευση πλήρως αυτόνομων θανατηφόρων αποφάσεων και ισχυρή προστασία απέναντι στη μαζική επιτήρηση.

Χρειάζεται επίσης ανταγωνισμός. Αν η ΤΝ συγκεντρωθεί σε λίγες αμερικανικές ή κινεζικές πλατφόρμες, τότε οι δημοκρατίες θα ρυθμίζουν εκ των υστέρων υποδομές που δεν ελέγχουν. Η Ευρωπαϊκή Eνωση (ΕΕ) πρέπει να επενδύσει σε ανοιχτά πρότυπα, ανοιχτό λογισμικό, δημόσια ελεγχόμενα μοντέλα και ανεξάρτητη υπολογιστική ισχύ. Η ασφάλεια δεν είναι μόνο θέμα νόμων. Είναι και θέμα τεχνολογικής αυτονομίας.

Eνα παράδειγμα: πριν κυκλοφορήσει στην αγορά ένα ισχυρό μοντέλο που μπορεί να εντοπίζει ευπάθειες σε λογισμικό, η ΕΕ να απαιτεί δοκιμή από ανεξάρτητη Αρχή, όπως γίνεται με τα φάρμακα ή τα αεροπλάνα. Αν το μοντέλο μπορεί να χρησιμοποιηθεί για κυβερνοεπιθέσεις, να διατίθεται μόνο με άδεια σε πιστοποιημένους φορείς, με καταγραφή χρήσης, ελέγχους ασφαλείας και αυστηρές κυρώσεις. Eτσι η καινοτομία προχωρά, αλλά δεν μετατρέπεται σε ανεξέλεγκτο δημόσιο κίνδυνο. Ο πολίτης δεν βλέπει τεχνικές λεπτομέρειες, βλέπει τον κανόνα: κανένα εργαλείο χωρίς άδεια και δυνατότητα ανάκλησης.

Το μήνυμα της συνάντησης των G7 και της συνέντευξης είναι καθαρό: ακόμη και οι σοβαροί παίκτες της ΤΝ παραδέχονται ότι η δύναμη που δημιουργείται είναι τεράστια. Aρα η απάντηση δεν μπορεί να είναι «εμπιστευθείτε την κυβέρνηση των ΗΠΑ και τις εταιρείες». Η απάντηση πρέπει να είναι θεσμοί, διαφάνεια, δημόσιος έλεγχος και διεθνής συνεργασία των δημοκρατιών. Η ΤΝ μπορεί να γίνει εργαλείο προόδου. Αλλά μόνο αν δεν αφήσουμε την αγορά να αποφασίσει μόνη της ποιο είναι το όριο ανάμεσα στην καινοτομία και τον κίνδυνο.

O Θεόδωρος Γ. Καρούνος είναι ερευνητής στην Ομάδα INFOSTRAG του Εργαστηρίου Βιομηχανικής και Ενεργειακής Οικονομίας (ΕΒΕΟ) του ΕΜΠ και μέλος του ΔΣ του Οργανισμού Ανοικτών Τεχνολογιών