Τα εργαλεία μαζικής επιτήρησης και τα αυτόνομα οπλικά συστήματα είναι ήδη εδώ

Η επίθεση στο Ιράν έριξε σε δεύτερη μοίρα μια σημαντική σύγκρουση μεταξύ της κυβέρνησης των ΗΠΑ και της εταιρείας τεχνητής νοημοσύνης «Anthropic», μετά την άρνηση της τελευταίας να επιτρέψει συγκεκριμένες στρατιωτικές και κρατικές χρήσεις των μοντέλων της.

Tο ιστορικό της σύγκρουσης

Την Παρασκευή η «Anthropic» ανακοίνωσε ότι απορρίπτει το αίτημα του Πενταγώνου να άρει συγκεκριμένες δικλείδες ασφαλείας που έχει θέσει στα μοντέλα της. Η εξέλιξη αυτή προκάλεσε την άμεση αντίδραση του Προέδρου, Ντόναλντ Τραμπ, ο οποίος επιτέθηκε δημόσια στην εταιρεία, χαρακτηρίζοντάς την «radical left, woke company». Παράλληλα, διέταξε τις ομοσπονδιακές υπηρεσίες να σταματήσουν τη χρήση της τεχνολογίας της και έδωσε προθεσμία ώστε και κυβερνητικοί contractors να διακόψουν κάθε συνεργασία μαζί της. Λίγο αργότερα, ο υπουργός Άμυνας, Pete Hegseth, ανακοίνωσε μέσω ανάρτησης στο «X» ότι η εταιρεία χαρακτηρίζεται ως «supply chain risk», ένας χαρακτηρισμός που χρησιμοποιείται σε περιπτώσεις εταιρειών που θεωρείται ότι ενέχουν κινδύνους για την εθνική ασφάλεια.

Η απόφαση αυτή ήρθε ύστερα από περίπου δύο μήνες διαπραγματεύσεων μεταξύ της «Anthropic» και του Πενταγώνου σχετικά με την αλλαγή των όρων χρήσης των μοντέλων τεχνητής νοημοσύνης της εταιρείας από την αμερικανική κυβέρνηση. Η «Anthropic» αποτελεί μία από τις κορυφαίες εταιρείες ανάπτυξης μοντέλων τεχνητής νοημοσύνης. Σύμφωνα με τη θέση του Πενταγώνου, η εταιρεία θα έπρεπε να παρέχει τα μοντέλα της χωρίς περιορισμούς, με τη χρήση τους να καθορίζεται αποκλειστικά από την κυβέρνηση των ΗΠΑ.

Συμφωνία με την ανταγωνίστρια

Λίγες ώρες αργότερα ανακοινώθηκε συμφωνία μεταξύ του Πενταγώνου και της «OpenAI», της εταιρείας που αναπτύσσει το ChatGPT και αποτελεί βασική ανταγωνίστρια της «Anthropic». Οι ακριβείς όροι της συμφωνίας δεν έχουν δημοσιοποιηθεί πλήρως. Η «OpenAI» υποστήριξε ότι η συμφωνία περιλαμβάνει safeguards και απαγορεύσεις αντίστοιχες με αυτές που επικαλείται και η «Anthropic». Ωστόσο, ακόμη και αν η συμφωνία αυτή λειτούργησε ως μέσο πίεσης προς την «Anthropic», αναδεικνύει ένα ευρύτερο ζήτημα: η διασφάλιση του πλαισίου χρήσης της τεχνητής νοημοσύνης δεν μπορεί να επαφίεται αποκλειστικά στις ίδιες τις εταιρείες.

Η θέση της «Anthropic»

Η «Anthropic» απάντησε με ανακοίνωση, διευκρινίζοντας ότι η διαφωνία της με το Πεντάγωνο περιορίζεται σε δύο αυστηρά καθορισμένες εξαιρέσεις:

τη μαζική παρακολούθηση Αμερικανών πολιτών (mass domestic surveillance of Americans),
τη χρήση πλήρως αυτόνομων οπλικών συστημάτων (fully autonomous weapons).

Τη θέση αυτή επανέλαβε και ο CEO της εταιρείας, Dario Amodei, σε συνέντευξή του στο «CBS». Αναφερόμενος στη μαζική παρακολούθηση, δήλωσε ότι, σύμφωνα με την άποψη της εταιρείας, μια τέτοια χρήση θα πρέπει να αποτελέσει αντικείμενο νομοθετικής απόφασης του Κογκρέσου και όχι αποκλειστικά της εκτελεστικής εξουσίας, καθώς σχετίζεται με συνταγματικά κατοχυρωμένα δικαιώματα. Όσον αφορά τα πλήρως αυτόνομα οπλικά συστήματα, ανέφερε ότι τα σημερινά μοντέλα δεν διαθέτουν ακόμη τον απαραίτητο βαθμό αξιοπιστίας ώστε να διασφαλιστεί ότι δεν θα στοχεύσουν αμάχους ή φίλιες δυνάμεις.

Τι προκύπτει

Τα δύο αυτά σημεία διαφωνίας μεταξύ της «Anthropic» και του Πενταγώνου αποκαλύπτουν το επίπεδο ωριμότητας της τεχνολογίας αλλά και τα πολιτικά ερωτήματα που τη συνοδεύουν:

Η τεχνολογία μαζικής παρακολούθησης πολιτών με χρήση AI είναι πλέον τεχνικά εφικτή σε μεγάλη κλίμακα, ακόμη και σε κράτη όπως οι ΗΠΑ. Η βασική διαφωνία δεν αφορά τη δυνατότητα εφαρμογής της, αλλά το ποιος θα αποφασίσει γι’ αυτή: η εκτελεστική εξουσία ή το Κογκρέσο. Στη συγκεκριμένη περίπτωση, η «Anthropic» επέλεξε να θέσει περιορισμούς, όμως η άμεση αντικατάστασή της από άλλον πάροχο δείχνει ότι τέτοιοι περιορισμοί μπορούν εύκολα να παρακαμφθούν. Την ίδια στιγμή, τόσο οι διεθνείς θεσμοί όσο και τα κρατικά νομικά πλαίσια παραμένουν πίσω από τις τεχνολογικές εξελίξεις, αφήνοντας ανοιχτό το ενδεχόμενο χρήσης τέτοιων συστημάτων με περιορισμένο δημοκρατικό έλεγχο. Πρόκειται για τεχνολογία που θα μπορούσε να ενισχύσει δραματικά τις δυνατότητες επιτήρησης οποιουδήποτε κράτους επιλέξει να την αξιοποιήσει.
Τα αυτόνομα οπλικά συστήματα τεχνητής νοημοσύνης αποτελούν επίσης αναδυόμενη πραγματικότητα και αναμένεται να αυξήσουν σημαντικά την αποτελεσματικότητα των στρατιωτικών επιχειρήσεων, επηρεάζοντας τις παγκόσμιες στρατιωτικές ισορροπίες. Ωστόσο, ακόμη και σύμφωνα με τους ίδιους τους δημιουργούς των μοντέλων, η τεχνολογία δεν θεωρείται επαρκώς αξιόπιστη ώστε να λειτουργεί πλήρως χωρίς ανθρώπινη επίβλεψη (human-in-the-loop), καθώς υπάρχει κίνδυνος λανθασμένης στόχευσης αμάχων ή φίλιων δυνάμεων. Η πιθανότητα τέτοιων κινδύνων δεν λειτουργεί όμως πια αποτρεπτικά για κράτη όπως το Ισραήλ και οι ΗΠΑ, κάτι που έγινε ξεκάθαρο τόσο κατά την πρόσφατη επίθεση του Ισραήλ στη Γάζα όσο και από την πρώτη ημέρα της επίθεσης και των δύο στο Ιράν.

Η σύγκρουση αυτή επιβεβαιώνει ότι βρισκόμαστε ήδη σε έναν νέο κόσμο και μάλιστα σε έναν που αλλάζει ραγδαία μέρα με τη μέρα. Τα εργαλεία μαζικής επιτήρησης και τα αυτόνομα οπλικά συστήματα δεν αφορούν το μέλλον, βρίσκονται ήδη στο επίκεντρο πολιτικών και στρατιωτικών αποφάσεων. Το βασικό ερώτημα δεν είναι αν θα χρησιμοποιηθούν αλλά ποιος θα θέσει τα όρια και με ποιον δημοκρατικό έλεγχο. Είναι απαραίτητο τόσο οι κρατικοί θεσμοί όσο και οι πολίτες, οι οργανώσεις και τα κινήματα των πολιτών να κατανοήσουν τη νέα πραγματικότητα και να συμμετάσχουν στις αποφάσεις που λαμβάνονται σήμερα, γιατί αυτές θα καθορίσουν τις ζωές μας για τις επόμενες δεκαετίες.

Αναφορές:

https://www.anthropic.com/news/statement-comments-secretary-war?utm_source=chatgpt.com