Τεχνητή νοημοσύνη, δυνατότητες και κίνδυνοι

Φωτογραφία: ThisIsEngineering από το pexels.com

Τους τελευταίους μήνες η διάδοση της Τεχνητής Νοημοσύνης έχει πυροδοτήσει συζητήσεις σε όλο τον κόσμο γύρω από τους ενδεχόμενους κινδύνους που ενέχει για διαφορετικές ανθρώπινες δραστηριότητες, αλλά και γύρω από τις δυνατότητες που προσφέρει. Οι συνέπειες είναι καταιγιστικές και, ως γνωστόν, καμία τεχνολογία δεν είναι ουδέτερη, υπό την έννοια ότι πάντα η χρήση της εναπόκειται στην κοινωνική διαμάχη για την κατεύθυνσή της. Και στην περίπτωση της Τεχνητής Νοημοσύνης το ποιος παράγει τι και για ποιο σκοπό είναι κρίσιμο. Στο πλαίσιο, λοιπόν, της ανάγκης μας να διαμορφώσουμε γνώμη για το τι πρέπει να γίνει στο συγκεκριμένο πεδίο, δημοσιεύουμε σήμερα τρία κείμενα με σκοπό να ανοίξει στην Αριστερά μια οργανωμένη και απροκατάληπτη συζήτηση επί του θέματος.

Η Συντακτική Ομάδα των Παρεμβάσεων

Φωτογραφία: cottonbro studio από το pexels.com

Εργαλείο ενδυνάμωσης ή μηχανισμός ελέγχου;

Η Τεχνητή Νοημοσύνη (ΤΝ) είναι μια πολύ «δημοφιλής» έννοια στη δημόσια σφαίρα και τα ΜΜΕ. Πολλοί όμως θεωρούν ότι κάθε προηγμένη τεχνολογία –από τα έξυπνα κινητά έως τα GPS– ανήκει στον τομέα της ΤΝ.

Στην πραγματικότητα, η ΤΝ είναι ο κλάδος της επιστήμης των υπολογιστών που σχεδιάζει αλγορίθμους και συστήματα ικανά να εκτελούν εργασίες που προσομοιώνουν την ανθρώπινη νοημοσύνη. Μπορούν δηλαδή να λύνουν προβλήματα, να παίρνουν αποφάσεις, να αναγνωρίζουν πρότυπα και να επεξεργάζονται τη φυσική γλώσσα. Η ΤΝ ξεχωρίζει για την ικανότητά της να αναλύει τεράστιους όγκους δεδομένων και να μαθαίνει από αυτά. Έτσι, ένα ρομπότ που εκτελεί μια εργασία δεν είναι απαραίτητα ΤΝ, εκτός αν «μαθαίνει» ή «προσαρμόζεται» σε νέα δεδομένα.

Οι νέες τεχνολογίες ανέκαθεν είχαν πολιτικές, κοινωνικές και ταξικές επιπτώσεις, αλλά η ΤΝ φέρνει κάτι ποιοτικά διαφορετικό: απειλεί για πρώτη φορά εργασίες υψηλής εξειδίκευσης, πνευματικής ή δημιουργικής φύσης, τις οποίες παλαιότερα θεωρούσαμε «ασφαλείς» απέναντι στην αυτοματοποίηση.

Σήμερα, η ΤΝ αρχίζει να υποκαθιστά πτυχές της πνευματικής εργασίας: μεταφραστές, δημοσιογράφοι, εκπαιδευτικοί, προγραμματιστές, ακόμα και καλλιτέχνες, βλέπουν συστήματα ΤΝ να «παράγουν» έργο που άλλοτε θεωρούσαμε αποκλειστικά ανθρώπινο. Αυτό δημιουργεί πολιτικά και ηθικά ερωτήματα:

– Ποιος ελέγχει την ΤΝ και τα παραγόμενα αποτελέσματα;

– Πώς αναδιανέμεται η υπεραξία όταν η εργασία εκτελείται από αλγόριθμους;

– Ποιος φέρει την ευθύνη για τις αποφάσεις συστημάτων ΤΝ;

– Τι γίνεται με την ανθρώπινη δημιουργικότητα;

Η ΤΝ είναι πλέον μία από τις στρατηγικές τεχνολογίες του 21ου αιώνα που μπορούν να αποφέρουν σημαντικά οφέλη στην οικονομία και την κοινωνία, αλλά και σημαντικούς κινδύνους για δικαιώματα και ελευθερίες. Μπορεί π.χ. να βελτιώσει την υγειονομική περίθαλψη (επιτρέποντας πιο ακριβείς διαγνώσεις, ανακαλύπτοντας νέες θεραπείες), να αυξήσει την αποτελεσματικότητα της γεωργίας, να συμβάλει στο μετριασμό της κλιματικής κρίσης κ.ά. Ταυτόχρονα, όμως, μπορεί να προκύψουν σοβαροί κίνδυνοι, όπως οι αδιαφανείς διαδικασίες λήψης αποφάσεων, η εισβολή στην προσωπική μας ζωή και η ψηφιακή αστυνόμευση.

Για να λειτουργήσει η ΤΝ χρειάζεται τεράστιες ποσότητες δεδομένων: κείμενα, εικόνες, φωνές, κινήσεις, αλληλεπιδράσεις. Αυτό δημιουργεί ένα μεγάλο βαθμό πολυπλοκότητας που την κάνει να λειτουργεί σαν ένα μαύρο κουτί. Ξέρουμε τι μπαίνει και τι βγαίνει αλλά όχι τι συμβαίνει ενδιάμεσα, με συνέπεια να υπάρχει αδιαφάνεια και δυσκολία στην επεξήγηση τυχόν αποφάσεων.

Υπάρχει δε η άποψη ότι, αν ένας αλγόριθμος χρησιμοποιεί πολύ μεγάλο όγκο δεδομένων (big data), τα αποτελέσματά του είναι αυτόματα πιο έγκυρα. Ωστόσο, τα δεδομένα συχνά περιέχουν ανθρώπινες προκαταλήψεις, οι οποίες αναπαράγονται από τον αλγόριθμο.

Επιπλέον, τα δεδομένα αυτά δεν βρίσκονται διάσπαρτα ούτε ανήκουν εξίσου σε όλους. Συγκεντρώνονται και ελέγχονται από λίγες μεγάλες ιδιωτικές πλατφόρμες που λειτουργούν με όρους αγοράς και ανταγωνισμού, όχι κοινωνικής ευθύνης ή διαφάνειας.

Οι ίδιες εταιρείες που μας παρέχουν «δωρεάν» υπηρεσίες, συλλέγουν και εμπορεύονται τα ίχνη μας στο διαδίκτυο. Χτίζουν προφίλ, εκπαιδεύουν τα συστήματά τους και στη συνέχεια πουλούν εργαλεία ΤΝ σε κυβερνήσεις, στρατούς, διαφημιστές ή εργοδότες. Έτσι, η ΤΝ μετατρέπεται σε όπλο επιτήρησης, επιρροής και ελέγχου, κι όχι σε κοινό αγαθό.

Η ΤΝ ανοίγει νέες προοπτικές για την εκπαίδευση. Ένα σύστημα ΤΝ μπορεί να προσαρμόσει το περιεχόμενο, τον ρυθμό και τον τρόπο διδασκαλίας στις ανάγκες κάθε παιδιού και να λειτουργεί ως μόνιμος βοηθός, παρέχοντας άμεση ανατροφοδότηση και πρόσβαση σε εκπαιδευτικό υλικό οποιαδήποτε στιγμή. Η παθητική χρήση όμως εργαλείων ΤΝ εγκυμονεί τον κίνδυνο απώλειας βασικών δεξιοτήτων έκφρασης και επίλυσης προβλημάτων, καθώς και την τάση για μηχανική αντιγραφή απαντήσεων. Παράλληλα, δημιουργούνται ζητήματα για την αξιολόγηση των εργασιών, ενώ ο ρόλος του εκπαιδευτικού παραμένει ασαφής σε αυτό το νέο τοπίο.

Αν η ΤΝ βασίζεται στα δεδομένα μας, τότε θα πρέπει να έχουμε λόγο και για το πώς αυτά χρησιμοποιούνται. Τα δεδομένα που παράγουμε συλλογικά –με την εργασία, την κατανάλωση, την επικοινωνία μας– δεν μπορεί να θεωρούνται ιδιοκτησία των τεχνολογικών κολοσσών. Χρειαζόμαστε θεσμούς που να εξασφαλίζουν ότι η χρήση των δεδομένων γίνεται με όρους διαφάνειας, λογοδοσίας και κοινωνικού ελέγχου. Αυτό σημαίνει ότι δεν αρκεί να συζητάμε για «κανονισμούς προστασίας προσωπικών δεδομένων» ή «ηθική ΤΝ». Χρειάζεται ένα πολιτικό αίτημα: να διεκδικήσουμε τα δεδομένα ως κοινό αγαθό, και την ΤΝ ως κοινωνική υποδομή, όχι ως ιδιωτικό εργαλείο κερδοφορίας και ελέγχου.

Ράνια Καλαντζή,
εκπαιδευτικός

Φωτογραφία: Pavel Danilyuk από το pexels.com

Ποια πιθανά μέλλοντα ανοίγει μπροστά μας;

Ο σύγχρονος πολιτισμός είναι εξίσου ικανός τόσο για την κοινωνική χειραφέτηση των μεγάλων επαναστάσεων όσο και για το Άουσβιτς. Η τεχνολογία επιτείνει αυτές τις ικανότητες.

Η ΤΝ είναι μια τεχνολογία γενικού σκοπού με τη δυνατότητα να παράγει αποτελέσματα με αυτόνομο τρόπο. Η χρήση της ήδη ρευστοποιεί τις κοινωνικές δομές σε όλο το φάσμα της πολιτικής, της οικονομίας, του πολιτισμού και της οικολογίας. Βρισκόμαστε λοιπόν στο μεταίχμιο, όπου η τεχνολογία επιταχύνει την ανθρώπινη Ιστορία, διακλαδώνοντας τον χρόνο σε πολλά πιθανά μέλλοντα, τραβώντας τα τόσο προς την ευτοπία όσο και προς τη δυστοπία.

Μολονότι αυτό έρχεται διαλεκτικά με βάση τους συσχετισμούς εξουσίας, το μέλλον παραμένει σε τελική ανάλυση στα χέρια μας. Καλούμαστε, λοιπόν, να καθορίσουμε την εξέλιξη της ανάπτυξης και της χρήσης της ΤΝ, με τρόπο ώστε να ρευστοποιεί τις υφιστάμενες δομές εξουσίας, με κατεύθυνση τον εξισωτισμό, τον εκδημοκρατισμό, την πολιτικοποίηση της οικονομικής δραστηριότητας, τον ελεύθερο χρόνο και την αειφορία όσον αφορά τη φύση.

Οι τεχνολογίες ΤΝ παράγουν αποτελέσματα μέσα από τη σύνθεση της συσσωρευμένης κοινωνικής μας διάνοιας με τη βοήθεια εξαιρετικά εξελιγμένων στατιστικών προτύπων. Με τον τρόπο αυτό είναι σε θέση να συνδράμουν τα μέγιστα στην αυτοματοποίηση της παραγωγής, στη διαχείριση των πόρων και στη συλλογή και σύνθεση των πληροφοριών. Σε συνδυασμό με τις σύγχρονες τεχνολογίες πληροφορικής και επικοινωνιών μπορούν να αποτελέσουν την υλική βάση για το συνεργατισμό στην παραγωγή/διανομή ανάλογα με τις ικανότητες του καθενός, την ισότιμη κατανομή του αποτελέσματος της παραγωγής σύμφωνα με τις ανάγκες μας, τη συμμετοχική λήψη των αποφάσεων, την οριζοντιοποίηση των κοινωνικών δομών, την αποκέντρωση των βασικών υποδομών, την απελευθέρωση από την εργασία στις λιγότερο δημιουργικές της μορφές, ακόμη και την προστασία της φύσης μέσα από μοντέλα πρόβλεψης και καινοτομίες αποκατάστασης της οικολογικής ζημιάς. Η ΤΝ μπορεί να γίνει τεχνολογία της ελευθερίας.

Σε κοινωνίες όμως ακραία ιεραρχικές και διαστρωματωμένες, όπως οι δικές μας, οι τεχνολογίες ΤΝ αναπτύσσονται υπό τον έλεγχο κεφαλαιοκρατικών ολιγοπωλίων για τον αυτοσκοπό του κέρδους, που τελικά διαιωνίζει την κυρίαρχη εξουσιαστική δομή. Συνεπώς, η δύναμη της ΤΝ διοχετεύεται από το κυρίαρχο σύμπλεγμα εξουσίας κρατών-κεφαλαίου σε σκοπούς διαφορετικούς από την ωφέλεια του κοινωνικού συνόλου. Τέτοιοι σκοποί δεν περιλαμβάνουν μόνο την εντατικοποίηση της εκμετάλλευσης και την κερδοφορία του κεφαλαίου. Η ΤΝ γίνεται βέλος στη φαρέτρα της επίθεσης στα κοινά αγαθά μέσα από την εμπορευματοποίηση κάθε πτυχής της ζωής και τη χρηματιστικοποίηση της οικονομίας. Αναβαθμίζει τις τεχνολογίες που ενδυναμώνουν το κράτος, ιδίως σε σχέση με την επιτήρηση του δημόσιου χώρου, τον κρατικό έλεγχο και την καταστολή, τις κοινωνικές διακρίσεις και την εξάλειψη του «εσωτερικού εχθρού» μέσα από την αφυδάτωση των θεμελιωδών δικαιωμάτων. Και, τέλος, φέρνει στο προσκήνιο ξανά τη στρατιωτική εξουσία μέσα από την στρατιωτικοποίηση της αστυνομίας, τη στρατιωτική επίθεση σε μετανάστες και πρόσφυγες, και φέρνει πιο κοντά τον γενικευμένο παγκόσμιο πόλεμο. Η υποχώρηση των κοινωνικών κινημάτων και, κατά συνέπεια, των δημοκρατικών και κοινωνικών κατακτήσεων δίνει έτσι το πάτημα για ένα δυστοπικό μέλλον αυξημένου αυταρχικού ελέγχου των κοινωνιών ενισχυμένου από την ΤΝ. Η ΤΝ γίνεται ήδη τεχνολογία της εξουσίας.

Το σημαντικότερο, η ΤΝ επιτείνει την αχαλίνωτη οικονομική μεγέθυνση των σύγχρονων κεφαλαιοκρατικών κοινωνιών. Όπως κάθε άλλη τεχνολογική επανάσταση, έτσι και η επανάσταση της ΤΝ απαιτεί πολλαπλασιασμό της κατανάλωσης ενέργειας και υλικών πόρων. Σε έναν πλανήτη στο χείλος της ανεπίστρεπτης οικολογικής αποσταθεροποίησης εξαιτίας της τριπλής κρίσης του κλίματος, της βιοποικιλότητας και της μόλυνσης, οι αυξήσεις κατανάλωσης ενέργειας/πόρων που αναμένονται από την ανάπτυξη και χρήση της ΤΝ τα επόμενα χρόνια είναι η σπρωξιά στον γκρεμό.

Όσο και αν εμφανίζεται δυσοίωνο, το μέλλον που μας ανοίγουν οι δυνατότητες της ΤΝ παραμένει ανοιχτό. Το πώς θα το καθορίσουμε είναι ίσως ένα από τα καίρια ζητήματα της εποχής, γιατί μας πηγαίνει στην καρδιά της πολιτικής: ποιος έχει την εξουσία και πώς την ασκεί. Και για να έχουμε πιθανότητες να το καθορίσουμε, πρέπει καταρχάς να τσακίσουμε κάθε ιδεολογία που εξοβελίζει την πολιτική από το υφιστάμενο πλαίσιο συζήτησης γύρω από την ΤΝ, όπως τις ιδεολογίες του συντηρητισμού (που ισχυρίζονται ότι δεν πρέπει να μετασχηματίσουμε τις υφιστάμενες κοινωνικές δομές μέσα από τα επιτεύγματα της ΤΝ), του τεχνο-ντετερμινισμού (που ισχυρίζεται ότι δεν μπορούμε να επηρεάσουμε την εξέλιξη της ΤΝ, γιατί είναι αυτόνομη), της μη ευθύνης (που ισχυρίζεται πως δεν υπάρχει κοινωνική δύναμη στο τιμόνι της ΤΝ, γιατί παράγει αποτελέσματα με αυτόνομο τρόπο), ακόμη και της ίδιας της απόδοσης «νοημοσύνης» στην ΤΝ (που αποκόπτει τη φύση της λειτουργίας της από τη συλλογική κοινωνική μας διάνοια χωρίς την οποία θα ήταν κενό δοχείο).

Αντώνης Μπρούμας

Ο μετασχηματισμός του δημόσιου χρόνου

Δύο κούρσες διεξάγονται πίσω από το φάντασμα της ΤΝ: η επιστημονική έρευνα και ο κεφαλαιοκρατικός ανταγωνισμός με πολιτική ώθηση. Ο δεύτερος τρέχει πιο γρήγορα και πιέζει προς την παραχώρηση θεσμικών λειτουργιών στην ΤΝ. Παρότι κάποιες επιμέρους δυνατότητες της τεχνολογίας είναι ωφέλιμες, οι μαζικές επιπτώσεις της είναι ταχύτατες και προλαβαίνουν κάθε κριτική εκτίμηση, καθώς η παγκόσμια κοινότητα των χρηστών μαγεύτηκε και, απερίσκεπτα, άρχισε να την τροφοδοτεί. Εισερχόμαστε σε μια εποχή όπου πρώιμες εφαρμογές ΤΝ μετασχηματίζουν τον δημόσιο χρόνο της κοινωνικής συνύπαρξης. Διαπιστώνουμε:

α) Μια επιτάχυνση της ροής πληροφορίας με όρους αυτοματισμού. Η επιτάχυνση της ροής της πληροφορίας συναρτάται με τη μείωση του ανθρώπινου παράγοντα στην παραγωγή γνώσης και με την απώλεια του κοινωνικού ελέγχου επί του δημόσιου χρόνου. Στο υποκειμενικό πεδίο, η επιτάχυνση των γεγονότων της μοναχικής συνείδησης ισοδυναμεί με απώλεια του χρόνου της περίσκεψης και της ανάπαυλας, και στο διυποκειμενικό πεδίο με απώλεια του δημόσιου αναστοχασμού, της παρρησίας και της συλλογικά διαβεβουλευμένης δράσης.

β) Μια ισοπέδωση της ιστορικότητας που συνεπάγεται την επικράτηση του τουριστικού χρόνου. Η ψηφιακή επιτάχυνση περιστέλλει τον δημόσιο χρόνο στην ανταλλακτική αξία και την καταναλωτική αρχή, και κατακερματίζει την ιστορικότητα σε πολλαπλές υπερκειμενικές (hyper-textual) αφηγήσεις με παραμέτρους πολλαπλών επιλογών. Μια τάση που ενισχύεται από τη μετατόπιση της επικοινωνίας από τη σχέση ανθρώπου προς άνθρωπο και τον συντονισμό ανθρώπου και μηχανής προς την αλληλεπίδραση μηχανής προς μηχανή (internet of things).

γ) Μια νέα μορφή της επιβολής του παρελθόντος επί του μέλλοντος με τον τρόπο της αναδρομικής στατιστικής πρόγνωσης. Τα LLMs (Μεγάλα Γλωσσικά Μοντέλα) μιμούνται στατιστικά τη γλώσσα που ήδη έχουν δημιουργήσει οι χρήστες, παράγοντας ανακυκλωμένες πληροφορίες στη βάση προτύπων. Δηλαδή αναπαράγουν το θεσμισμένο φαντασιακό και τα κυρίαρχα στερεότυπα που στατιστικά υπερισχύουν. Συχνά εμπλουτισμένα με «ψευδαισθήσεις», ψευδείς συνθετικές πληροφορίες, όπως τα ψηφιακά απολιθώματα, εσφαλμένα στοιχεία που διατηρούνται σε βάσεις δεδομένων εκπαίδευσης μοντέλων ΤΝ.

Η ανθρώπινη υποκειμενικότητα υπήρξε παραδοσιακά ο κατεξοχήν φορέας του λόγου, το έλλογο υποκείμενο. Στο βαθμό που το λέγειν γινόταν αντιληπτό ως μίμηση μιας ανώτερης υποκειμενικότητας, του Θεού, το ομιλούν υποκείμενο θεωρούνταν ως φερέφωνο, δηλαδή φορέας αιωνιότητας. Στον βαθμό που το λέγειν αποδιδόταν αποκλειστικά στην ανθρώπινη υποκειμενικότητα, το ομιλούν υποκείμενο θεωρούνταν αυτεξούσιο, δηλαδή αρχή του μέλλοντος.

Η ΤΝ αναιρεί αυτή τη συσχέτιση του λόγου με την ανθρώπινη υποκειμενικότητα. Η ιδιότητα του λέγειν περιστέλλεται στην τεχνική, ως υπο-λειτουργία του τεύχειν. H TN πραγματώνει ένα ελλειπτικό γλωσσικό μοντέλο που βασίζεται στη θεωρία της πληροφορίας του Κλοντ Σάνον [Claude Shannon], και αποτελείται από τέσσερα στοιχεία: την πηγή, τον πομπό, τον δέκτη και το κανάλι. Δεν απαιτείται ανθρώπινος παράγοντας αν η πηγή και ο δέκτης είναι υπολογιστές. Είναι μια ψηφιακή κωδικοποίηση.

Έτσι συγκροτείται η ψηφιακή εργαλειακή ορθολογικότητα που φαίνεται ως εάν να κατείχε υποκειμενικότητα. Μα γνωρίζουμε εξ ορισμού ότι η ΤΝ, ως τεχνητό ψηφιακό σύστημα, δεν κατέχει εσωτερικότητα, άρα ούτε υποκειμενικότητα, πρόκειται δηλαδή για άψυχο ον καθ’ εαυτό και όχι για έμψυχο ον δι’ εαυτό. Με αριστοτελικούς όρους, δεν κατέχει εντελέχεια, ούτε τελικότητα. Μα μπορεί να μιμείται την υποκειμενικότητα, αποτελεί δηλαδή ένα μιμητικό τεχνούργημα.

O γλωσσολόγος Ρομάν Γιακομπσόν [Roman Jakobson], αντιθέτως, αναλύει τη γλωσσική πράξη με βάση ένα επικοινωνιακό μοντέλο στο οποίο συμμετέχουν έξι βασικοί παράγοντες – ο αποστολέας, ο παραλήπτης, το μήνυμα, ο κώδικας, το πλαίσιο αναφοράς και το κανάλι. Θα παρατηρήσουμε ότι προϋποθέτουν αναγκαία τον ανθρώπινο παράγοντα ως υποκείμενο και συντάκτη. Είναι ένα διυποκειμενικό λέγειν.

Εύκολα κατανοούμε ότι το διυποκειμενικό λέγειν αποτελεί ικανή και αναγκαία προϋπόθεση κάθε ψηφιακής κωδικοποίησης. Ο ψηφιακός διαχωρισμός της υποκειμενικότητας από το λέγειν είναι διαχωρισμός της νοημοσύνης από τη δεξιότητα.

Όμως μια μηχανή που μιμείται την ανθρώπινη ανταπόκριση είναι εργαλείο άνωθεν χειραγώγησης, ασχέτως νοημοσύνης. Το «τεστ Turing», που ζήτησε να θέσει τα κριτήρια μιας σκεπτόμενης μηχανής, έχει καταστεί τεστ της ανθρώπινης ευπιστίας. Η ΤΝ, ως ψηφιακός τελεστής, περιτυλίγει την κοινωνική πραγματικότητα και όχι το αντίθετο, μετά την πανδημική μετατόπιση βασικών κοινωνικών λειτουργιών στον ψηφιακό κόσμο. Έτσι διαβρώνεται το κοινωνικό φαντασιακό μιας κοινής πραγματικότητας.

Τα παραπάνω αφορούν την εσώτερη διάσταση του κοινωνικού χρόνου που αφορά την ανθρώπινη συνείδηση. Όμως ριζώνουν στην εξωτερική, φυσική διάσταση. Η ΤΝ υποστηρίζεται από τεράστια συστήματα εξόρυξης, μονάδες εκμετάλλευσης εργασίας και αλυσίδες εφοδιασμού παγκοσμίως. Το υλισμικό της ΤΝ, στο τρέχον πλαίσιο ανάπτυξης της τεχνολογίας κυοφορεί μια οικολογική, εκτός από κοινωνική, ανατροπή.

Όπως πάντα, το έσχατο ερώτημα είναι πολιτικό: Ποιος ελέγχει τους παρόχους της ΤΝ;

Αλέξανδρος Σχισμένος,

δρ. Φιλοσοφίας