Οι αλγόριθμοι των φυλετικών διακρίσεων

Του Δημήτρη Κοτσιφάκου*

Ruha Benjamin «Race After Technology: Abolitionist Tools for the New Jim Code» (Ο φυλετισμός της τεχνολογίας: Εργαλεία για την κατάργηση του νέου Jim Code), Polity Press, Cambridge, 2019

Ένα από τα κυρίαρχα χαρακτηριστικά του εικοστού πρώτου αιώνα, ίσως το σημαντικότερο σε αυτή τη φάση, είναι η μεγάλης έκτασης εμπλοκή της κοινωνίας με τις ψηφιακές τεχνολογίες. Πολλοί θεωρητικοί της Αριστεράς, με κριτικό στοχασμό, έχουν αρχίσει να καταγράφουν προβλήματα τα οποία αναδεικνύονται μέσα από αυτήν την έντονη χρήση της τεχνολογίας. Την καταγραφή των προβλημάτων, τα οποία δημιουργούνται από τη ραγδαία εξέλιξη του ψηφιακού τεχνικού πολιτισμού, επιχειρεί η Ruha Benjamin στο νέο της βιβλίο με τον σημασιολογικά πολυεπίπεδο τίτλο «Race After Technology: Abolitionist Tools for the New Jim Code», χωρίς η συγγραφέας να μένει στα προφανή. Η εργασία της αξίζει να συζητηθεί γιατί βοηθά τους ερευνητές, τους σπουδαστές και τους δημοκρατικούς πολίτες να κατανοήσουν καλύτερα τη σχέση όλων μας με τη νέα ψηφιακή εποχή και τεχνολογία, την αναπαραγωγή ιδεολογικών στοιχείων ρατσισμού και τη διάδοση «αρνητικών» αξιών ή ηθικού κώδικα.

Το βιβλίο εντάσσεται στον ευρύτερο φιλοσοφικό λόγο σχετικά με τις νέες ψηφιακές τεχνολογίες και θα πρέπει να διαβαστεί και να προβληματίσει καθώς βιώνουμε ήδη τα όσα επιβάλλει στους πολίτες η νέα ψηφιακή εποχή, ειδικά μετά την πανδημία. Από τις καθημερινές εφαρμογές έως τους περίπλοκους αλγόριθμους, η Ruha Benjamin παραβλέποντας τη διαφημιστική εκστρατεία των νέων τεχνολογιών, φέρνει στο φως το γεγονός ότι η σημερινή αυτοματοποίηση έχει τη δυνατότητα να κρύβει και να βαθαίνει τις παλαιότερες διακρίσεις, ενώ εμφανίζεται ουδέτερη και μάλιστα καλοπροαίρετη σε σύγκριση με το ρατσισμό προηγούμενων εποχών. Ο «Jim Code», παίζοντας και με την έννοια του κώδικα προγραμματισμού, παραπέμπει στους Jim Crow Laws, περιοριστικούς νόμους που περιόριζαν την ελευθερία των Αφροαμερικανών και διασφάλιζαν τη διαθεσιμότητά τους ως φθηνού εργατικού δυναμικού μετά την κατάργηση της δουλείας κατά τη διάρκεια του εμφυλίου πολέμου. Η Benjamin δείχνει έτσι ότι με μια σειρά διακριτικών σχεδιασμών, οι νέες τεχνολογίες κωδικοποιούν νέες μορφές ανισότητας, διευρύνουν και αναπαράγουν κοινωνικές διαιρέσεις, με τελικό στόχο, να επανακαθορίσουν εντός του νέου ψηφιακού περιβάλλοντος, παλαιότερες φυλετικές προκαταλήψεις. Επιπλέον, παρουσιάζει περιπτώσεις για κάποια είδη νέων τεχνολογιών τα οποία σχεδιάζονται για να καθαγιάσουν την κοινωνική αδικία εντός της καθημερινής ζωής.
Το βιβλίο μέσω ενός καλά ενημερωμένου κοινωνιολογικού σκεπτικού λειτουργεί ως κατευθυντήριος οδηγός καθώς, παρέχει εννοιολογικά εργαλεία για την απομυθοποίηση και αποκωδικοποίηση των σημερινών τεχνολογικών υποσχέσεων. Με αυτόν τον τρόπο, μας προκαλεί να αμφισβητήσουμε όχι μόνο τις τεχνολογίες οι οποίες αναπαράγουν ρατσιστικό περιεχόμενο και καταναλώνονται μαζικά, αλλά, και όσες κατασκευάζονται κρύβοντας ανάλογες προθέσεις. Κοινωνιολόγος, με σοβαρές εγκύκλιες σπουδές, η Ruha Benjamin παραθέτει ευρύτατες βιβλιογραφικές αναφορές για την ανάπτυξη των επιχειρημάτων της από δημοσιογραφικές πηγές έως φιλοσοφικές διατριβές, στατιστικές μελέτες ή προσωπικές ιστορίες. Οι διαιρέσεις και οι ανισότητες, όπως σημειώνει στην εισαγωγή, δεν είναι κάτι νέο. Το νέο στοιχείο βρίσκεται στον τρόπο με τον οποίο η υιοθέτηση των νέων ψηφιακών τεχνολογιών και η διάδοση της χρήσης των νέων ψηφιακών προϊόντων μεταφέρουν και αναπαράγουν παλαιότερες ιδεολογικές, κοινωνικές και πολιτικές ανισότητες.
Τα κεφάλαια της Ruha Benjamin, καλύπτουν παραδείγματα από καθημερινά χρονικά εταιρειών οι οποίες σχεδιάζουν και παράγουν νέες τεχνολογίες και σχετίζονται είτε με την αναπαραγωγή των διακρίσεων, είτε με την κακομεταχείριση, είτε ακόμη και με τη διαιώνιση του ρατσισμού μέσω αυτών των τεχνολογιών. Τέτοια παραδείγματα θα μπορούσαν να είναι τα αυτοματοποιημένα συστήματα επιτήρησης τα οποία παράγουν ειδοποιήσεις σε σχέση με το τι ο χειριστής ή ο εγκαταστάτης θεωρεί επικίνδυνο ή οι επιλογές ελέγχου του κρατικού μηχανισμού σε σχέση με το κυνήγι του «πολιτικού εγκλήματος» έναντι του ποινικού, με ό,τι θεωρεί ή εκτιμά ο χρήστης ότι είναι «πολιτικά επικίνδυνο». Βιώνουμε ήδη την επέκταση της επιτήρησης με την καταγραφή και χρήση τέτοιων στοιχείων που αφορούν τις κινήσεις, τη διαμονή και την εκπαίδευση των ατόμων με αφορμή την πανδημία.
Εποπτικά μιλώντας, η κύρια θεωρητική βάση του βιβλίου είναι ότι, ενώ παλαιότερα στην Αμερική οι φυλετικές διακρίσεις (Jim Crow Code) ήταν ένα βασικό μέσο για την επίτευξη οικονομικών και κοινωνικών διακρίσεων, σήμερα αυτού του τύπου οι διακρίσεις επιταχύνονται και επεκτείνονται μέσω των νέων ψηφιακών τεχνολογιών.
Βιβλία όπως το «Race After Technology» διαθέτουν σπάνια σαφήνεια και στόχευση. Στις μέρες μας διακρίνουμε μια ολοένα και αυξανόμενη τάση ερευνητικών εργασιών η οποία εξετάζει με συγκεκριμένο και κριτικό τρόπο την αναπαραγωγή ρατσιστικών ή φυλετικών διακρίσεων μέσω διαδικτυακών πρακτικών. Παρ’ όλα αυτά, θα πρέπει να παρατηρήσουμε ότι στα χρόνια μας, πλέον, υπάρχει μια γενιά η οποία έχει μεγαλώσει με το διαδίκτυο και έχει αρχίσει να γράφει όχι μόνο από ερευνητική διάθεση, αλλά και από την οπτική των ανθρώπων των οποίων η «ψηφιακή ζωή» καλύπτει το μεγαλύτερο μέρος απ’ όσα μπορούν να θυμούνται. Ωστόσο, αυτό το οποίο λείπει, είναι μια ενοποιητική θεώρηση για το πώς η τεχνολογία ενσωματώνει στοιχεία όπως η φυλή, το φύλο κ.λπ., σε ένα πλαίσιο κριτικής ανάλυσης. Αυτό το πλαίσιο θα επιτρέπει στους ακαδημαϊκούς αλλά και στους δημοκρατικούς πολίτες να μιλούν με διακριτό και συγκεκριμένο τρόπο για όσα πρέπει να γίνουν ώστε η ψηφιακή ζωή να διαθέτει στοιχεία αποδοχής της διαφορετικότητας, να είναι πιο ανεκτή, πιο ανεκτική και πιο δημοκρατική. Το βιβλίο της Benjamin δίνει την ευκαιρία στην Αριστερά αλλά και σε όλους τους ενεργούς και δημοκρατικούς πολίτες να εκκινήσουν διαδικασίες οι οποίες να συσχετίσουν τα επιτεύγματα του νέου ψηφιακού πολιτισμού με κρίσιμα πολιτικά θέματα.
Οι προβληματισμοί αυτοί ξεκινούν από το δεδομένο ότι η «ψηφιακή κοινωνία» είναι και λειτουργεί ως ιδεολογικός μηχανισμός και αποτελεί αναπόσπαστο επικάλυμμα παραδοσιακών αντιθέσεων, οι οποίες λειτουργούν κατανεμητικά μέσα στην κοινωνία. Με βάση αυτήν την αφετηρία, θα πρέπει να τεθούν εκ νέου από τα απελευθερωτικά κινήματα χειραφέτησης τα θεωρητικά αλλά και πρακτικά ζητήματα αρχών και αξιών, τα οποία αφορούν την ισότιμη μεταχείριση και την αποτροπή των αποκλεισμών. Για να συμβεί αυτό θα πρέπει, πέρα από τεχνοφοβικά αντανακλαστικά και θεωρίες ισοπέδωσης ή τεχνοκρατικής επιβολής, να ισχύει η διαφάνεια και ο έλεγχος από την πηγή της γέννησης της καινοτομίας και το σχεδιασμό, μέχρι την τελική χρήση των τεχνολογιών, τον τελικό αποδέκτη, τον ενεργά χειραφετημένο πολίτη. Με άλλα λόγια, να «σπάσoυν» οι κώδικες και να ελεγχθούν οι αλγόριθμοι με μια πολιτική ίσων δικαιωμάτων, όπως καταργήθηκαν οι νόμοι περί δουλείας. Η ψηφιακή τεχνολογία, όπως και κάθε προηγούμενη μορφή τεχνολογίας, παράγει συστημικά αποτελέσματα τα οποία έχουν μακροχρόνιο ορίζοντα συνεπειών και εν δυνάμει καθορίζει αλλά και καθορίζεται από το παγκόσμιο πολιτικό σύστημα. Υπό αυτό το πρίσμα, η Αριστερά, και οι σύμμαχοι της, έχουν την υποχρέωση να αναλάβουν πρωτοβουλίες αξιοποίησης και συσχέτισης του νέου ψηφιακού πολιτισμού με βάση τις δημοκρατικές προσεγγίσεις και παραδόσεις.

* Δρ Τμήματος Πληροφορικής, Πανεπιστήμιο Πειραιώς, καθηγητής Ηλεκτρονικής ΕΠΑΛ.