Οδηγούμαστε σε μια τούρμπο-ψηφιοποίηση

ΣΥΝΕΝΤΕΥΞΗ ΜΕ ΤΟΝ ΡΑΪΝΕΡ ΜΟΥΛΧΟΦ, ΦΙΛΟΣΟΦΟ ΣΤΟ ΤΕΧΝΙΚΟ ΠΑΝΕΠΙΣΤΗΜΙΟ ΤΟΥ ΒΕΡΟΛΙΝΟΥ

Τη συνέντευξη πήρε
ο Δημήτρης Γκιβίσης

Το τελευταίο διάστημα, με αφορμή την κρίση του κορωνοϊού, πολλοί εκφράζουν τις ανησυχίες τους σχετικά με τα ψηφιακά δικαιώματα. Τις συμμερίζεσαι ή θεωρείς ότι είναι υπερβολικές;
Μου φαίνεται ότι η κατάσταση σε πολλές ευρωπαϊκές χώρες, που περιλαμβάνει μεγάλης κλίμακας λοκντάουν, κλείσιμο σχολείων, εργασία στο σπίτι, οδηγεί σε αυτό που θα μπορούσε να ονομαστεί «τούρμπο-ψηφιοποίηση». Αυτό δεν αφορά μόνο τις εφαρμογές παρακολούθησης του κορωνοϊού. Επιταχύνουμε γρήγορα τον ψηφιακό μετασχηματισμό σε πολλούς τομείς της καθημερινής ζωής, από τη μετάβαση στις ψηφιακές αίθουσες, έως τις ώρες που ξοδεύουμε κάθε μέρα σε βιντεοδιασκέψεις, ή κάνοντας τα logistics της Amazon να αναπτύσσονται όπως ποτέ άλλοτε. Παρόλο που οι τοπικές επιχειρήσεις μεσαίου μεγέθους υποφέρουν, η μεγάλη τεχνολογία προφανώς επωφελείται, όχι μόνο μέσω των άμεσων εσόδων αλλά και λόγω του μεγάλου όγκου πρόσθετων δεδομένων που παράγονται ακόμη και σε περιοχές που προηγουμένως ήταν λιγότερο «καταγεγραμμένες». Οι ανάγκες για νέα ψηφιακά εργαλεία ήρθαν τόσο ξαφνικά, ώστε μετά από μια δεκαετία ευρωπαϊκού δισταγμού προς τους ψηφιακούς μετασχηματισμούς, τώρα τα έχουμε με μια ταχύτητα όπου οι δημόσιες και οι πολιτικές συζητήσεις σχετικά με την προστασία των δεδομένων και άλλες επιπτώσεις δεν μπορούν να συμβαδίσουν. Αυτός είναι ο λόγος για τον οποίο πράγματι ανησυχώ.

Τα αποτελέσματα είναι βαθιά ανησυχητικά

Ποιοι κίνδυνοι υπάρχουν από την αύξηση της ψηφιακής επιτήρησης και την μεγάλη συγκέντρωση δεδομένων που γίνεται από αρκετές κυβερνήσεις (Κίνα, Νότια Κορέα, Ισραήλ κλπ) για την αντιμετώπιση της πανδημίας;
Υπάρχουν σοβαροί κίνδυνοι και στην Ευρώπη, αν και τα ευρωπαϊκά προγράμματα για μια εφαρμογή ανίχνευσης του κορωνοϊού τείνουν να φέρουν στο όνομά τους τη διατήρηση της «ιδιωτικής ζωής». Σίγουρα, σε σύγκριση με τις χώρες όπου χρησιμοποιούνται τα GPS, οι μέθοδοι εντοπισμού του κορωνοϊού με τις επερχόμενες εφαρμογές (χρησιμοποιώντας Bluetooth), είναι σχετικά φιλικές στην ιδιωτική ζωή, γιατί δεν θα καταγράφουν που πήγατε αλλά ποιους συναντήσατε, δηλαδή ποιους πλησιάσατε σε απόσταση δύο μέτρων ή λιγότερο για μερικά λεπτά. Ωστόσο, πέρασα την προηγούμενη εβδομάδα συν-γράφοντας μια εκτίμηση των επιπτώσεων στην προστασία των δεδομένων από τα ευρωπαϊκά προγράμματα εντοπισμού (π.χ. PEPP-PT), και τα αποτελέσματα είναι βαθιά ανησυχητικά. Πρώτον, ακόμη και αν θα είναι εθελοντική η εγκατάσταση της εφαρμογής, πολλοί θα αναγκαστούν ουσιαστικά να την χρησιμοποιήσουν, γιατί η άρση των περιορισμών του λοκντάουν ενδέχεται να συνδεθεί ατομικά με το αν θα ληφθούν προληπτικά μέτρα. Η εμφάνιση της εφαρμογής στο τηλέφωνο θα μπορούσε εύκολα να γίνει μια προϋπόθεση για την είσοδο σε δημόσια ή ιδιωτικά κτίρια, σχολεία, πανεπιστήμια, χώρους εργασίας, όπου οι εργοδότες πιθανόν να είναι μεταξύ των πρώτων που θα υιοθετήσουν αυτήν την πολιτική που θα μπορούσε να τους δώσει το δικαίωμα να ανοίξουν ξανά τα εργοστάσιά τους γρηγορότερα. Δεύτερον, οι χειριστές αυτών των συστημάτων (τα κράτη), θα μπορούν να εντοπίζουν το ιστορικό επαφών των χρηστών, των μολυσμένων ή όλων, ανάλογα με την εφαρμογή. Υπάρχει υψηλός κίνδυνος να υπάρξουν αιτήματα για δευτερεύουσα χρήση αυτών των δεδομένων, π.χ. για ποινική δίωξη. Δεν θα υπάρχουν τεχνικά, μόνο πολιτικά εμπόδια σε τέτοιες δευτερεύουσες εφαρμογές, και η πολιτική μπορεί να αλλάξει ταχύτατα την κατεύθυνση του ανέμου, ιδιαίτερα σε στιγμές κρίσης, όπως γνωρίζουμε. Τρίτον, οι εμπορικές εταιρείες, συμπεριλαμβανομένων των χειριστών πλατφόρμας (Google, Apple) και οι καθιερωμένες υποδομές παρακολούθησης Bluetooth σε εμπορικά κέντρα ή σε διαφημιστικές οθόνες στους δρόμους, θα επωφεληθούν από την εφαρμογή, καθώς οι άνθρωποι θα χρησιμοποιούν Bluetooth όλη την ημέρα. Μπορούν να συλλέξουν πολλά πρόσθετα δεδομένα σχετικά με τις κινήσεις τους, κατάλληλα για την σκιαγράφηση του προφίλ της συμπεριφοράς, και την έξοδο των χρηστών από την ανωνυμία.

Πώς μπορεί να προφυλαχτεί σήμερα η ιδιωτικότητα σε ευρωπαϊκό επίπεδο;
Πρέπει πραγματικά να δώσουμε μεγαλύτερη προσοχή στις κοινωνικές επιπτώσεις των ανώνυμων μαζικών δεδομένων. Οι προγνωστικές αναλύσεις, η επιστήμη των δεδομένων, και η μηχανική μάθηση (ML), επιτρέπουν την εξαγωγή πολλών πληροφοριών από δεδομένα που δεν θεωρούνται επίσημα ως προσωπικές πληροφορίες. Το πρόβλημα των συγκεντρωτικών δεδομένων εκατομμυρίων ανώνυμων χρηστών, είναι ότι επιτρέπουν τη δημιουργία προφίλ συμπεριφοράς, ταξινομώντας τους μη προσδιορισμένους χρήστες σύμφωνα με κριτήρια, όπως: πλούσιοι ή φτωχοί, ψυχολογικές διαθέσεις, προβλήματα υγείας, εργασιακή απόδοση, κλπ. Φυσικά, μπορούν επίσης να μαντέψουν το φύλο, το εθνικό υπόβαθρο, και τον σεξουαλικό προσανατολισμό, από τα ανώνυμα ίχνη δεδομένων που αφήνουμε στο διαδίκτυο. Αλλά είναι σημαντικό να δούμε ότι υπάρχει μια νέα μορφή κοινωνικής επιλογής που καθοδηγείται από τα δεδομένα, η οποία δεν ακολουθεί πιστά αυτές τις «παραδοσιακές» κατηγορίες διακρίσεων. Η αλγοριθμική λήψη αποφάσεων βάζει τους ανθρώπους σε αδιαφανείς κουβάδες σύμφωνα με τα «αποτελέσματα ρίσκου», για παράδειγμα, όπως το ρίσκο αυτού που οδηγεί μεθυσμένος θα καθορίσει την ατομική του τιμή ασφάλισης αυτοκινήτου. Τα δεδομένα που λαμβάνονται από πλατφόρμες eLearning μπορούν να χρησιμοποιηθούν για την εκπαίδευση ενός μοντέλου μηχανικής μάθησης που θα μπορούσε να χρησιμοποιηθεί για την πρόσληψη αλγορίθμων. Επίσης, η προληπτική αστυνόμευση μπορεί να αξιοποιήσει σύνολα ανώνυμων και συμπεριφοριστικών δεδομένων. Με τον Γενικό Κανονισμό Προστασίας Δεδομένων της Ευρωπαϊκής Ένωσης (GDPR), έχουμε ένα από τα αυστηρότερα νομικά πλαίσια για την προστασία των δεδομένων στον κόσμο. Αλλά είναι σε μεγάλο βαθμό αδύναμο απέναντι στην επιβλαβή χρησιμοποίηση των ανώνυμων μαζικών δεδομένων. Όλοι συμφωνούμε στην συλλογή αυτών των δεδομένων από τα καθημερινά μας ίχνη στο διαδίκτυο, χρησιμοποιώντας το Gmail, το Facebook, και τις μηχανές αναζήτησης. Αλλά τα δεδομένα που αποκαλύπτετε δεν είναι η επιχείρησή σας και μόνο, μπορεί ενδεχομένως να βλάψουν και άλλα άτομα. Αν νομίζετε ότι «δεν έχω τίποτα να κρύψω», συμβάλετε στη βάση δεδομένων που επιτρέπει στην μεγάλη τεχνολογία να μελετήσει την συμπεριφορά των ανθρώπων, προκειμένου να ξεχωρίσει τους δήθεν ριψοκίνδυνους, ανθυγιεινούς, φτωχούς, επικίνδυνους κλπ, και να τους αντιμετωπίσει με διαφορετικό τρόπο.

Σε περίπτωση αλγοριθμικής διακυβέρνησης

Πώς μπορούμε να απαντήσουμε σήμερα στο δίλημμα προστασία της προσωπικής ελευθερίας από την μια πλευρά, και προστασία της δημόσιας υγείας από την άλλη;
Αυτό είναι ένα δύσκολο ζήτημα που θα πρέπει να αποτελέσει μια δημόσια συζήτηση. Ωστόσο, πιστεύω ότι είναι ένα ψευτοδίλημμα. Είναι ζωτικής σημασίας η προστασία των δεδομένων να μην περιορίζει την προστασία της ιδιωτικής ζωής και της ελευθερίας. Εάν η «τούρμπο-ψηφιοποίηση» οδηγήσει στη συλλογή περισσότερων (ανώνυμων) μαζικών δεδομένων, θα υπάρξουν δυνητικά σοβαρές κοινωνικές επιπτώσεις πέρα από την εξασθένιση των προσωπικών ελευθεριών, μερικές καλές, όπως οι ιατρικές ανακαλύψεις, και κάποιες κακές, όπως τα προφίλ συμπεριφοράς, η κοινωνική επιλογή, η πολιτική χειραγώγηση. Ακόμα και αν διατηρηθεί το απόρρητό μας, τα θεμελιώδη δικαιώματά μας μπορούν να παραβιαστούν και να απειληθεί η δημοκρατία μας. Αυτός είναι ο λόγος για τον οποίο πρέπει όχι μόνο να φροντίζουμε τις προσωπικές μας ελευθερίες, αλλά και να ρωτάμε για το είδος της κοινωνίας στην οποία θα θέλαμε να ζήσουμε, όσον αφορά την αλγοριθμική διακυβέρνηση και τον έλεγχό μας κυρίως από τα δεδομένα και όχι από τις κοινές συζητήσεις.

Πρόσφατα έγραψες ότι ο κορωνοϊός, και οι αντιδράσεις σε αυτόν, επιταχύνουν τη βιοπολιτική μετατόπιση του ψηφιακού καπιταλισμού. Θα μας πεις περισσότερα;
Στη βιοπολιτική μετατόπιση του ψηφιακού καπιταλισμού, η τεχνολογία των δεδομένων δεν χρησιμοποιείται πλέον κυρίως με τη χειραγώγηση της συμπεριφοράς των ατόμων στην αγορά (π.χ. δείχνοντάς τους στοχευμένες διαφημίσεις), αλλά με την αλγοριθμική διαχείριση των πληθυσμών, από την υγεία έως την κοινωνική πρόνοια και την πολιτική ψηφοφορία. Βρισκόμαστε τώρα στη δεκαετία όπου η βαθμολόγηση κινδύνων και τα προγνωστικά ανάλυσης έχουν ξεφύγει από τις πολύ συγκεκριμένες οικονομικές εφαρμογές, όπως η ασφαλιστική κάλυψη και η πιστοληπτική αξιολόγηση, για να σχηματίσουν ένα ολοκληρωμένο παράδειγμα σχετικά με το πως θα χειριστούν τους ανθρώπους (χρήστες, πελάτες, ψηφοφόρους). Η πρόσβαση στην εκπαίδευση, στις θέσεις εργασίας, στην κοινωνική ασφάλιση, στις υπηρεσίες πρόνοιας, στην μουσική, στα διαμερίσματα κλπ, θα αποφασιστεί από τεχνικές συμπεριφοριστικής βαθμολόγησης. Αυτό σημαίνει ότι δεν κυβερνούν πλέον τον πληθυσμό, αλλά τον διαχειρίζονται, γιατί αυτός είναι ένας πολύ απρόσωπος τρόπος ελέγχου των κινήσεων κατά μέσο όρο. Στην ψηφιακή βιοπολιτική, η τεχνολογία δεδομένων δεν ενδιαφέρεται για εσάς, το άτομο, τις σκέψεις σας, τα μυστικά και τις ταυτότητές σας, αλλά για τις ομάδες και τα εικονικά σύνολα που μπορούν να συνδεθούν αλγοριθμικά από την συμπεριφοριστική ομοιότητα, την αντιστοίχιση σχεδίων, και τις κοινές ευαισθησίες.

Σημ: Ο Ράινερ Μούλχοφ ειδικεύεται στα δεοντολογικά ζητήματα της τεχνητής νοημοσύνης, στον κοινωνικό αντίκτυπο της ψηφιοποίησης, στην προστασία των δεδομένων, και στις επιπτώσεις των αυταρχικών πολιτικών μοντέλων.

 

Rainer Mühlhoff

https://rainermuehlhoff.de/en/