Η Τεχνητή Νοημοσύνη (Τ.Ν.) αποτελεί μία από τις σημαντικότερες τεχνολογικές εξελίξεις του 21ου αιώνα. Οι εφαρμογές της επεκτείνονται σε όλους σχεδόν τους τομείς της ανθρώπινης δραστηριότητας, ενώ η ταχύτητα με την οποία αναπτύσσεται δημιουργεί από τη μια προσδοκίες και από την άλλη έντονες ανησυχίες. Το ερώτημα είναι αν αυτή η αλλαγή θα υπηρετήσει το δημόσιο συμφέρον ή θα οδηγήσει σε μεγαλύτερες κοινωνικές ανισότητες. Το ζήτημα αυτό αποκτά ιδιαίτερη σημασία σε τρεις τομείς με άμεσο αντίκτυπο στη συλλογική ζωή: την αντιμετώπιση της κλιματικής κρίσης, την υγεία και την παιδεία.
Κλιματική κρίση
Η συμβολή της Τ.Ν. στην αντιμετώπιση της κλιματικής κρίσης είναι ήδη σημαντική. Μέσω της επεξεργασίας τεράστιων όγκων δεδομένων, μπορεί να προβλέπει ακραία καιρικά φαινόμενα, να ενισχύει τα συστήματα έγκαιρης προειδοποίησης για πυρκαγιές ή πλημμύρες και να βελτιστοποιεί τη διαχείριση των ΑΠΕ. Στη γεωργία ακριβείας, αλγόριθμοι αναλύουν δεδομένα από αισθητήρες και δορυφόρους, επιτρέποντας τη μείωση της κατανάλωσης νερού, λιπασμάτων και φυτοφαρμάκων, περιορίζοντας το περιβαλλοντικό αποτύπωμα της αγροτικής παραγωγής και αυξάνοντας την αποδοτικότητα των καλλιεργειών.
Όμως η κλιματική κρίση είναι βασικά πρόβλημα πολιτικών επιλογών, παραγωγικού μοντέλου και κατανομής ισχύος. Αν η συζήτηση περιορίζεται στην αναζήτηση τεχνικών λύσεων, τότε αποκρύπτονται οι κοινωνικές και οικονομικές αιτίες που παράγουν την κρίση.
Επιπλέον, η ίδια η ανάπτυξη της Τ.Ν. έχει σημαντικό περιβαλλοντικό κόστος. Η εκπαίδευση και η λειτουργία μεγάλων γλωσσικών μοντέλων απαιτούν τεράστιες υπολογιστικές υποδομές, οι οποίες καταναλώνουν μεγάλες ποσότητες ηλεκτρικής ενέργειας και νερού για την ψύξη τους. Παράλληλα, η συνεχής ανανέωση του εξοπλισμού οδηγεί σε αύξηση των ηλεκτρονικών αποβλήτων και σε μεγαλύτερη εξάρτηση από την εξόρυξη σπάνιων πρώτων υλών.
Εκπαίδευση και επιστημονική έρευνα
Η Τ.Ν. μπορεί να υποστηρίξει την εξατομικευμένη μάθηση, να προσαρμόσει το εκπαιδευτικό υλικό στις ανάγκες κάθε παιδιού, να βοηθήσει τους εκπαιδευτικούς στη δημιουργία διδακτικού υλικού, να αναλάβει χρονοβόρες διοικητικές εργασίες. Μπορεί επίσης να διευκολύνει την πρόσβαση των μαθητών με αναπηρία ενισχύοντας τη συμπεριληπτική εκπαίδευση. Από την άλλη πλευρά, όμως, υπάρχουν σοβαροί παιδαγωγικοί κίνδυνοι. Η υπερβολική εξάρτηση από τα συστήματα Τ.Ν. μπορεί να περιορίσει την ανάπτυξη της κριτικής σκέψης, να ενισχύσει την παθητική μάθηση και να υποβαθμίσει τη σχέση εκπαιδευτικού και παιδιού – μια σχέση που αποτελεί προϋπόθεση κάθε παιδαγωγικής διαδικασίας.
Ένας ακόμα σημαντικός κίνδυνος από τη χρήση της Τεχνητής Νοημοσύνης είναι το deskilling, δηλαδή η σταδιακή αποδυνάμωση ή απώλεια δεξιοτήτων λόγω της υπερβολικής εξάρτησης από αυτοματοποιημένα συστήματα. Όταν η αναζήτηση, η σύνθεση και η αξιολόγηση της γνώσης ανατίθενται όλο και περισσότερο σε αλγοριθμικά εργαλεία, οι χρήστες κινδυνεύουν να μετατραπούν σε παθητικούς καταναλωτές έτοιμων απαντήσεων.
Στην επιστημονική έρευνα, η Τεχνητή Νοημοσύνη μπορεί να αποτελέσει ένα εξαιρετικά ισχυρό εργαλείο επιτάχυνσης της ανακάλυψης γνώσης, όμως ταυτόχρονα δημιουργεί τον κίνδυνο η επιστήμη να μετατοπιστεί από τη δημιουργική διατύπωση νέων ερωτημάτων στην απλή επεξεργασία τεράστιων όγκων δεδομένων.
Προϋποθέσεις
Η συζήτηση γύρω από την Τεχνητή Νοημοσύνη προφανώς δεν περιορίζεται στη σφαίρα της τεχνολογίας. Αποτελεί ένα βαθιά πολιτικό και κοινωνικό ζήτημα, αφού αφορά τον τρόπο με τον οποίο οργανώνεται η γνώση, κατανέμεται η ισχύς και λαμβάνονται αποφάσεις που επηρεάζουν τη ζωή των ανθρώπων. Για τον λόγο αυτό, η αξιοποίηση της Τ.Ν. προϋποθέτει ένα σαφές πλαίσιο αρχών, εγγυήσεων και δημοκρατικού ελέγχου, ώστε να περιοριστούν οι κίνδυνοι που συνδέονται με τη χρήση της.
Βασική προϋπόθεση αποτελεί η διαφάνεια στη λειτουργία των αλγορίθμων, ιδιαίτερα όταν επηρεάζουν θεμελιώδη δικαιώματα των πολιτών ή χρησιμοποιούνται σε κρίσιμους τομείς, όπως η υγεία, η εκπαίδευση, η εργασία, η δικαιοσύνη και η δημόσια διοίκηση. Οι πολίτες πρέπει να έχουν τη δυνατότητα να γνωρίζουν πότε και με ποιον τρόπο χρησιμοποιούνται συστήματα Τ.Ν., ποια δεδομένα αξιοποιούν και ποια κριτήρια καθορίζουν τις αποφάσεις τους. Η διαφάνεια πρέπει να συνοδεύεται από ανθρώπινη εποπτεία, δυνατότητα αμφισβήτησης των αλγοριθμικών αποφάσεων και σαφείς μηχανισμούς λογοδοσίας.
Παράλληλα, η ενίσχυση της ανοιχτής επιστήμης και του λογισμικού ανοικτού κώδικα μπορεί να αποτελέσει σημαντικό αντίβαρο στη συγκέντρωση της ισχύος σε λίγες μεγάλες ιδιωτικές εταιρείες. Για τον ίδιο λόγο, εξίσου σημαντική είναι η ανάπτυξη δημόσιων υποδομών Τεχνητής Νοημοσύνης. Η γνώση, τα δεδομένα και οι υπολογιστικές υποδομές που απαιτούνται για την ανάπτυξη της Τ.Ν. αποτελούν στρατηγικούς κοινωνικούς πόρους και η διαχείρισή τους δεν μπορεί να αφήνεται αποκλειστικά στους μηχανισμούς της αγοράς.
Και φυσικά ιδιαίτερη σημασία έχει η προστασία και η διαχείριση των δεδομένων. Τα δεδομένα δεν αποτελούν απλώς εμπορεύσιμη πρώτη ύλη, αλλά αποτυπώνουν ανθρώπινες δραστηριότητες, κοινωνικές σχέσεις και προσωπικές πληροφορίες. Η χρήση τους πρέπει να διέπεται από αυστηρές αρχές προστασίας της ιδιωτικότητας και δημόσιου ελέγχου ώστε να μη μετατρέπονται σε εργαλείο επιτήρησης ή χειραγώγησης.
.
Τι είναι αλήθεια το δημόσιο συμφέρον;
Το δημόσιο συμφέρον δεν είναι το άθροισμα ατομικών συμφερόντων, είναι το σύνολο των θεσμών, των κανόνων και των κοινών αγαθών που επιτρέπουν σε όλους να αναπτύσσουν τις δυνατότητές τους με ισότητα και ελευθερία.
Το ερώτημα, λοιπόν, είναι αν η Τ.Ν. αυξάνει τη δυνατότητα των ανθρώπων να ζουν ελεύθερα ή αν τους κάνει περισσότερο εξαρτημένους.
Η Τ.Ν. δεν είναι εργαλείο· είναι ένας δρων μηχανισμός (socio-technical actor). Μπορεί να μην έχει πρόθεση όπως ένας άνθρωπος, έχει όμως λειτουργική αυτονομία, δηλαδή μπορεί να παράγει αποτελέσματα που δεν προβλέπονται πλήρως κατά τον σχεδιασμό της. Επιπλέον τείνει να υποκαθιστά την πολιτική και ηθική κρίση με μια λογική αλγοριθμικής διαχείρισης, όπου σύνθετα ανθρώπινα και κοινωνικά ζητήματα μετατρέπονται σε προβλήματα μέτρησης και αποτελεσματικότητας – μεταχειριζόμενη τον άνθρωπο ως σύνολο δεδομένων του οποίου η συμπεριφορά μπορεί να αναλυθεί, να προβλεφθεί και να χειραγωγηθεί.
Η λειτουργία της δεν καθορίζεται μόνο από τη χρήση που της επιφυλάσσουν οι άνθρωποι, αλλά και από τις αξίες που ενσωματώνονται στον σχεδιασμό της, τα δεδομένα με τα οποία εκπαιδεύεται, το θεσμικό πλαίσιο μέσα στο οποίο αναπτύσσεται και τις σχέσεις εξουσίας που οργανώνουν την ανάπτυξη και τη διάχυσή της. Το δημόσιο συμφέρον, με άλλα λόγια, δεν εξαρτάται μόνο από τις χρήσεις της Τ.Ν. αλλά από τον ίδιο τον τρόπο με τον οποίο η κοινωνία τη σχεδιάζει, την εκπαιδεύει, την κατέχει και την ορίζει.
Στόχος, να καταφέρουμε να δημιουργήσουμε μορφές Τεχνητής Νοημοσύνης που δεν θα λειτουργούν ως μηχανισμοί ελέγχου, επιτήρησης ή συγκέντρωσης ισχύος, αλλά θα συμβάλλουν στην αύξηση της potentia multitudinis, της συλλογικής δύναμης της κοινωνίας.
Υγεία
Στον τομέα της υγείας, οι δυνατότητες της Τ.Ν. είναι ιδιαίτερα εντυπωσιακές. Συστήματα μηχανικής μάθησης μπορούν να αναλύουν απεικονιστικές και άλλες ιατρικές εξετάσεις, να εντοπίζουν παθήσεις σε πρώιμο στάδιο, να υποστηρίζουν την ανακάλυψη νέων φαρμάκων και να συμβάλλουν στην εξατομικευμένη θεραπεία των ασθενών. Παράλληλα, όμως, η χρήση της Τ.Ν. στην υγεία συνοδεύεται από σοβαρά ζητήματα προστασίας προσωπικών δεδομένων, διαφάνειας των αλγορίθμων και καθορισμού της ευθύνης όταν μια αυτοματοποιημένη απόφαση αποδειχθεί λανθασμένη. Η θεραπεία, επίσης, προϋποθέτει ανθρώπινη σχέση, κατανόηση των ιδιαίτερων συνθηκών ζωής και ηθική ευθύνη. Η αποτελεσματικότητα ενός αλγορίθμου δεν μπορεί να αντικαταστήσει την ευθύνη του γιατρού απέναντι στον ασθενή.
