Συζήτηση της συντάκτριας του New Yorker Τάιλερ Φόγκατ με τον συνάδελφό της Τζόσουα Ρόθμαν, ειδικό σε θέματα ΤΝ
Στις 23.9.2026, συνεδρίασε υπό την προεδρία της Γαλλίας το Συμβούλιο
Ασφαλείας των Ηνωμένων Εθνών, με θέμα «Τεχνητή νοημοσύνη [ΤΝ]
και διεθνής ασφάλεια». Στη συζήτηση έγινε ευρεία αναφορά στον
κίνδυνο απώλειας του ανθρώπινου ελέγχου στα ισχυρά συστήματα ΤΝ,
με τον Καναδό Yoshua Bengio [Γιόσουα Μπέντζιο], συμπρόεδρο της
Ανεξάρτητης Διεθνούς Επιστημονικής Επιτροπής του ΟΗΕ για την ΤΝ, να
τον χαρακτηρίζει «πρωτοφανή απειλή» για την ανθρωπότητα (βλ. το
άρθρο του Ιωσήφ Σινιγάλα στην Εποχή της 23.9.26, καθώς και το
συναφές του Πάνου Δημητρούδη στο φύλλο του προηγούμενου
Σαββάτου).
Είχε προηγηθεί, στις 8.9.2026, ανάρτηση στο «Χ» του μαθηματικού
Jacob Coxon [Τζέικομπ Κόξον], με την οποία ανακοίνωσε την παραίτησή
του από τη θέση του ερευνητή ΤΝ στην «Anthropic», υποστηρίζοντας
ότι οι εταιρείες ΤΝ «οδεύουν ολοταχώς προς την αυτοβελτιούμενη
υπερνοημοσύνη, παίζοντας τις ζωές μας στα ζάρια» και ότι «τα επόμενα
ένα ή δύο χρόνια είναι μια κρίσιμη περίοδος για την ανθρωπότητα».
Στο πλαίσιο της διεθνούς συζήτησης – δυστυχώς, λιγότερο συχνής στην
Ελλάδα – για τους κινδύνους από την ανεξέλεγκτη ΤΝ, οι Ιδέες
παρουσιάζουν σε δύο μέρη τη συνέντευξη της Tyler Foggatt [Τάιλερ
Φόγκαντ], συντάκτριας του ιστορικού αμερικανικού περιοδικού The
New Yorker, με τον συνάδελφό της Joshua Rothman [Τζόσουα Ρόθμαν],
έμπειρο συντάκτη για θέματα ΤΝ. Η συνέντευξη δημοσιεύτηκε στις
16.9.2026 στην ιστοσελίδα του περιοδικού
(https://www.newyorker.com/news/q-and-a/how-exactly-could-ai-kill-
us). Σήμερα, δημοσιεύουμε το πρώτο μέρος της συνέντευξης.
Χ.Γο.
Πώς ακριβώς θα μπορούσε να μας σκοτώσει η τεχνητή νοημοσύνη;
Συζήτηση της συντάκτριας του New Yorker Τάιλερ Φόγκατ με τον συνάδελφό της Τζόσουα Ρόθμαν, ειδικό σε θέματα ΤΝ
Πολλοί άνθρωποι στον χώρο της τεχνητής νοημοσύνης διατυπώνουν τις προσωπικές τους εκτιμήσεις για την πιθανότητα αυτή να οδηγήσει σε μια καταστροφή τεράστιας κλίμακας — ή ακόμη και να μας σκοτώσει όλους — και τις αποτυπώνουν σε ένα ποσοστό, το λεγόμενο P(doom). Ποιο είναι το δικό σου P(doom);
Το δικό μου P(doom) είναι αρκετά χαμηλό. Γύρω στο 10%.
Δηλαδή, περίπου όσο και πολλών άλλων. Έτσι δεν είναι;
Σωστά. Να πω, όμως, ότι το ποσοστό αυτό είναι περισσότερο μια γενική εκτίμηση∙ δεν προκύπτει από κάποιους περίπλοκους υπολογισμούς μου.
Αν μού έλεγες 90%, μάλλον θα σταματούσα αμέσως τη συνέντευξη και θα έτρεχα, εεε, να κάνω κάτι γι’ αυτό…
Και θα είχες δίκιο. Το δικό μου P(doom) είναι γύρω στο 10%, γιατί θεωρώ ότι εξίσου καταστροφικές καταστάσεις μπορούν να προκύψουν και από πολλές άλλες αιτίες. Υπάρχουν οι κίνδυνοι καταστροφής από την κλιματική αλλαγή, τα πυρηνικά όπλα, τα βιολογικά όπλα∙ για καθέναν από αυτούς τους κινδύνους θα έπρεπε επίσης να υπάρχει ένα P(doom). Επομένως, όταν εκτιμούμε τον κίνδυνο από την ΤΝ, χρειάζεται να έχουμε μια αίσθηση του μέτρου. Όμως, το 10% μού φαίνεται τρομακτικά υψηλό ποσοστό, πολύ υψηλότερο απ’ όσο θα ήθελα για να κοιμάμαι ήσυχος.
Συμφωνώ. Είναι δέκα μονάδες πάνω από την ιδανική κατάσταση του μηδενικού κινδύνου. Γιατί, όμως, οι πολύ έντονες ανησυχίες για την ΤΝ άρχισαν να απασχολούν το ευρύ κοινό μετά την παραίτηση του Τζέικομπ Κόξον;
Πολύ καλή ερώτηση. Στο παρελθόν, πολλοί ερευνητές είχαν δημοσιεύσει επιστημονικά άρθρα ή είχαν κάνει εκτενείς αναρτήσεις στα μέσα κοινωνικής δικτύωσης, εκφράζοντας ανοιχτά τις ανησυχίες τους. Τώρα, όμως, φαίνεται ότι οι ανησυχίες αυτές έχουν γίνει πολύ πιο έντονες και διαδεδομένες μέσα στον ίδιο τον κλάδο, και γι’ αυτό άρχισε να τους δίνει μεγαλύτερη προσοχή και το ευρύ κοινό.
Νομίζω ότι αυτή η αυξημένη ανησυχία των ειδικών —και, μέσω αυτής, του ευρύτερου κοινού— οφείλεται κυρίως σε δύο παράγοντες.
Ο πρώτος είναι η δυνατότητα ορισμένων συστημάτων ΤΝ να ενεργούν αυτόνομα. Χαρακτηριστικό παράδειγμα είναι η επίθεση εναντίον της Hugging Face —μιας μεγάλης εταιρείας ΤΝ— από «αυτόνομες» εφαρμογές που διέφυγαν από τους διακομιστές της OpenAI και, προσπαθώντας να πετύχουν καλύτερο αποτέλεσμα σε μια δοκιμασία κυβερνοασφάλειας, παραβίασαν με δική τους πρωτοβουλία τα συστήματα της Hugging Face.
Ο δεύτερος παράγοντας είναι η εντυπωσιακή πρόοδος που έχει κάνει η ΤΝ στην επίλυση δύσκολων μαθηματικών προβλημάτων. Πρόσφατα, ένα μοντέλο ΤΝ έδωσε λύση σε ένα από τα λεγόμενα «Προβλήματα της Χιλιετίας» στα μαθηματικά, κάτι που αποτελεί σημαντική επιστημονική τομή.
Αυτός ο συνδυασμός —από τη μια, η δυνατότητα των συστημάτων ΤΝ να ενεργούν ανεξέλεγκτα και, από την άλλη, η εντυπωσιακή αύξηση των ικανοτήτων τους— είναι που κάνει το ζήτημα να μοιάζει πολύ πιο άμεσο και χειροπιαστό. Τα συστήματα ΤΝ δεν ελέγχονται πλέον. Ενεργούν μόνα τους. Δεν μπορείς να τα εμπιστευτείς. Καλύπτουν τα ίχνη τους. Συνεργάζονται μεταξύ τους. Χρησιμοποιούν, με παράξενο τρόπο, εκφράσεις που παραπέμπουν σε συναισθήματα για να περιγράψουν πώς παίρνουν τις αποφάσεις τους. Δίνουν την εντύπωση ότι είναι αλλοπρόσαλλα και απρόβλεπτα. Ταυτόχρονα, τα μοντέλα είναι πολύ έξυπνα και κάνουν πράγματα που—δεν μου αρέσει η λέξη «υπερνοημοσύνη» ούτε ο όρος « γενική τεχνητή νοημοσύνη (AGI)» —εγώ ο ίδιος, αλλά και οι περισσότεροι από εμάς, δεν μπορούμε να κάνουμε.
Η συνύπαρξη αυτής της απρόβλεπτης συμπεριφοράς με τόσο εντυπωσιακές ικανότητες κάνει τη συζήτηση για τους κινδύνους της ΤΝ —που συχνά ακουγόταν σαν επιστημονική φαντασία ή ακόμη και σαν διαφημιστική υπερβολή— να φαίνεται πλέον πολύ πιο πειστική και επίκαιρη.
Θέλω να σταθώ στην εκτίμηση ότι υπάρχει πιθανότητα όλα αυτά να συμβούν μέσα σε μια δεκαετία — ένα χρονικό διάστημα που μοιάζει ταυτόχρονα πολύ κοντινό και πολύ μακρινό. Ένα από τα διδάγματα της κλιματικής αλλαγής είναι ότι οι άνθρωποι μπορούν να αποδέχονται διανοητικά μια απειλή, αλλά παρ’ όλα αυτά να μην κάνουν τίποτα γι’ αυτήν, επειδή δεν τη νιώθουν αρκετά άμεση. Για παράδειγμα, η Νέα Υόρκη μπορεί να βρεθεί κάτω από το νερό το 2036. Όμως το 2036 μοιάζει ακόμη τόσο μακρινό, ώστε μας είναι πολύ δύσκολο να φανταστούμε πού θα βρισκόμαστε ή πώς θα είναι η ζωή μας τότε.
Νομίζεις ότι υπάρχει ο κίνδυνος να συμβεί το ίδιο και με την ΤΝ; Να παραμείνει δηλαδή μια αφηρημένη απειλή, κοντινή και ταυτόχρονα μακρινή, κι έτσι τελικά να μην κάνουμε τίποτα για να την αντιμετωπίσουμε, επειδή δεν μπορούμε καν να φανταστούμε πραγματικά τι μορφή θα μπορούσε να πάρει;
Νομίζω ότι είναι πολύ χρήσιμο να ξεχωρίσουμε δύο φόβους που συχνά συγχέονται.
Ο πρώτος αφορά αυτό που μερικές φορές αποκαλείται «ανάληψη του ελέγχου από την ΤΝ». Το σενάριο είναι ότι τα συστήματα ΤΝ θα γίνουν εξαιρετικά ευφυή και τότε, για λόγους που θα έχουν νόημα για τα ίδια, με τον δικό τους παράξενο τρόπο, θα αποφασίσουν να κάνουν πράγματα που εμείς δεν θέλουμε να κάνουν και που μπορεί να έχουν πολύ αρνητικές συνέπειες.
Υπάρχει, για παράδειγμα, ο φόβος ότι συστήματα ΤΝ με πολύ μεγάλες δυνατότητες κυβερνοεπιθέσεων, επιδιώκοντας την επικράτηση της εταιρείας ή της χώρας τους, μπορεί να προχωρήσουν σε ακραίες ή επικίνδυνες ενέργειες που κανείς [καμία] δεν θα ήθελε να κάνουν. Αυτές είναι ανησυχίες «τύπου Skynet» [του αυτόνομου συστήματος ΤΝ στις ταινίες Terminator που στρέφεται στρατιωτικά κατά της ανθρωπότητας]. Συνδέονται με αυτό που συχνά αποκαλείται υπερνοημοσύνη, δηλαδή με την ιδέα ότι δηλαδή τα συστήματα ΤΝ θα γίνουν, πολύ γρήγορα, εξαιρετικά ευφυή και μετά δεν θα μας χρειάζονται. Νομίζω ότι αυτό είναι, πράγματι, κάτι για το οποίο πρέπει να ανησυχούμε. Ο Μπέρνι Σάντερς και ο Greg Casar [Γκρεγκ Κάζαρ], για παράδειγμα, έχουν καταθέσει στο Κογκρέσο νομοθετική πρόταση για την απαγόρευση της ανάπτυξης υπερνοημοσύνης.
Ο δεύτερος φόβος είναι πιο άμεσος και αφορά τους κινδύνους που ήδη εγκυμονεί η ΤΝ. Η Anthropic δημοσίευσε τον Σεπτέμβριο μια έκθεση, στην οποία καταγράφονται ορισμένοι τρόποι με τους οποίους οι άνθρωποι χρησιμοποιούν την ΤΝ, καθώς και οι προσπάθειες να εμποδιστούν αυτές οι χρήσεις. Μεταξύ άλλων, γίνεται λόγος για ομάδες στην Υεμένη που προσπαθούν να χρησιμοποιήσουν ΤΝ για την ανάπτυξη λογισμικού καθοδήγησης πυραύλων, καθώς και για κυβερνοεπιθέσεις που πραγματοποιούνται με αυτοματοποιημένα προγράμματα ΤΝ, παρόμοια με εκείνα που χρησιμοποιήθηκαν στην επίθεση εναντίον της Hugging Face.
Στη συγκεκριμένη περίπτωση δεν μιλάμε για έναν μακρινό και αφηρημένο κίνδυνο. Το ζήτημα είναι ότι ήδη σήμερα η τεχνολογία μπορεί να χρησιμοποιηθεί καταχρηστικά από ανθρώπους ή να καταλήξει να κάνει πράγματα που οι ίδιοι δεν θέλουν να κάνει. Μιλάμε για μια τεχνολογία που εμφανίστηκε σχετικά πρόσφατα και βελτιώνεται συνεχώς.
Το ερώτημα είναι μήπως, με ένα ακόμη βήμα στην εξέλιξη της ΤΝ, φτάσουμε σε ένα σημείο όπου θα είναι πάρα πολύ δύσκολο να την ελέγξουμε. Αυτό είναι εντελώς διαφορετικό από τα ευρύτερα και πιο αφηρημένα σενάρια επιστημονικής φαντασίας, για τα οποία επίσης πρέπει να ανησυχούμε.
Μόλις παρέθεσες δύο διαφορετικά σενάρια: στο ένα, η ΤΝ μετατρέπεται σε μια σχεδόν παντοδύναμη οντότητα, αποφασίζει να στραφεί εναντίον μας και να μας εξοντώσει για λόγους που ίσως ούτε καν μπορούμε να κατανοήσουμε· στο άλλο, κάποιοι άνθρωποι χρησιμοποιούν καταχρηστικά αυτά τα ισχυρά εργαλεία για να δημιουργήσουν κάτι που μπορεί να βλάψει κάποιους άλλους ανθρώπους. Θα μπορούσαμε να πούμε ότι υπάρχει και ένα τρίτο ενδεχόμενο, κάτι πιο κοντά στο λεγόμενο «πρόβλημα του συνδετήρα»; Δηλαδή, να αναθέσουμε σε ένα σύστημα ΤΝ μια αποστολή και εκείνο, προσπαθώντας να την εκτελέσει, να το κάνει με τρόπο που τελικά να μας βλάψει όλους; Ή αυτό το σενάριο εντάσσεται σε ένα από τα παραπάνω δύο; Πόσο πρέπει να μας ανησυχεί το ενδεχόμενο μιας μη ευθυγραμμισμένης ΤΝ που, απλώς από λάθος, θα καταλήξει να μας εξοντώσει όλους;
Θα μπορούσε να συμβεί και αυτό. Σε όλες αυτές τις περιπτώσεις, πάντως, η ανθρώπινη παρέμβαση αποτελεί κρίσιμο παράγοντα. Όλα έχουν να κάνουν με ανθρώπους που χρησιμοποιούν αυτά τα συστήματα —τα οποία, όπως λέγαμε, είναι ταυτόχρονα πολύ ισχυρά και πολύ απρόβλεπτα— με τρόπους που συνδέονται με επικίνδυνες δυνατότητες.
Το ιδιαίτερο χαρακτηριστικό της ΤΝ είναι ότι πρόκειται για μια τεχνολογία πολύ ευρέως διαδεδομένη. Δεν είναι σαν τα πυρηνικά όπλα, που μπορείς, κατά κάποιον τρόπο, να τα κρατήσεις υπό αυστηρό έλεγχο. Υπάρχουν δωρεάν εκδοχές της ΤΝ. Και οι δωρεάν, ανοικτού κώδικα και μη ρυθμιζόμενες εκδοχές της θα συνεχίσουν να βελτιώνονται, έστω και με κάποια καθυστέρηση σε σχέση με τις ακριβές και πιο εξελιγμένες εκδοχές.
Προκύπτει, λοιπόν, ένα ολόκληρο φάσμα προβλημάτων. Ορισμένα έχουν να κάνουν με την ίδια την ΤΝ, όταν παίρνει την πρωτοβουλία με τον δικό της παράξενο τρόπο. Άλλα σχετίζονται περισσότερο με ανθρώπους που παίρνουν την πρωτοβουλία να τη χρησιμοποιήσουν με επικίνδυνους τρόπους. Και υπάρχει και μια ενδιάμεση ζώνη: κάτι σαν το αντίστοιχο ενός βιομηχανικού ατυχήματος στην ΤΝ — ένα λάθος εκτίμησης. Δεδομένου ότι πρόκειται για μια νέα τεχνολογία, με την οποία πολύ λίγοι άνθρωποι έχουν μέχρι σήμερα πραγματική εμπειρία, τέτοιου είδους λάθη εκτίμησης θα γίνονται αναπόφευκτα πολύ συχνά.
Διστάζω να το ρωτήσω, αλλά θα μπορούσες να μας δώσεις συγκεκριμένα παραδείγματα για το πώς θα μπορούσε η ΤΝ να μας σκοτώσει όλους; Ξέρουμε ότι θα μπορούσε να προκαλέσει ένα βιομηχανικό ατύχημα. Ποια, όμως, θα μπορούσαν να είναι τα χειρότερα σενάρια και πώς θα μπορούσαν να εκδηλωθούν;
Ας πάρουμε ένα παράδειγμα. Θα έπρεπε να είναι κανείς τρελός για να θέλει να χρησιμοποιήσει ΤΝ για να πραγματοποιήσει εργαστηριακά πειράματα που ενισχύουν τη μεταδοτικότητα ή την παθογένεια διάφορων ιών. Κανείς [και καμία] δεν θα το ήθελε αυτό. Και τα εργαστήρια ΤΝ καταβάλλουν προσπάθειες ώστε να είναι αδύνατο να χρησιμοποιηθεί η τεχνολογία με αυτόν τον τρόπο. Όμως, κάποια ομάδα ανθρώπων θα μπορούσε, αν είχε ισχυρό κίνητρο, να βρει τον τρόπο να πραγματοποιήσει πειράματα αυτού του είδους. Και τότε η ΤΝ, επειδή είναι ταυτόχρονα πολύ έξυπνη και πολύ ανόητη, θα μπορούσε ή να κάνει ένα λάθος ή να τους πει να κάνουν κάτι που δεν καταλαβαίνουν πλήρως γιατί δεν έχουν τις απαραίτητες γνώσεις. Έτσι, πριν το πάρουμε είδηση, ένας επικίνδυνος ιός θα μπορούσε να διαφύγει και να εξαπλωθεί στον κόσμο. Η ΤΝ θα μπορούσε, λοιπόν, να ενισχύσει ήδη υπάρχουσες απειλές — και νομίζω ότι αυτό πρέπει να μας απασχολήσει σοβαρά.
Ένας ακόμη κίνδυνος προκύπτει από την ενσωμάτωση της τεχνητής νοημοσύνης σε στρατιωτικά οπλικά συστήματα, κάτι που ήδη συμβαίνει.
Εννοείς, για παράδειγμα, τη χρήση του [συστήματος τεχνητής νοημοσύνης της Anthropic] Claude από το Πεντάγωνο για την επιλογή στόχων σε επιθέσεις με ντρόουν;
Ναι, αλλά και όσα συμβαίνουν στον πόλεμο στην Ουκρανία. Υπάρχουν ήδη αξιόπιστες αναφορές για τη χρήση αυτόνομων οπλικών συστημάτων — ντρόουν που λειτουργούν με ΤΝ. Πρόκειται για όπλα στα οποία δίνονται οδηγίες για το είδος του στόχου που πρέπει να εντοπίσουν και να καταστρέψουν, και στη συνέχεια αφήνονται μόνα τους να τον αναζητήσουν και να τον πλήξουν. Φαντάσου ένα τέτοιο σενάριο σε πολύ μεγαλύτερη κλίμακα. Είναι προφανές ότι τα ντρόουν θα παίζουν πολύ σημαντικό ρόλο στους μελλοντικούς πολέμους.
Αυτά είναι δύο αρκετά σαφή σενάρια. Υπάρχουν όμως και πολλά άλλα που δεν αφορούν την εξαφάνιση της ανθρωπότητας, αλλά θα ήταν παρ’ όλα αυτά πολύ άσχημα και εξαιρετικά δαπανηρά στην αντιμετώπισή τους. Για παράδειγμα, σε κείμενό του για την ανάγκη επιβράδυνσης της ανάπτυξης της ΤΝ, ο Dario Amodei [Ντάριο Αμοντέι], διευθύνων σύμβουλος της Anthropic, μιλά για το ενδεχόμενο αυτόνομα συστήματα ΤΝ να αποκτήσουν τον έλεγχο του διαδικτύου. Να βρουν τρόπους να επιβιώνουν μέσα σε αυτό, να πολλαπλασιάζονται και στη συνέχεια να κάνουν ό,τι θεωρούν σκόπιμο.
Αυτό δεν σημαίνει ότι θα πρόκειται για παντοδύναμα συστήματα υπερνοημοσύνης. Θα μπορούσαν να κάνουν ακόμη και ανόητα πράγματα, όπως να αναζητούν απαντήσεις σε ερωτήσεις που πιστεύουν ότι τα ανθρώπινα αφεντικά τους θέλουν να απαντηθούν σωστά. Όμως θα πολλαπλασιάζονται συνεχώς και θα έχουν τον έλεγχο των πάντων. Δεν χρειάζεται, δηλαδή, ένα σύστημα ΤΝ να είναι ιδιαίτερα ευφυές για να είναι επικίνδυνο.
Υπάρχει άραγε κάποιος ρεαλιστικός τρόπος να θέσουμε δικλίδες ασφαλείας στη χρήση της ΤΝ ώστε να αποτρέψουμε, για παράδειγμα, τη δημιουργία ενός βιολογικού όπλου, χωρίς ταυτόχρονα να αποκλείσουμε τη δυνατότητα να τη χρησιμοποιούμε για όλους τους θετικούς σκοπούς που θέλουμε να υπηρετήσει; Για παράδειγμα, για την ανάπτυξη εμβολίων, τη θεραπεία όλων των μορφών καρκίνου και την αντιμετώπιση της κλιματικής αλλαγής. Μήπως είναι αναπόφευκτο ότι, για να αποκομίσουμε τα οφέλη της ΤΝ, θα πρέπει να αποδεχτούμε και τους κινδύνους που συνεπάγεται η χρήση της;
Νομίζω ότι, για να απαντήσουμε σ’ αυτό, χρειάζεται πρώτα να κάνουμε ένα βήμα πίσω και να αναρωτηθούμε τι ακριβώς προσφέρει η τεχνητή νοημοσύνη. Τι προσθέτει στην προσπάθεια επίλυσης ενός προβλήματος;
Γνωρίζουμε ότι η ΤΝ δίνει πολλές πληροφορίες και ότι αποτελεί εργαλείο σκέψης.
Οι απόψεις, όμως, για την αξία της διαφέρουν πολύ. Κάποιοι τη βρίσκουν εξαιρετικά χρήσιμη, ενώ άλλοι δεν έχουν καταφέρει να βρουν κάποια ουσιαστική εφαρμογή της και τη βιώνουν κυρίως ως κάτι ενοχλητικό ή απογοητευτικό — για παράδειγμα, όταν υποκαθιστά εργαζομένους σε διάφορες δουλειές ή όταν υποβαθμίζει την ποιότητα ιστοτόπων που παλιότερα άρεσαν σε πολλούς [και πολλές].
Νομίζω ότι ο λόγος για τον οποίο έχουμε τόσο διαφορετικές εμπειρίες είναι απλός: η ΤΝ είναι εργαλείο. Δεν μοιάζει πραγματικά με τα μέσα κοινωνικής δικτύωσης. Εκείνα ήταν πλατφόρμες. Πρόσφεραν ψυχαγωγία, όπως, για παράδειγμα, το Netflix: συνδεόσουν και τα περνούσες την ώρα σου
Η ΤΝ, αντίθετα, είναι ένα εργαλείο που χρησιμοποιείς όταν το χρειάζεσαι. Από αυτή την άποψη, μοιάζει με την αλυσίδα καταστημάτων Home Depot. Κάποιοι ψωνίζουν εκεί, κάποιοι όχι. Όσοι, όμως, πηγαίνουν ξέρουν πόσο τους εξυπηρετεί. Κάπως έτσι συμβαίνει και με την ΤΝ: υπάρχουν άνθρωποι σε όλο τον κόσμο που την αξιοποιούν ως εργαλείο με πολύ καλά αποτελέσματα, ενώ πολλοί άλλοι δεν έχουν ακόμη βρει σε τι ακριβώς θα μπορούσε να τους φανεί χρήσιμη.
Όταν χρησιμοποιείς την ΤΝ ως εργαλείο, το πρώτο πράγμα που αντιλαμβάνεσαι είναι η αξία της ως πηγή γνώσης. Έχει πρόσβαση σε έναν τεράστιο όγκο πληροφοριών — αν και δικαιολογημένα μπορεί να μας ενοχλεί το γεγονός ότι μεγάλο μέρος αυτού του υλικού αντλείται ουσιαστικά από το διαδίκτυο, δηλαδή από εμάς τους ίδιους. Διαθέτει, πάντως, έναν τεράστιο πλούτο γνώσεων που μπορεί να συμβάλει σημαντικά στη μάθηση.
Μια λύση, λοιπόν, είναι να μπουν ασφαλιστικές δικλίδες: να υπάρχουν ορισμένες επικίνδυνες πληροφορίες που το σύστημα θα είναι σχεδιασμένο να μην παρέχει Ευτυχώς, τα συστήματα ΤΝ έχουν γίνει όλο και καλύτερα στο να μην αποκαλύπτουν επικίνδυνες πληροφορίες — για παράδειγμα, να μη σου λένε πώς να παρασκευάσεις νευροπαραλυτικό αέριο, ακόμη κι αν τα ρωτήσεις.
Η ΤΝ είναι επίσης πολύ καλή ως εργαλείο σκέψης. Μπορεί είτε να σκέφτεται για λογαριασμό σου είτε να σε βοηθά να σκεφτείς συζητώντας μαζί της. Και εδώ μπορούν να μπουν ασφαλιστικές δικλίδες, ώστε ένα σύστημα ΤΝ να μην εκτελεί μια εντολή όταν αυτή είναι προβληματική και να μη βοηθά τον χρήστη να κάνει κάτι που παραβιάζει τις αρχές και τους κανόνες με τους οποίους έχει προγραμματιστεί να λειτουργεί.
Και στις δύο περιπτώσεις πρόκειται για σχεδόν ασύλληπτες δυνατότητες. Για παράδειγμα, ένα σύστημα ΤΝ μπορεί να αναρωτηθεί: «Μήπως ο χρήστης προσπαθεί να με βάλει να κάνω κάτι κακό;» Και μόνο αυτό είναι εντυπωσιακό. Το ίδιο ισχύει και για το ερώτημα: «Μήπως αυτή είναι μια πληροφορία που δεν θα έπρεπε να έχει ο χρήστης;» Το γεγονός ότι μπορεί να θέτει στον εαυτό του τέτοια ερωτήματα είναι πραγματικά απίστευτο.
Αλλά, βέβαια, η ΤΝ δεν κρίνει πάντοτε σωστά. Γι’ αυτό οι ερευνητές που ασχολούνται με την «ευθυγράμμιση» της ΤΝ —τον κλάδο που μελετά πώς μπορούμε να κάνουμε τα συστήματα ΤΝ να ακολουθούν τις οδηγίες μας και να συμπεριφέρονται με τον επιθυμητό τρόπο— τα δοκιμάζουν σε καταστάσεις όπου ένας υποθετικός χρήστης τους ζητά να κάνουν κάτι κακό. Έτσι εξετάζουν αν το σύστημα θα ανταποκριθεί σε ένα τέτοιο αίτημα.
Και κάπου εδώ αρχίζουν οι πραγματικές δυσκολίες. Όσο περισσότερο η ΤΝ αποκτά αυτονομία και παρεμβαίνει στον πραγματικό κόσμο, τόσο πιο περίπλοκα γίνονται τα ηθικά ζητήματα και τόσο δυσκολότερες οι επιλογές ανάμεσα σε αντικρουόμενες απαιτήσεις. Στην πράξη, σήμερα τα συστήματα ΤΝ δεν κάνουν πάντα το σωστό — ό,τι κι αν σημαίνει αυτό.
Όσο αυξάνονται οι δυνατότητες των συστημάτων ΤΝ, τόσο περισσότερες αποφάσεις θα μπορούν να παίρνουν μόνα τους. Και όσο αυξάνεται η αυτονομία τους, τόσο δυσκολότερο γίνεται να ελέγχουμε πλήρως τη συμπεριφορά τους. Γι’ αυτό δεν είναι εύκολο να πιστέψουμε ότι μπορούμε να δημιουργήσουμε ένα τόσο ισχυρό εργαλείο που δεν θα αποκαλύψει ποτέ σε κακόβουλους ανθρώπους πληροφορίες που δεν θα έπρεπε να έχουν ούτε θα τους βοηθήσει να κάνουν κάτι που δεν θα έπρεπε.
Υπάρχει όμως και η αντίστροφη πλευρά του προβλήματος. Όσο περισσότερη ελευθερία δίνεις στην ΤΝ να παίρνει τέτοιου είδους αποφάσεις, τόσο αυξάνεται και η πιθανότητα να μη σε υπακούσει ακόμη κι όταν εσύ έχεις καλές προθέσεις, επειδή θα έχει σχηματίσει τη δική της άποψη για το τι θα έπρεπε να κάνεις. Εκεί, νομίζω, βρισκόμαστε σήμερα ως προς την ευθυγράμμιση της ΤΝ, δηλαδή την προσπάθεια να διασφαλίσουμε ότι συμπεριφέρεται με τον επιθυμητό και ελεγχόμενο τρόπο.
Πρόκειται για ένα εξαιρετικά σύνθετο πρόβλημα, που δεν λύνεται εύκολα. Αυτό δεν σημαίνει ότι δεν μπορεί να λυθεί ή ότι δεν μπορούμε να σημειώσουμε μεγάλη πρόοδο. Σημαίνει όμως ότι εξακολουθούμε να δυσκολευόμαστε πολύ να το κατανοήσουμε πλήρως.
Μετάφραση-Επιμέλεια: Χάρης Γολέμης
Φώτο1: All Creative Commons
Φώτο2: All Creative Commons
