φωτογραφία: guardian
Το «NAZA» είναι νέο ντοκιμαντέρ των Ισραηλινών δημοσιογράφων και κινηματογραφιστών Γιουβάλ Αμπραχάμ και Ρέιτσελ Σορ, δύο από τους δημιουργούς του οσκαρικού No Other Land. Ερευνά όχι μόνο τους θανάτους Παλαιστινίων αμάχων, αλλά κυρίως το σύστημα λήψης αποφάσεων που επέτρεπε και προϋπολόγιζε αυτούς τους θανάτους.
Ο τίτλος προέρχεται από ισραηλινό στρατιωτικό ακρωνύμιο: δηλώνει τον αριθμό των αμάχων που υπολογίζεται ότι θα σκοτωθούν ως «παράπλευρες απώλειες» σε μία αεροπορική επιδρομή. Η ταινία βασίζεται σε μαρτυρίες 24 Ισραηλινών στρατιωτών και στελεχών των υπηρεσιών πληροφοριών, οι οποίοι εμφανίζονται ανώνυμα και με καλυμμένα πρόσωπα. Περιγράφουν τη χρήση συστημάτων τεχνητής νοημοσύνης, μαζικής παρακολούθησης και αυτοματοποιημένης επιλογής στόχων στη Γάζα.
Η σκηνοθετική σύλληψη είναι ιδιαίτερα λιτή: οι συνεντεύξεις γυρίστηκαν νύχτα, σε ταράτσες του Τελ Αβίβ. Δεν στηρίζεται σε ωμές εικόνες νεκρών, αλλά στην ψυχρή στρατιωτική ορολογία, στις σιωπές και στις περιγραφές ανθρώπων που συμμετείχαν στον ίδιο τον μηχανισμό. Αυτό ακριβώς φαίνεται να κάνει την ταινία τόσο ανατριχιαστική: η μαζική εξόντωση παρουσιάζεται ως διοικητική και τεχνική διαδικασία.
Το «NAZA» κέρδισε το Ειδικό Βραβείο της Κριτικής Επιτροπής στο 83ο Φεστιβάλ Βενετίας. Παραγωγοί είναι ο Guardian και ο Τζέιμς Γουίλσον, ενώ εκτελεστικός παραγωγός είναι ο Τζόναθαν Γκλέιζερ, σκηνοθέτης του The Zone of Interest.
Η ταινία προκάλεσε σφοδρή αντίδραση στο Ισραήλ. Ο Μπενιαμίν Νετανιάχου την κατηγόρησε για «αντισημιτική υποκίνηση», ενώ ο υπουργός Πολιτισμού Μίκι Ζοχάρ ζήτησε να εξεταστεί ακόμη και η αφαίρεση της υπηκοότητας των δημιουργών. Ο Guardian απάντησε ότι η επίθεση προέρχεται από ανθρώπους που δεν έχουν δει την ταινία και χαρακτήρισε την αντίδραση αυταρχική.
Με δυο λόγια, το «NAZA» επιχειρεί να δείξει ότι οι θάνατοι αμάχων δεν αποτελούσαν απλώς ανεπιθύμητες εξαιρέσεις, αλλά ενσωματώνονταν εκ των προτέρων στους υπολογισμούς των ισραηλινών επιχειρήσεων. Αυτό είναι και το κεντρικό, εκρηκτικό επιχείρημά του.
Η τεχνητή νοημοσύνη δεν χρησιμοποιείται από τον ισραηλινό στρατό ως ένα αυτόνομο όπλο που αποφασίζει και πυροβολεί μόνο του. Αποτελεί μέρος μιας ευρύτερης αλυσίδας μαζικής επιτήρησης, ταξινόμησης ανθρώπων, παραγωγής στόχων και υπολογισμού των αναμενόμενων απωλειών αμάχων.
Πώς το κάνουν;
- Το σύστημα «Lavender» επεξεργάζεται τεράστιες ποσότητες δεδομένων και βαθμολογεί Παλαιστινίους ανάλογα με την πιθανότητα να συνδέονται με τη Χαμάς ή την Παλαιστινιακή Ισλαμική Τζιχάντ. Σύμφωνα με τις σχετικές έρευνες, είχε κατατάξει έως και 37.000 ανθρώπους ως πιθανούς στόχους. Η αξιολόγηση μπορούσε να στηρίζεται στις επικοινωνίες, στις μετακινήσεις, στις κοινωνικές σχέσεις και σε άλλα δεδομένα επιτήρησης. Σε ορισμένες περιπτώσεις, οι χειριστές φέρονται να αφιέρωναν μόλις λίγα δευτερόλεπτα για να εγκρίνουν τις προτάσεις του συστήματος.
- Το «Habsora», γνωστό και ως «The Gospel», χρησιμοποιείται κυρίως για την υπόδειξη κτιρίων και εγκαταστάσεων προς βομβαρδισμό. Συνδυάζοντας πληροφορίες από drones, δορυφόρους, υποκλαπείσες επικοινωνίες και άλλες πηγές, μπορεί να παράγει στόχους με πρωτοφανή ταχύτητα. Η βασική αλλαγή είναι η ταχύτητα. Ο πρώην αρχηγός του ισραηλινού στρατού Αβίβ Κοχάβι είχε δηλώσει ότι η σχετική μονάδα μπορούσε να παράγει περίπου 100 στόχους την ημέρα, όταν παλαιότερα οι αναλυτές παρήγαγαν πολύ λιγότερους. Η AI επιτρέπει έτσι τη δημιουργία μιας διαρκώς ανανεούμενης «τράπεζας στόχων».
- Ένα τρίτο σύστημα, το «Where’s Daddy?», φέρεται να παρακολουθεί πότε ένα πρόσωπο που έχει χαρακτηριστεί ως στόχος επιστρέφει στην οικογενειακή του κατοικία. Αυτό σημαίνει ότι η κατοικία δεν πλήττεται κατ’ ανάγκη επειδή αποτελεί στρατιωτικό στόχο, αλλά επειδή εκεί είναι ευκολότερο να εντοπιστεί το συγκεκριμένο πρόσωπο. Η πρακτική αυτή αυξάνει προβλέψιμα τον κίνδυνο να σκοτωθούν μαζί του παιδιά, σύντροφοι, γονείς και γείτονες.
Με απλά λόγια, το «Lavender» υποδεικνύει ποιος θα στοχοποιηθεί, το «Where’s Daddy?» πότε βρίσκεται στο σπίτι του και το «Habsora» ποιο κτίριο θα βομβαρδιστεί.
Το ντοκιμαντέρ «NAZA» αποκαλύπτει μια ακόμη διάσταση αυτής της διαδικασίας: οι αναμενόμενες απώλειες αμάχων μετατρέπονται σε αριθμητική μεταβλητή. Το σύστημα δεν εξετάζει απλώς εάν υπάρχουν άμαχοι κοντά στον στόχο, αλλά υπολογίζει πόσοι ενδέχεται να σκοτωθούν και εάν ο αριθμός τους θεωρείται «αποδεκτός» ανάλογα με τη σημασία του προσώπου που πρόκειται να πληγεί.
Το βαθύτερο πρόβλημα δεν είναι μόνο το ενδεχόμενο να κάνει λάθος ένας αλγόριθμος. Ακόμη και όταν λειτουργεί όπως σχεδιάστηκε, η τεχνητή νοημοσύνη μπορεί να μετατρέψει την επιλογή στόχων σε μια γρήγορη, σχεδόν βιομηχανική διαδικασία. Περιορίζει τον χρόνο ουσιαστικού ανθρώπινου ελέγχου, αντιμετωπίζει τους αμάχους ως υπολογίσιμο «κόστος» και διαχέει την ευθύνη ανάμεσα στον αλγόριθμο, στον αναλυτή, στον στρατιωτικό διοικητή και στις εταιρείες που παρέχουν την τεχνολογική υποδομή.
