Στις 20 Ιουνίου 2017, το μεγάλο βραδινό δελτίο ειδήσεων του BBC, λόγω τεχνικών προβλημάτων, τρελάθηκε. Για τέσσερα λεπτά έπεφταν σαν βροχή άσχετες εικόνες από παλιότερα δελτία ειδήσεων, ενώ ο παρουσιαστής περίμενε σιωπηλός να λυθεί το πρόβλημα. Μια αλληλουχία από παλαιότερα στιγμιότυπα, ανακατεμένη, ασύνδετη και γελοία.
Όλο αυτό ήταν το αποτέλεσμα μιας τεχνικής βλάβης -το σύστημα απλώς κατέρρευσε. Όμως, αυτή η σπασμένη αλληλουχία εικόνων από παλιά δελτία ειδήσεων έδωσε και την εικόνα ενός αυτοματοποιημένου συστήματος σε κατάσταση αμόκ.
Το μήνυμα εξακολουθεί να αντηχεί δυνατά: Στη νέα εποχή της τεχνητής ανοησίας, τα τεχνολογικά προβλήματα γίνονται καταστροφικά. Και το μεγαλύτερο θύμα τους είναι η πραγματικότητα.
Βρισκόμαστε πολύ μακριά από την αρχική περίοδο της ψηφιακής ανάπτυξης, όταν θεωρούνταν ότι η διαδικτυακή επικοινωνία προάγει την ανταλλαγή και την αλληλοκατανόηση παγκοσμίως. Η εποχή που η λέξη «παγκόσμιο» έτεινε να ταυτιστεί με τη λέξη «ψηφιακός» έχει σίγουρα τελειώσει.
Πολλές από τις νέες ελίτ των δυτικών χωρών δεν είναι πλέον κοσμοπολίτικες και παγκοσμιοποιημένες, αλλά μάλλον τείνουν στον απομονωτισμό και υπερασπίζονται την εθνική τους ταυτότητα. Παλαιότερα, η τεχνολογία προοριζόταν ως συνδετικός και διαμεσολαβητικός κρίκος. Ένας ολόκληρος κόσμος, απευθείας διασυνδεδεμένος, έμοιαζε με πολυπολιτισμικό παραμύθι της Disney που προωθούσε, κατ’ αρχήν, μια αποστειρωμένη ανοχή. Πλέον, όμως, η τεχνολογία χωρίζει και διαιρεί. Προσδιορίζει και ταξινομεί τους ανθρώπους.
Η Mària Schmidt, ιστορικός του στενού περιβάλλοντος του αντιφιλελεύθερου Ούγγρου ηγέτη Viktor Orban, υποστηρίζει ότι η αυτοματοποίηση και η τεχνητή νοημοσύνη θα μειώσουν τις θέσεις εργασίας και συνεπώς τη μετανάστευση. Με λίγα λόγια, η αυτοματοποίηση όχι μόνο αποδυναμώνει τις κατά τόπους ανάγκες για εργατικό δυναμικό, αλλά ωφελεί τις κλειστές και ομοιογενείς κοινωνίες. Επιπλέον, υπονομεύει τον δημόσιο διάλογο μέσω των bots και των botnets, που υποκαθιστούν τους πραγματικούς ανθρώπους, μεταδίδοντας μια επιδημία παραπληροφόρησης και ψευδών ειδήσεων.
Η εξέλιξη της τεχνητής ανοησίας, λοιπόν, είναι αντίθετη της τεχνητής νοημοσύνης -ή, μάλλον, είναι τα εκατομμύρια κουρελιασμένα παρακλάδια της. Όπως και ο υπαρκτός σοσιαλισμός απείχε παρασάγγας από τις ένδοξες διακηρύξεις των επαναστατών, έτσι και η τεχνητή ανοησία είναι μια μέτρια και άπληστη εκδοχή της μεγαλειώδους τεχνητής νοημοσύνης που προοριζόταν για να εξυψώσει και να βελτιώσει την ανθρώπινη ζωή.
Όλα τα είδη των σχεδόν ασήμαντων εφαρμογών επικοινωνίας είναι τεχνητές ανοησίες. Και παρότι δεν φαίνονται σημαντικά, τα αποτελέσματά τους είναι αμφίσημα: Καταστροφή του δημόσιου λόγου και πόλωση. Μισθοί και χρόνος που διαχειρίζονται αλγόριθμοι. Η εξυπηρέτηση πελατών, οι υπαλληλικές σχέσεις και οι συμβουλευτικές ή νομικές εργασίες εξαλείφονται μέσω των εικονικών βοηθών και των chatbots.
Ακόμα και απλά πράγματα, όπως η αγορά ενός εισιτηρίου για το αεροπλάνο, για το τρένο ή για μια συναυλία έχουν μετατραπεί σε κουραστικές αγγαρείες σε έναν κύκλο στοχευμένων και αδιαφανών αξιολογήσεων. Αντί μιας κοινής πραγματικότητας και ενός συνόλου κοινών κανόνων για όλους, έχουμε απογοήτευση, δυσλειτουργία και σπατάλη πολύτιμου χρόνου και ενέργειας.
Η αυτοματοποίηση δεν είναι η μόνη που κατακρεουργεί τη σύγχρονη κοινωνία. Οι λίγες πλατφόρμες που ουσιαστικά κυριαρχούν στον τομέα της ψηφιακής επικοινωνίας λειτουργούν σήμερα χωρίς σοβαρούς ελέγχους και ισορροπίες ή ακόμη και χωρίς βασικό ανταγωνισμό, σε μια ελεύθερη αγορά. Οι αλγόριθμοί τους είναι ιδιωτική περιουσία και άγνωστοι. Οι εναλλακτικές λύσεις, εάν υπάρχουν, είναι ελάχιστες.
Το αποτέλεσμα είναι ένας ατελείωτος κύκλος από ειδήσεις μισές και διαστρεβλωμένες, ξεχειλωμένες και ξαναγραμμένες κατά βούληση, διότι στην εποχή της τεχνητής βλακείας, η αλήθεια έχει μόνο εμπορική αξία, πρέπει να είναι δημοφιλής και να φέρνει χρήμα.
Οι κανόνες της reality TV έχουν τα θεμέλιά τους στον ψηφιακό κόσμο. Το θέμα δεν είναι πως δεν υπάρχει πραγματικότητα - το θέμα είναι πως τα γεγονότα πρέπει να αυτοαναπαράγονται, σε ανταγωνισμό με τα άλλα συμβάντα, ενώ τα μέσα κοινωνικής δικτύωσης πολλαπλασιάζουν εναλλακτικές εκδοχές τους. Εάν δεν σ’ αρέσει η πραγματικότητα που αντιμετωπίζεις, υπάρχει πάντα κάποια άλλη, προσαρμοσμένη στις προτιμήσεις σου.
Αυτός είναι ο πραγματικός ψηφιακός μας κόσμος: δεν είναι τίποτα περισσότερο από ωριαία κύματα πυρετώδους και τοξικής αναταραχής μέσα σε κανάλια της μόδας, τα οποία αποθαρρύνουν την καινοτομία και τον πειραματισμό, πνίγονται σε ανυπόφορες διαφημίσεις και απομυζούν την προσοχή και τις ψυχές των ανθρώπων.
Μία αλήθεια που δεν αρέσει δεν μπορεί να επιβιώσει διαδικτυακά σ’ αυτόν τον κόσμο, αφού αυτό που αρέσει περισσότερο υπερτερεί της εγκυρότητας. Και στην αυτοματοποίηση και στους αλγόριθμους της τεχνητής ανοησίας, η πραγματικότητα ορίζεται από τα κτηνώδη κριτήρια της κατάταξης, της βαθμολογίας και της απόρριψης.
Η αλήθεια δεν ταιριάζει σε αυτό το καλούπι.
Η αλήθεια έχει απείθαρχες και δύσκολες λεπτομέρειες, που απαιτούν προσοχή και δεν συμπληρώνονται ποτέ πλήρως. Συνήθως είναι πολύ περίπλοκη για να είναι διασκεδαστική και ίσως, τελικά, να μην είναι ευχάριστη για όλους. Δεν μπορεί να κάνει τα πράγματα πιο εύκολα ή πιο αποτελεσματικά -στην πραγματικότητα κάνει το ακριβώς αντίθετο. Εάν η αλήθεια δεν είναι εμπορικά αξιοποιήσιμη, με θέματα όπως λ.χ. η προστασία του περιβάλλοντος ή η βελτίωση των πόλεών μας, οι πλατφόρμες που διαχειρίζονται την ψηφιακή επικοινωνία φαίνεται να δείχνουν ελάχιστο ενδιαφέρον για τη διατήρησή της, επιτρέποντας τη διάδοση των fake news.
Ως εκ τούτου, ψεύτικες πληροφορίες, φήμες και θεωρίες συνωμοσίας βγαίνουν από το περιθώριο και περνούν στο επίκεντρο της ενημέρωσης, ενώ δημιουργούν μια νέα πραγματικότητα. Τις μέρες που έγραφα αυτό το άρθρο, στην πόλη του Chemnitz της παλιάς Ανατολικής Γερμανίας, ένας όχλος διαδήλωνε κατά των μεταναστών κυνηγώντας όσους δεν είναι λευκοί. Δεν κράδαιναν δίκρανα, όπως οι όχλοι του Μεσαίωνα -μάλλον κρατούσαν τα κινητά τους τηλέφωνα.
Γλυπτά λύκων που χαιρετούν ναζιστικά. Έργο του καλλιτέχνη Rainer Opolka που παρουσιάστηκε στο Chemnitz της Γερμανίας, μετά το κύμα βίας κατά των μεταναστών, που σάρωσε την πόλη.
Εξάλλου, στη Γερμανία το Facebook κυριαρχείται από τη βία των υπέρμαχων της ανωτερότητας των λευκών. Οι ρατσιστικές συγκεντρώσεις διοργανώνονται μέσα σε λίγες ώρες στα κοινωνικά δίκτυα -οι αλγόριθμοι σε αυτές τις πλατφόρμες ενισχύουν τον κοινωνικό διχασμό και ωφελούν τις εξτρεμιστικές οργανώσεις.
Τα γεγονότα, από την άλλη πλευρά, είναι συχνά αρκετά αόριστα. Δεν θα βελτιωθούν -και ίσως ακόμη και να επιδεινωθούν- αν συγκεντρώσουν πολλά «liκe» ή «share». Και τα δύο, τα γεγονότα και η αλήθεια, βασίζονται σε ισχυρούς θεσμούς, όχι σε καταναλωτές, για να τους υπερασπιστούν: δικαστικές αρχές, επιστημονικές κοινότητες, ανεξάρτητος Τύπος. Δεν είναι τυχαίο το γεγονός ότι όλα αυτά τα θεσμικά όργανα υπονομεύονται σε πολλές χώρες σε όλο τον κόσμο.
Υπάρχουν πολλές άμεσες λύσεις για να αποφευχθεί η περαιτέρω επέλαση των fake news. Η ρύθμιση της αγοράς που νέμονται μονοπωλιακά οι ψηφιακές πλατφόρμες είναι μία από αυτές. Αν κάνουμε τους αλγόριθμους που χρησιμοποιούν διαφανείς και ανοιχτούς στη δημόσια αξιολόγηση, η νομοθεσία και ο δημόσιος διάλογος οδηγούνται αλλού. Μπορούμε να απαγορεύουμε τα bots και τους ψευδώνυμους λογαριασμούς στα social media και να ενισχύσουμε τα θεσμικά όργανα με σταθερούς και δοκιμασμένους κανόνες για να διαπιστώνουμε και να επιβεβαιώνουμε τα γεγονότα.
Αλλά δεν μπορούμε να έχουμε και την πίτα ολόκληρη και τον σκύλο χορτάτο. Η αλήθεια σπάνια θα είναι δημοφιλής ή κερδοφόρα. Αν περιμένουμε η δημοτικότητα της αλήθειας να συμβαδίσει με την εγκυρότητά της, δεν κάνουμε κάτι τεχνητά ηλίθιο, αλλά κάτι απλά ηλίθιο.
*Η Hito Steyerl είναι σκηνοθέτρια και συγγραφέας -ασχολείται κυρίως με τα μέσα ενημέρωσης, την τεχνολογία και τη δύναμη των εικόνων.