Οι νέοι κανονισμοί σε ΗΠΑ και ΕΕ καθώς και η έλλειψη δεσμευτικών πρακτικών του ιδιωτικού τομέα ως προς τη χρήση των εργαλείων Τεχνητής Νοημοσύνης (AI) πιθανότατα θα οδηγήσουν σε αποτυχία τον ουσιαστικό έλεγχο της διάδοσης κακόβουλου περιεχομένου -το οποίο θα είναι προϊόν σύνθεσης με εργαλεία AI- στα social media κατά τη διάρκεια των εκλογών του 2024 και στις δυο περιοχές.
Τις τελευταίες εβδομάδες, κυβερνήσεις και τεχνολογικές εταιρείες έχουν εντείνει την προσοχή τους στη δυνητικά αρνητική επίπτωση της χρήσης εργαλείων AI στις εκλογικές διαδικασίες. Στις 14 Μαρτίου η Ευρωπαϊκή Επιτροπή ζήτησε πληροφορίες από οκτώ μεγάλες πλατφόρμες social media για τις προσπάθειές τους να μετριάσουν τους κινδύνους για τις εκλογικές διαδικασίες που συνδέονται με την παραγωγή υλικού AI, συμπεριλαμβανομένων των λεγόμενων «παραισθήσεων» (όταν τα chatbots παράγουν λάθος απαντήσεις) και των «deepfakes» (κακόβουλο συνθετικό ηχητικό ή οπτικό περιεχόμενο που στόχο έχει να εξαπατήσει τους χρήστες).
Έναν μήνα νωρίτερα, στη Διάσκεψη του Μονάχου για την Ασφάλεια, τον Φεβρουάριο του 2024, είκοσι κορυφαίες τεχνολογικές εταιρείες, συμπεριλαμβανομένων των Amazon, Anthropic, Meta, Microsoft, OpenAI, Snap, Stability AI, TikTok και X, υπέγραψαν σειρά δεσμεύσεων ώστε να συνεργαστούν για να εντοπίζουν και να αντιμετωπίζουν το κακόβουλο περιεχόμενο AI, ιδιαίτερα σε ό,τι αφορά τις εκλογές.
Δεσμεύτηκαν να αναπτύξουν τεχνολογία που θα αντιμετωπίζει το βλαπτικό περιεχόμενο που παράγεται από AI και έχει ως στόχο έχει να εξαπατήσει ψηφοφόρους. Δεσμεύτηκαν επίσης να περιορίσουν την παρουσία απατηλού περιεχόμενου AI στις πλατφόρμες social media.
Οι ίδιες εταιρείες δεσμεύτηκαν επίσης να δημιουργήσουν εργαλεία -όπως watermarks και τεχνικές εντοπισμού- για να διαπιστώνουν και να ταυτοποιούν το κακόβουλο περιεχόμενο. Επιπλέον να προχωρήσουν σε stress tests μοντέλων AI για να αξιολογήσουν το πώς θα μπορούσαν να χρησιμοποιηθούν εν εκτάσει προκειμένου να διαταράξουν τις εκλογές.
Ζητούνται απαντήσεις
Η Ευρωπαϊκή Επιτροπή έστειλε αιτήματα για πληροφορίες στο πλαίσιο της Πράξης της ΕΕ για τις Ψηφιακές Υπηρεσίες (DSA) στις Bing, Google Search, Facebook, Instagram, Snapchat, TikTok, YouTube και X. Οι εταιρείες έχουν περιθώριο έως τις 5 Απριλίου να δημοσιοποιήσουν το πώς το περιεχόμενο που παράγει η AI δημιουργείται και διαδίδεται στις πλατφόρμες και στις υπηρεσίες τους. Καθώς και πώς εντοπίζουν και μετριάζουν τα deepfakes (σ.τ.μ. ηχητικά ή βίντεο, όπου κάποιος εμφανίζεται να λέει ή να κάνει πράγματα που ουδέποτε είπε ή έκανε) και άλλο κακόβουλο περιεχόμενο.
Αν και η Ευρωπαϊκή Ένωση έχει ορισμένους νόμους για να ρυθμίζει το online περιεχόμενο και τα εργαλεία AI, ωστόσο οι νόμοι αυτοί είτε είναι ακόμα νέοι ή δεν έχουν ακόμα επιβληθεί, ενώ στις ΗΠΑ δεν υπάρχει ομοσπονδιακό πλαίσιο για την ΤΝ ή νόμοι που να αφορούν περιπτώσεις χρήσης συνθετικού περιεχομένου.
Τον Αύγουστο του 2023, η DSA της Ευρωπαϊκής Ένωσης τέθηκε σε ισχύ, εισάγοντας μια ολοκληρωμένη σειρά κανόνων για μεγάλες πλατφόρμες όπως οι εταιρείες social media, οι online αγορές και οι μηχανές αναζήτησης. Η DSA απαιτεί οι εταιρείες αυτές να αναγνωρίζουν, να αναλύουν και να εκτιμούν τους συστημικούς κινδύνους που συνδέονται με τις υπηρεσίες τους, μεταξύ άλλων και σε σχέση με τις εκλογικές διαδικασίες. Ο νόμος απαιτεί επίσης οι εταιρείες να αφαιρούν παράνομο περιεχόμενο όπως παραπληροφόρηση και λανθασμένη πληροφόρηση, αν και η DSA δεν εκτείνεται και στις εφαρμογές ΤΝ.
Το πολύ πιο σαρωτικό πλαίσιο της ΕΕ για την ΤΝ, η Πράξη για την Τεχνητή Νοημοσύνη, υιοθετήθηκε από το Ευρωπαϊκό Κοινοβούλιο στις 13 Μαρτίου. Ωστόσο, ο νόμος για την ΤΝ δεν θα τεθεί σε ισχύ πριν τον Μάιο ή Ιούνιο και οι απαιτήσεις για τις εταιρείες δεν θα είναι πλήρως εφαρμόσιμες μέχρι τα μέσα του 2026.
Εν τω μεταξύ, στις ΗΠΑ δεν υπάρχει ομοσπονδιακή νομοθεσία που να διέπει τη χρήση της ΤΝ ή νόμοι που να απαγορεύουν την τεχνολογία deepfake, και η προοπτική να εγκριθεί κάποιος τέτοιος νόμος είναι πολύ χαμηλή σε αυτό το πολωμένο πολιτικό κλίμα της Ουάσινγκτον. Αν και μια σειρά πολιτειών των ΗΠΑ έχουν φέρει νομοσχέδια που αφορούν την ΤΝ και τη ρύθμιση του συνθετικού περιεχομένου, ιδιαίτερα κατά τη διάρκεια εκλογικών περιόδων, πολλές από αυτές τις προσπάθειες είναι νέες και ποικίλουν, υπονομεύοντας τη χρησιμότητά τους.
Ορισμένοι ρυθμιστικοί φορείς των ΗΠΑ έχουν πάρει μέτρα για να μπουν περιορισμοί στη χρήση εργαλείων ΤΝ. Πιο πρόσφατα, τον Φεβρουάριο, η Ομοσπονδιακή Επιτροπή Επικοινωνιών απαγόρευσε τη χρήση φωνών που έχουν παραχθεί από ΤΝ στις προηχογραφημένες αυτοματοποιημένες κλήσεις. Ωστόσο, οι προσπάθειες αυτές έχουν επίσης περιορισμένο σκοπό και εφαρμογή· για παράδειγμα, δεν εφαρμόζονται στο ηχητικό συνθετικό περιεχόμενο αν τέτοιο περιεχόμενο κυκλοφορεί στις πλατφόρμες social media ή σε διαφημίσεις εκστρατείας.
Δεν αρκούν
Οι αρχικού κανονισμοί για την AI στην Ευρωπαϊκή Ένωση και τις ΗΠΑ, σε συνδυασμό με τις μη δεσμευτικές υποσχέσεις του ιδιωτικού τομέα, πιθανότατα δεν θα αρκέσουν ώστε να αναγκάσουν τις εταιρείες social media να περιορίσουν τη διόγκωση του διαμοιρασμού περιεχομένου παραγωγής AI στις πλατφόρμες τους μεσομακροπρόθεσμα.
Η Ευρωπαϊκή Ένωση προσπαθεί να δείξει ότι η DSA είναι ισχυρή, όπως φάνηκε από τις ανακοινωθείσες έρευνες στις Meta και TikTok τον Οκτώβριο του 2023 μετά την έναρξη του πολέμου Ισραήλ-Χαμάς και την επακόλουθη αύξηση της παραπληροφόρησης και άλλου «παράνομου περιεχόμενου» στις πλατφόρμες social media των δυο εταιρειών. Ωστόσο, οι κανόνες της ΕΕ δεν έχουν κλείσει ούτε χρόνο και οι πλήρεις δυνατότητες εφαρμογής τους εξακολουθούν σε μεγάλο βαθμό να μην έχουν δοκιμαστεί. Η πολύ πιο εφαρμόσιμη Πράξη της ΕΕ για την AI επίσης θα αποτύχει να επιβλέψει και να μετριάσει τις περιπτώσεις χρήσης ΑΙ κατά τη διάρκεια των εκλογών του Ιουνίου για το Ευρωπαϊκό Κοινοβούλιο λόγω της αναβολής εφαρμογής του νόμου.
Εν τω μεταξύ, η απουσία οποιασδήποτε ομοσπονδιακής νομοθεσίας που να διέπει τις χρήσεις AI στις ΗΠΑ δεν θα οδηγήσει σε κάποια ουσιαστική επίβλεψη και ρύθμιση των προσπαθειών μετριασμού της χρήσης AI από τον ιδιωτικό τομέα, αλλά και στο πώς οι υποψήφιοι για την προεδρία των ΗΠΑ θα χρησιμοποιήσουν τα εργαλεία AI εν όψει των εκλογών του Νοεμβρίου.
Ο ιδιωτικός τομέας
Στον ιδιωτικό τομέα, ακόμα και με την υπογραφή διεθνών δεσμεύσεων για την AI από πολλούς οργανισμούς, η αμφισημία της φρασεολογίας των συμφωνιών αυτών και η έλλειψη δεσμευτικών απαιτήσεων επίσης είναι πιθανό να υπονομεύσει τις απτές προσπάθειες για να αντιμετωπιστεί η παραπληροφόρηση από τις εταιρείες.
Και ενώ οι δυτικές εταιρείες που οδηγούν τον κλάδο της ΤΝ, συμπεριλαμβανομένων των Google, Meta και OpenAI, έχουν όλες δεσμευτεί να εισάγουν δικλείδες ασφαλείας για τους δημιουργούς AI, πολλά από αυτά τα προτεινόμενα εργαλεία διαφάνειας δεν έχουν ακόμα λανσαριστεί και ίσως να μπορούν να παρακαμφθούν.
Οι εταιρείες αυτές έχουν άλλες πολιτικές για τις εκλογές, όπως η Meta, η οποία ισχυρίζεται πως οι moderators περιεχομένου της αφαιρούν την παραπληροφόρηση για «τις ημερομηνίες, τοποθεσίες, ώρες και μεθόδους ψηφοφορίας, εγγραφής ψηφοφόρων ή συμμετοχής σε απογραφή» και τις ψευδείς αναρτήσεις που φέρονται να έχουν σκοπό να παρέμβουν με την συμμετοχή κάποιου στα κοινά. Ωστόσο, τέτοιες πολιτικές έχουν μέχρι στιγμής αποτύχει να περιορίσουν την εξάπλωση της παραπληροφόρησης, η οποία ήταν ανεξέλεγκτη κατά τη διάρκεια διαφόρων πρόσφατων διεθνών κρίσεων, συμπεριλαμβανομένου του πολέμου Ισραήλ-Χαμάς.
Ως αποτέλεσμα αυτών των ανεπαρκών δικλείδων ασφαλείας, η σύνθεση (κακόβουλου) περιεχόμενο πιθανότατα θα πολλαπλασιαστεί στις πλατφόρμες social media ενόψει των εκλογών της ΕΕ και των ΗΠΑ, ενισχύοντας την απήχηση της παραπληροφόρησης και φουντώνοντας την κοινωνική δυσαρέσκεια σε (πολλές χώρες.
Το πιο πειστικό περιεχόμενο deepfake πιθανότατα θα επιτείνει τους κινδύνους ασφάλειας και υλικοτεχνικής υποδομής που ήδη υπάρχουν σε ορισμένες δυτικές χώρες (για παράδειγμα, στις ευρωπαϊκές χώρες που αντιμετωπίζουν τις συνεχιζόμενες διαδηλώσεις των αγροτών). Οι υποψήφιοι και οι πολιτικοί φορείς θα αξιοποιήσουν πιθανότατα τα εργαλεία AI για να ενισχύσουν την εικόνα τους ή να διασύρουν τους αντιπάλους τους.
Άλλοι απειλητικοί παράγοντες, συμπεριλαμβανομένων των εγκληματιών στον κυβερνοχώρο που έχουν οικονομικά κίνητρα, ενδέχεται επίσης να χρησιμοποιήσουν συνθετικό ηχητικό περιεχόμενο χρησιμοποιώντας δελεαστικά θέματα εκλογών για να εξαπατήσουν τους πολίτες ώστε να αποκαλύψουν ευαίσθητες οικονομικές πληροφορίες ή στοιχεία login (σ.σ. κωδικούς εισόδου σε λογαριασμούς κ.λπ.).
Μακροπρόθεσμα, οι συνεχιζόμενες πρωτοβουλίες του δημόσιου και του ιδιωτικού τομέα είναι έτοιμες να ενισχύσουν την ανθεκτικότητα των πλατφορμών σε κακόβουλο συνθετικό περιεχόμενο, το οποίο πιθανότατα θα αποτελέσει λιγότερο σοβαρή απειλή σε μελλοντικούς εκλογικούς κύκλους. Τον Φεβρουάριο, η Meta ανακοίνωσε ότι θα αρχίσει να τοποθετεί ειδική ένδειξη στις εικόνες που δημιουργούνται με τεχνητή νοημοσύνη και τις οποίες οι χρήστες αναρτούν στο Facebook και το Instagram «τους επόμενους μήνες».
Η Google έκανε μια παρόμοια ανακοίνωση τον ίδιο μήνα, δηλώνοντας ότι επιθυμεί να δημιουργήσει ένα εργαλείο watermark AI που θα παρέχει πληροφορίες σχετικά με το πότε, πού και πώς έγινε η επεξεργασία του μέσου.