Ακατάλληλες φωτογραφίες της διάσημης τραγουδίστριας Taylor Swift, δημιουργημένες από εργαλείο τεχνητής νοημοσύνης (AI), διαδόθηκαν στα social media αυτή την εβδομάδα. Το περιστατικό δείχνει ξεκάθαρα τις καταστροφικές συνέπειες της κακόβουλης χρήσης της τεχνητής νοημοσύνης.
Οι ψεύτικες εικόνες της Taylor Swift κυκλοφόρησαν κυρίως στο X, παλαιότερα γνωστό ως Twitter. Οι φωτογραφίες έδειχναν την τραγουδίστρια σε προκλητικές στάσεις και πρόλαβαν να τις δουν εκατομμύρια χρήστες, πριν αφαιρεθούν από τις κοινωνικές πλατφόρμες.
Όπως οι περισσότερες μεγάλες πλατφόρμες μέσων κοινωνικής δικτύωσης, οι πολιτικές του X απαγορεύουν την κοινή χρήση δημιουργημένου περιεχομένου που μπορεί να μπερδέψει τους ανθρώπους και να τους βλάψει.
Δείτε επίσης: Εάν ένα AI μοντέλο εκδηλώσει “παραπλανητική συμπεριφορά”, είναι δύσκολο να διορθωθεί
“Αυτό είναι ένα χαρακτηριστικό παράδειγμα των τρόπων με τους οποίους η τεχνητή νοημοσύνη χρησιμοποιείται για πολλούς άθλιους λόγους, χωρίς επαρκή προστατευτικά κιγκλιδώματα για την προστασία του κοινού“, δήλωσε στο CNN ο Ben Decker, ο οποίος διευθύνει τη Memetica, μια υπηρεσία ψηφιακών ερευνών.
Ο Decker είπε ότι η εκμετάλλευση των generative AI εργαλείων για τη δημιουργία επιβλαβούς περιεχομένου που στοχεύει δημόσια και μη πρόσωπα, εξαπλώνεται ταχύτερα από ποτέ στα μέσα κοινωνικής δικτύωσης.
“Οι εταιρείες μέσων κοινωνικής δικτύωσης δεν έχουν πραγματικά αποτελεσματικά σχέδια για να παρακολουθούν το περιεχόμενο“, είπε.
Το X, για παράδειγμα, έχει απολύσει πολλά άτομα από την ομάδα εποπτείας περιεχομένου και βασίζεται κυρίως σε αυτοματοποιημένα συστήματα και αναφορές χρηστών. Η Meta, επίσης, έκανε περικοπές στις ομάδες της που αντιμετωπίζουν την παραπληροφόρηση.
Δεν είναι σαφές από πού προέρχονται οι AI-generated ακατάλληλες φωτογραφίες της Taylor Swift. Αν και ορισμένες εικόνες βρέθηκαν σε ιστότοπους όπως το Instagram και το Reddit, το πρόβλημα ήταν μεγαλύτερο στο X.
Ο Decker πιστεύει ότι οι εταιρείες τεχνητής νοημοσύνης, οι εταιρείες μέσων κοινωνικής δικτύωσης, οι ρυθμιστικές αρχές και η ίδια η κοινωνία πρέπει να συζητήσουν για το ζήτημα της κατάχρησης του AI και να βρουν μια λύση, καθώς το ακατάλληλο, ψεύτικο και επικίνδυνο περιεχόμενο θα συνεχίσει να εξαπλώνεται.
Δείτε επίσης: Bad Bunny: Έξαλλος με AI-generated τραγούδι που μιμείται τη φωνή του
Ο Decker είπε, ωστόσο, ότι η στόχευση της Taylor Swift θα μπορούσε να φέρει περισσότερη προσοχή στο πρόβλημα. Η τεράστια ομάδα πιστών “Swifties” εξέφρασε την οργή της στα social media, φέρνοντας το θέμα στο προσκήνιο. Το 2022, μια κατάρρευση της Ticketmaster πριν από τη συναυλία της στο Eras Tour πυροδότησε οργή στο διαδίκτυο, οδηγώντας σε αρκετές νομοθετικές προσπάθειες για την πάταξη των μη φιλικών προς τους καταναλωτές πολιτικών έκδοσης εισιτηρίων.
Ίσως συμβεί το ίδιο και για τις ακατάλληλες φωτογραφίες που δημιουργούνται από AI.
“Όταν έχετε πρόσωπα όπως η Taylor Swift που είναι τόσο μεγάλα, ίσως αυτό είναι που ωθεί τη δράση από τους νομοθέτες και τις εταιρείες τεχνολογίας επειδή δεν έχουν την πολυτέλεια να έχουν την αγαπημένη της Αμερικής σε μια δημόσια εκστρατεία εναντίον τους“, είπε. “Πιστεύω ότι πρέπει να την κάνουν να νιώσει καλύτερα, γιατί έχει πιθανώς περισσότερη επιρροή στο Διαδίκτυο“.
Αυτό που έγινε με την Taylor Swift δείχνει πώς η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί για αυτό που είναι γνωστό ως “revenge porn“, όπου ο θύτης δημοσιεύει γυμνές και γενικά ακατάλληλες φωτογραφίες του θύματος στο διαδίκτυο χωρίς τη συγκατάθεσή του.
Δείτε επίσης: Η Scarlett Johansson κινείται νομικά εναντίον του Lisa AI app επειδή μιμήθηκε τη φωνή της
Οι εικόνες αυτές, που δημιουργούνται από την τεχνητή νοημοσύνη, διαδίδονται γρήγορα στα κοινωνικά μέσα επειδή είναι εύκολα προσβάσιμες και μοιράζονται εύκολα. Οι χρήστες μπορούν να κάνουν κλικ σε ένα κουμπί για να μοιραστούν την εικόνα σε διάφορες πλατφόρμες κοινωνικών μέσων.
Επιπλέον, οι εικόνες αυτές είναι συχνά ενδιαφέρουσες, πράγμα που τις κάνει να ξεχωρίζουν στο feed ενός ατόμου. Αυτό μπορεί να προκαλέσει την προσοχή των χρηστών και να τους ενθαρρύνει να μοιραστούν την εικόνα με τους δικούς τους followers.
Τέλος, οι εικόνες που δημιουργούνται από την τεχνητή νοημοσύνη μπορεί να προκαλέσουν συζητήσεις ή να προκαλέσουν αντιδράσεις, πράγμα που μπορεί να αυξήσει την πιθανότητα να φτάσουν σε ακόμα περισσότερες πλατφόρμες. Οι χρήστες μπορεί να θέλουν να μοιραστούν τις σκέψεις τους ή να δουν τις αντιδράσεις των άλλων, πράγμα που μπορεί να οδηγήσει σε περαιτέρω διάδοση της εικόνας.
Εννέα πολιτείες των ΗΠΑ έχουν επί του παρόντος νόμους κατά της δημιουργίας ή της κοινής χρήσης μη συναινετικών deepfake φωτογραφιών, οι οποίες είναι συνθετικές εικόνες που δημιουργούνται για να μιμούνται κάποιον.
Πηγή: edition.cnn.com