Το Telegram βρίσκεται υπό πίεση καθώς πρέπει να αφαιρέσει ένα bot AI που έχει κάνει generate δεκάδες χιλιάδες μη συναινετικού ερωτικού περιεχομένου εικόνες γυναικών – revenge porn – στην πλατφόρμα του.
Δείτε επίσης: Πώς να διαγράψετε τις παλιές εικόνες προφίλ στο Telegram
Τα όργανα επιβολής του νόμου εξετάζουν τη δραστηριότητα ενός deepfake bot, το οποίο πιστεύεται ότι χρησιμοποιήθηκε για την παραγωγή εικόνων ερωτικού περιεχομένου ανηλίκων κοριτσιών. Οι ρυθμιστές προστασίας δεδομένων στην Ιταλία έχουν επίσης ξεκινήσει μια έρευνα σχετικά με τη χρήση του και η πρόσβαση στο bot έχει περιοριστεί στο iOS της Apple.
Δείτε επίσης: Το Telegram τον επόμενο μήνα θα λανσάρει τις ομαδικές βιντεοκλήσεις
Όλο αυτό προήλθε καθώς ανακαλύφθηκαν πολλές ιδιωτικές ομάδες που κοινοποιούν μη συναινετικές φωτογραφίες και βίντεο γυναικών – γνωστό και ως εκδικητικό πορνό – που δεν έγιναν generate από την AI. Οι αναφορές από την Αμερική, την Ιταλία, τη Νότια Κορέα και το Ισραήλ περιγράφουν λεπτομερώς τον τρόπο με τον οποίο το Telegram χρησιμοποιήθηκε για την κοινή χρήση των εικόνων αυτού του τύπου τον τελευταίο χρόνο.
Οι ερευνητές ισχυρίζονται ότι το Telegram απέτυχε να δράσει ενάντια στο deepfake bot, το οποίο αυτοματοποιεί τη δημιουργία γυμνών εικόνων γυναικών. Το bot χρησιμοποιεί μια έκδοση του εργαλείου DeepNude AI, το οποίο κυκλοφορεί αρχικά το 2019 και σκοπός του είναι να αφαιρεί τα ρούχα από φωτογραφίες γυναικών. Ο καθένας μπορεί εύκολα να χρησιμοποιήσει το bot για να δημιουργήσει εικόνες. Περισσότερες από 100.000 τέτοιες εικόνες έχουν κοινοποιηθεί δημόσια από το bot σε πολλά κανάλια Telegram chats που σχετίζονται με αυτό. Αυτά τα κανάλια περιείχαν δεκάδες χιλιάδες μέλη το καθένα.
Όταν οι ερευνητές της εταιρείας ασφαλείας Sensity ανακάλυψαν το bot στο Telegram στις αρχές του τρέχοντος έτους, το ανέφεραν στην εφαρμογή. Η ελπίδα τους ήταν ότι η πλατφόρμα chatting θα αφαιρέσει το bot, ωστόσο δεν συνέβη κάτι τέτοιο.
Από τότε που η εταιρεία Sensity αποκάλυψε την ύπαρξη του bot τον Οκτώβριο, οι ομάδες που το χρησιμοποιούσαν για να μοιραστούν εικόνες το έκρυψαν. “Αυτή τη στιγμή είναι πραγματικά δύσκολο το να φτάσουμε στο bot”, λέει ο Giorgio Patrini, Διευθύνων Σύμβουλος και επικεφαλής επιστήμονας της Sensity.
Δείτε επίσης: Hackers χρησιμοποιούν το Telegram στα πλαίσια malware εκστρατείας
Ορισμένες ομάδες που χρησιμοποιούσαν το bot άλλαξαν τα ονόματά τους ώστε να αποφύγουν την ταυτοποίησή. Πολλά από τα κανάλια μοιράζονται τώρα άλλο περιεχόμενο που σχετίζεται γενικά με την τεχνολογία deepfake. Και ορισμένα από τα κανάλια έχουν εξαφανιστεί εντελώς.
Παρόλο που οι ομάδες γύρω από το bot δεν δημοσιεύουν αυτήν τη στιγμή για αυτό, εξακολουθεί να υπάρχει και συνεχίζει να λειτουργεί.