Σύμφωνα με μια νέα έρευνα της Kaspersky, υπάρχει μια αξιοσημείωτη αύξηση στις συζητήσεις που γίνονται στο dark web από κυβερνοεγκληματίες, σχετικά με την παράνομη χρήση του ChatGPT και άλλων γλωσσικών μοντέλων (LLM).
Σχεδόν 3000 αναρτήσεις στο dark web ασχολούνται με αυτό το θέμα και πρότειναν διάφορες κακόβουλες χρήσεις, από τη δημιουργία κακόβουλων εκδόσεων των chatbot μέχρι την εξερεύνηση εναλλακτικών projects όπως το XXXGPT και το FraudGPT.
Σύμφωνα με τους ερευνητές, το μεγαλύτερο ενδιαφέρον εκδηλώθηκε τον περασμένο Μάρτιο. Ωστόσο, οι συζητήσεις συνεχίζονται δείχνοντας τη διαρκή εστίαση των κυβερνοεγκληματιών στην εκμετάλλευση τεχνολογιών τεχνητής νοημοσύνης για παράνομες δραστηριότητες.
Δείτε επίσης: Δημιουργία ransomware από Κινέζους χάκερς μέσω ChatGPT
Σύμφωνα με τα δεδομένα που κοινοποίησε η Kaspersky στο Infosecurity, οι εγκληματίες του κυβερνοχώρου εξερευνούν διάφορους τρόπους για την εφαρμογή του ChatGPT και γενικότερα του AI στις κακόβουλες δραστηριότητές τους. Για παράδειγμα, σκέφτονται την ανάπτυξη κακόβουλου λογισμικού μέσω του chatbot, την επεξεργασία κλεμμένων δεδομένων χρηστών, την ανάλυση αρχείων από μολυσμένες συσκευές και πολλά άλλα.
Η εταιρεία είπε ακόμα ότι έχει παρατηρηθεί ενσωμάτωση αυτοματοποιημένων απαντήσεων από το ChatGPT ή αντίστοιχα chatbot σε ορισμένα φόρουμ του dark web
.“Επιπλέον, οι φορείς απειλών τείνουν να μοιράζονται jailbreak μέσω διαφόρων dark web channels – ειδικά σύνολα προτροπών που μπορούν να ξεκλειδώσουν πρόσθετες λειτουργίες – και επινοούν τρόπους εκμετάλλευσης νόμιμων εργαλείων, όπως αυτά για pen-testing“.
Δείτε επίσης: ChatGPT Code Interpreter: Ο Δούρειος Ίππος των Hacker
Επίσης, η Kaspersky αποκάλυψε ότι πολλοί κυβερνοεγκληματίες κλέβουν λογαριασμούς ChatGPT και τους πωλούν στο dark web. Βρέθηκαν τουλάχιστον 3000 αναρτήσεις που διαφήμιζαν τέτοιους λογαριασμούς. Αυτό αποτελεί σημαντική απειλή για τους χρήστες και τις εταιρείες.
Σε απάντηση σε αυτά τα ευρήματα, η Kaspersky συνέστησε την εφαρμογή αξιόπιστων λύσεων ασφάλειας και αποκλειστικών υπηρεσιών για την καταπολέμηση επιθέσεων υψηλού προφίλ.
Η παράνομη χρήση του ChatGPT μπορεί να οδηγήσει σε παραβιάσεις της ιδιωτικότητας, καθώς τα γλωσσικά μοντέλα μπορούν να εκπαιδευτούν να αναπαράγουν προσωπικές πληροφορίες που έχουν εισαχθεί στο σύστημα.
Επίσης, η παράνομη χρήση μπορεί να οδηγήσει σε επιθέσεις phishing. Οι επιτιθέμενοι μπορούν να χρησιμοποιήσουν το ChatGPT για να δημιουργήσουν πειστικά ψεύτικα μηνύματα ή ηλεκτρονικά μηνύματα που προσπαθούν να αποκτήσουν πρόσβαση σε ευαίσθητες πληροφορίες.
Δείτε επίσης: NCSC: Η τεχνητή νοημοσύνη (AI) θα αυξήσει τις ransomware επιθέσεις
Μια άλλη πιθανή επίπτωση είναι η διάδοση παραπλανητικών ή επιβλαβών πληροφοριών. Τα γλωσσικά μοντέλα όπως το ChatGPT μπορούν να χρησιμοποιηθούν για να δημιουργήσουν και να διαδώσουν ψευδείς ειδήσεις ή προπαγάνδα.
Τέλος, η παράνομη χρήση του ChatGPT μπορεί να οδηγήσει σε κατάχρηση της τεχνολογίας για εγκληματικές δραστηριότητες, όπως η διακίνηση παράνομων υλικών ή η παρακίνηση σε παράνομες πράξεις.
Πηγή: www.infosecurity-magazine.com