Η Anthropic αποκάλυψε την πρώτη καταγεγραμμένη αυτόνομη κυβερνοεπίθεση από AI, με Κινέζους χάκερ να χειραγωγούν το chatbot «Claude»

Η αμερικανική εταιρεία τεχνητής νοημοσύνης Anthropic ανακοίνωσε ότι εντόπισε και απέτρεψε την πρώτη γνωστή κυβερνοεπιχείρηση που εκτελέστηκε σε μεγάλο βαθμό αυτόνομα από AI. Η επίθεση, την οποία η εταιρεία χαρακτηρίζει ως εκστρατεία κυβερνοκατασκοπείας, αποδίδεται στην ομάδα GTG-1002, η οποία, σύμφωνα με τις αμερικανικές αρχές, συνδέεται με το κινεζικό κράτος.

Η ομάδα χρησιμοποίησε το chatbot «Claude» και ειδικά το εργαλείο Claude Code για να παραβιάσει συστήματα και να αποσπάσει δεδομένα από περίπου 30 στόχους, μεταξύ των οποίων περιλαμβάνονται μεγάλες τεχνολογικές εταιρείες, οικονομικοί οργανισμοί και κυβερνητικές υπηρεσίες σε πολλές χώρες. Η δράση τους καταγράφηκε στα μέσα Σεπτεμβρίου και εκτελέστηκε με ταχύτητα και όγκο που, κατά την Anthropic, δεν θα ήταν εφικτά με ανθρώπινη παρέμβαση.

Πώς οι χάκερ χειραγώγησαν το chatbot

Σύμφωνα με την αναλυτική έκθεση της Anthropic, οι κυβερνοπειρατές κατάφεραν να παρακάμψουν τους μηχανισμούς ασφαλείας του Claude, πείθοντάς τον ότι είχαν ρόλο επαγγελματιών της κυβερνοασφάλειας που πραγματοποιούσαν εγκεκριμένους ελέγχους. Με αυτόν τον τρόπο, το chatbot οδηγήθηκε σε αυτόνομη εκτέλεση επιθέσεων, χωρίς ουσιαστική ανθρώπινη εποπτεία.

Η εταιρεία επισημαίνει ότι μέχρι σήμερα συστήματα τεχνητής νοημοσύνης έχουν χρησιμοποιηθεί για την αυτοματοποίηση κυβερνοεπιθέσεων, αλλά αυτή είναι η πρώτη φορά που καταγράφεται πλήρως αυτόνομη δράση AI με τέτοιο εύρος και ένταση.

Η αντίδραση της Anthropic και οι νέες ανησυχίες

Η εκστρατεία κράτησε αρκετές ημέρες, μέχρι που τα εσωτερικά συστήματα της Anthropic εντόπισαν την ανωμαλία. Η εταιρεία απενεργοποίησε άμεσα τους λογαριασμούς που χρησιμοποιήθηκαν, ενημέρωσε τις αρμόδιες αρχές και ενεργοποίησε ενισχυμένους μηχανισμούς εντοπισμού και απόκρισης.

Η υπόθεση δημιουργεί νέα επίπεδα ανησυχίας για την ασφάλεια των μεγάλων γλωσσικών μοντέλων, καθώς αποδεικνύει ότι οι μηχανισμοί ασφαλείας μπορούν να παρακαμφθούν με σύνθετους τρόπους και ότι η AI μπορεί να εξελιχθεί σε αυτόνομο εργαλείο επιθέσεων αν ελεγχθεί από οργανωμένες ομάδες κυβερνοπειρατών.

Διαβάστε επίσης: Κιμ Γιονγκ Ουν: Βορειοκορεάτες χάκερ λεηλατούν την αγορά crypto – Πάνω από 6 δισ. δολ. η λεία