Ο Eric Schmidt, πρώην διευθύνων σύμβουλος της Google (2001–2011), απηύθυνε αυστηρή προειδοποίηση για τους κινδύνους της τεχνητής νοημοσύνης (AI), τονίζοντας πόσο ευάλωτη είναι η τεχνολογία σε κακόβουλη χρήση.
Μιλώντας στο Sifted Summit, ο Schmidt αναφέρθηκε στα «κακά πράγματα που μπορεί να κάνει η AI», απαντώντας σε ερώτηση σχετικά με το αν η τεχνολογία αυτή είναι πιο επικίνδυνη από τα πυρηνικά όπλα. «Υπάρχει το ενδεχόμενο προβλήματος “διάδοσης” στην AI; Απολύτως», τόνισε.
Οι κίνδυνοι διάδοσης σχετίζονται με το ενδεχόμενο η τεχνολογία να πέσει σε λάθος χέρια. Σύμφωνα με τον ίδιο, υπάρχουν αποδείξεις ότι τα μοντέλα τεχνητής νοημοσύνης — είτε ανοιχτά είτε κλειστά — μπορούν να «χακαριστούν» ώστε να αφαιρεθούν οι μηχανισμοί ασφαλείας τους. «Κατά τη διάρκεια της εκπαίδευσής τους, μαθαίνουν πάρα πολλά πράγματα. Ένα κακό παράδειγμα είναι ότι μπορεί να μάθουν πώς να σκοτώσουν κάποιον», πρόσθεσε.
Ο Schmidt εξήγησε ότι όλες οι μεγάλες εταιρείες έχουν λάβει μέτρα ώστε τα μοντέλα τους να μην απαντούν σε επικίνδυνες ερωτήσεις, αλλά, όπως είπε, υπάρχουν ήδη παραδείγματα όπου αυτά τα μέτρα μπορούν να παρακαμφθούν.
Οι κυβερνοαπειλές στην τεχνητή νοημοσύνη
Τα συστήματα AI είναι ευάλωτα σε επιθέσεις όπως τα prompt injections και το jailbreaking. Στην πρώτη περίπτωση, οι χάκερ ενσωματώνουν κακόβουλες εντολές μέσα σε προτροπές ή εξωτερικά δεδομένα, ώστε να κάνουν το AI να εκτελέσει απαγορευμένες ενέργειες, όπως να μοιραστεί ιδιωτικές πληροφορίες ή να τρέξει επικίνδυνες εντολές. Το jailbreaking στοχεύει στην παράκαμψη των κανόνων ασφαλείας του μοντέλου, οδηγώντας σε απαγορευμένο ή επικίνδυνο περιεχόμενο.
Το 2023, λίγους μήνες μετά την κυκλοφορία του ChatGPT, χρήστες κατάφεραν να παρακάμψουν τους περιορισμούς ασφαλείας μέσω του «προσωπείου» DAN («Do Anything Now»), το οποίο παρήγαγε απαντήσεις για παράνομες ενέργειες και ακόμη εγκωμιαστικά σχόλια για τον Χίτλερ, αποδεικνύοντας την ευκολία με την οποία μπορούν να παραβιαστούν τα όρια της AI.
Ο Schmidt τόνισε ότι δεν υπάρχει ακόμη διεθνές πλαίσιο για την αντιμετώπιση των κινδύνων της AI, όπως υπάρχει για τα πυρηνικά όπλα.
Υποτιμημένη αλλά ισχυρή τεχνολογία
Παρά τους κινδύνους, ο Schmidt παραμένει αισιόδοξος για τις θετικές δυνατότητες της τεχνολογίας. Αναφερόμενος στη σειρά GPT, επισήμανε ότι η ταχύτητα με την οποία το ChatGPT έφτασε τα 100 εκατομμύρια χρήστες μέσα σε δύο μήνες δείχνει τη δύναμη και την ταχύτητα διάδοσης της AI. «Πιστεύω πως η τεχνητή νοημοσύνη είναι υποτιμημένη, όχι υπερτιμημένη, και ανυπομονώ να αποδειχθεί αυτό σε πέντε ή δέκα χρόνια», είπε.
Σε σχέση με τους φόβους για «φούσκα AI» και τη μαζική επένδυση σε startups του χώρου, ο Schmidt εμφανίζεται συγκρατημένα αισιόδοξος: «Δεν πιστεύω ότι θα συμβεί το ίδιο όπως με τη φούσκα του dot-com. Οι επενδυτές βλέπουν μακροπρόθεσμη απόδοση, διαφορετικά δεν θα ρίσκαραν.»
Μ.Η.Τ. 242183