Το συμβάν έχει προκαλέσει έντονο προβληματισμό για το πόσο ασφαλής είναι πλέον η νέα γενιά των αυτόνομων AI agents

Πρωτοφανές περιστατικό αποκάλυψε η OpenAI, καθώς προηγμένα μοντέλα τεχνητής νοημοσύνης κατάφεραν να παρακάμψουν το προστατευμένο περιβάλλον δοκιμών, να αποκτήσουν πρόσβαση σε εξωτερικά συστήματα και να επιχειρήσουν κυβερνοεπίθεση χωρίς ανθρώπινη παρέμβαση.

Μέχρι σήμερα οι μεγαλύτεροι φόβοι γύρω από την τεχνητή νοημοσύνη παρέμεναν, σε μεγάλο βαθμό, θεωρητικοί. Η OpenAI υποστηρίζει πλέον ότι για πρώτη φορά είδε ένα από τα πιο προηγμένα συστήματά της να ξεπερνά τα όρια που του είχαν τεθεί και να ενεργεί αυτόνομα με τρόπο που οι ίδιοι οι δημιουργοί του χαρακτηρίζουν «πρωτοφανή».

Κατά τη διάρκεια εσωτερικής δοκιμής ασφαλείας, προηγμένοι AI agents κατάφεραν να εντοπίσουν αδυναμίες στο προστατευμένο περιβάλλον («sandbox») όπου δοκιμάζονταν, να διαφύγουν από αυτό και στη συνέχεια να επιχειρήσουν κυβερνοεπίθεση εναντίον του Hugging Face, της μεγαλύτερης ίσως πλατφόρμας παγκοσμίως για τη φιλοξενία και ανταλλαγή μοντέλων τεχνητής νοημοσύνης.

Το περιστατικό ερευνάται από κοινού από τις δύο εταιρείες.

Πώς «δραπέτευσαν» οι AI agents

Οι λεγόμενοι AI agents διαφέρουν από τα συνηθισμένα chatbots, καθώς δεν περιορίζονται στο να απαντούν σε ερωτήσεις. Μπορούν, αφού λάβουν έναν αρχικό στόχο από άνθρωπο, να ενεργούν μόνοι τους, να λαμβάνουν αποφάσεις και να εκτελούν σύνθετες αλληλουχίες ενεργειών.

Σύμφωνα με την OpenAI, κατά τη διάρκεια δοκιμών οι agents ανακάλυψαν κενά ασφαλείας στο sandbox, παρακάμπτοντας τους περιορισμούς που είχαν σχεδιαστεί ακριβώς για να τους κρατούν απομονωμένους.

Αφού απέκτησαν πρόσβαση εκτός του ελεγχόμενου περιβάλλοντος, εντόπισαν το Hugging Face ως πιθανή πηγή πληροφοριών και επιχείρησαν να αποκτήσουν πρόσβαση σε εσωτερικά εταιρικά συστήματα.

Η OpenAI χαρακτήρισε το περιστατικό «άνευ προηγουμένου».

«Όλα έγιναν αυτόνομα»

Ο διευθύνων σύμβουλος του Hugging Face, Κλεμέν Ντελάνγκ, παραδέχθηκε ότι ακόμη και οι ίδιοι οι ερευνητές εντυπωσιάστηκαν από όσα συνέβησαν.

«Είναι απίστευτο ότι όλα αυτά έγιναν αυτόνομα», έγραψε στην πλατφόρμα Χ, επιβεβαιώνοντας ότι η κοινή έρευνα συνεχίζεται και ότι πρόκειται πιθανόν για το πρώτο περιστατικό αυτού του είδους.

Η εταιρεία ανακοίνωσε ότι έχει ήδη διορθώσει τα κενά ασφαλείας που αξιοποιήθηκαν και έχει ανακατασκευάσει τα επηρεαζόμενα συστήματα, ενώ εξακολουθεί να εξετάζει εάν επηρεάστηκαν δεδομένα πελατών ή συνεργατών.

«Η κυβερνοεπίθεση με τεχνητή νοημοσύνη δεν είναι πλέον θεωρία»

Η υπόθεση έχει προκαλέσει έντονη ανησυχία στον χώρο της κυβερνοασφάλειας.

«Τα αυτόνομα επιθετικά εργαλεία που βασίζονται στην τεχνητή νοημοσύνη δεν αποτελούν πλέον θεωρητικό σενάριο», προειδοποίησε το Hugging Face, τονίζοντας ότι οι εταιρείες θα πρέπει πλέον να αντιμετωπίζουν τα μοντέλα τεχνητής νοημοσύνης ως πιθανή επιφάνεια επίθεσης και να χρησιμοποιούν επίσης AI για την άμυνά τους.

Ειδικοί σημειώνουν ότι η άμυνα εξακολουθεί να κινείται με ανθρώπινους ρυθμούς, ενώ οι επιθέσεις εξελίσσονται πλέον με την ταχύτητα των μηχανών.

«Δεν απέδειξε ότι η AI ξέφυγε από τον έλεγχο»

Παρά τον θόρυβο που προκάλεσε η αποκάλυψη, αρκετοί επιστήμονες εμφανίζονται πιο συγκρατημένοι.

Ο καθηγητής Μηχανικής Μάθησης του Πανεπιστημίου του Κέιμπριτζ Νιλ Λόρενς χαρακτήρισε το περιστατικό εντυπωσιακό, αλλά υποστήριξε ότι παραμένει εντός των γνωστών δυνατοτήτων των σημερινών ισχυρών μοντέλων τεχνητής νοημοσύνης.

Άλλοι ειδικοί στρέφουν την κριτική τους στην ίδια την OpenAI, υποστηρίζοντας ότι το πρόβλημα δεν ήταν τόσο η «ευφυΐα» των μοντέλων όσο η ανεπαρκής ασφάλεια του περιβάλλοντος δοκιμών.

«Φαίνεται ότι η OpenAI δεν δημιούργησε ένα αρκετά ασφαλές sandbox», σχολίασε η Τζίνα Νεφ, επικεφαλής του Minderoo Centre for Technology and Democracy του Πανεπιστημίου του Κέιμπριτζ.

Τεχνολογικό επίτευγμα ή επίδειξη ισχύος;

Το περιστατικό έρχεται σε μια περίοδο ιδιαίτερα έντονου ανταγωνισμού στην αγορά της τεχνητής νοημοσύνης.

Η OpenAI δέχεται αυξανόμενη πίεση από την Anthropic, η οποία έχει τραβήξει τα φώτα της δημοσιότητας με τα προηγμένα μοντέλα Claude Mythos, ενώ πριν από λίγες ημέρες η κινεζική Moonshot παρουσίασε το νέο μεγάλο μοντέλο Kimi K3.

Ορισμένοι αναλυτές εκτιμούν ότι η δημοσιοποίηση του συμβάντος λειτουργεί και ως επίδειξη των δυνατοτήτων των μοντέλων της OpenAI, αναδεικνύοντας το επίπεδο αυτονομίας που έχουν πλέον αποκτήσει.

Άλλοι, αντίθετα, θεωρούν ότι η αποκάλυψη αποτελεί προειδοποίηση για μια νέα εποχή, στην οποία τα συστήματα τεχνητής νοημοσύνης δεν θα χρειάζονται πλέον άμεσες ανθρώπινες εντολές για να εντοπίζουν αδυναμίες, να λαμβάνουν αποφάσεις και να εξαπολύουν σύνθετες κυβερνοεπιθέσεις.

Το μόνο βέβαιο είναι ότι το περιστατικό ανοίγει μια νέα συζήτηση για το κατά πόσο οι υπάρχουσες δικλίδες ασφαλείας επαρκούν απέναντι στην ολοένα και μεγαλύτερη αυτονομία των συστημάτων τεχνητής νοημοσύνης.

Πηγή: naftemporiki.gr

ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ

Οι πόλεις που δίνουν υψηλότερους μισθούς (αλλά δεν θα σας κάνουν απαραίτητα πλουσιότερους)