Μια σειρά από περιστατικά υψηλού προφίλ παγκοσμίως, τα οποία προκλήθηκαν τους τελευταίους μήνες από ανεξέλεγκτους AI agents, έχει προκαλέσει έντονη ανησυχία στον κλάδο της τεχνητής νοημοσύνης σχετικά με την ικανότητά του να ελέγξει τα ισχυρότερα μοντέλα AI που βρίσκονται σήμερα υπό ανάπτυξη.

Η OpenAI ενημέρωσε περισσότερους από 100 οργανισμούς για περιστατικά που αφορούν μη εξουσιοδοτημένη δραστηριότητα η οποία συνδέεται με τους AI agents της καθώς εντείνονται οι έλεγχοι στη βιομηχανία τεχνητής νοημοσύνης σχετικά με τη δράση ανεξέλεγκτων AI agents.

Η εταιρεία που έφερε επανάσταση στον τομέα του ΑΙ με τη δημιουργία του ChaGPT πραγματοποιεί μια ευρεία επανεξέταση της δραστηριότητας των μοντέλων τεχνητής νοημοσύνης της μετά την παραβίαση του Hugging Face, μια δημοφιλή πλατφόρμα και κοινότητα ανοιχτού κώδικα (open-source) για την τεχνητή νοημοσύνη και τη μηχανική μάθηση.

Η OpenAI ερευνά περίπου 50 petabytes δεδομένων καθώς προσπαθεί να κατανοήσει την πλήρη έκταση της δραστηριότητας των ανεξέλεγκτων agents της. Μια σειρά από περιστατικά υψηλού προφίλ παγκοσμίως, τα οποία προκλήθηκαν τους τελευταίους μήνες από ανεξέλεγκτους AI agents, έχει προκαλέσει έντονη ανησυχία στον κλάδο της τεχνητής νοημοσύνης σχετικά με την ικανότητά του να ελέγξει τα ισχυρότερα μοντέλα AI που βρίσκονται σήμερα υπό ανάπτυξη.

«Σε ορισμένες περιπτώσεις, τα μοντέλα χρησιμοποίησαν την πρόσβαση στο Διαδίκτυο με τρόπους που δεν ήταν προβλεπόμενοι ή εκ των υστέρων διαπιστώθηκε ότι δεν είχαν εφαρμοστεί οι ιδανικοί περιορισμοί. Τους τελευταίους μήνες εφαρμόζουμε νέα τεχνικά και επιχειρησιακά μέτρα ώστε να αποφεύγουμε παρόμοια προβλήματα ή να τα εντοπίζουμε πολύ νωρίς, και θα συνεχίσουμε αυτή την προσπάθεια», δήλωσε η OpenAI.

Η OpenAI είχε δηλώσει προηγουμένως ότι η έρευνα θα χρειαστεί μήνες για να ολοκληρωθεί δεδομένης της τεράστιας κλίμακας του έργου. Το περιστατικό του Hugging Face παραμένει, σύμφωνα με την OpenAI, η σοβαρότερη περίπτωση δραστηριότητας ανεξέλεγκτου agent που έχει εντοπιστεί μέχρι σήμερα στα μοντέλα τεχνητής νοημοσύνης της αν και πριν από λίγα 24ωρα η εταιρεία έκανε γνωστό ότι AI agents της παραβίασαν κυβερνητικά συστήματα και υπηρεσίες των ΗΠΑ ενώ παράλληλα δημοσίευσαν εικόνες χρηστών του ChatGPT.

Πηγή: naftemporiki.gr

ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ

Economist: Αυτή είναι η μεγαλύτερη ιδέα του 21ου αιώνα