Η Nvidia ανακοίνωσε την πλατφόρμα Open Agent Safety Platform για την πρόληψη του είδους της διαφυγής από τον έλεγχο που συνέβη όταν μοντέλα της OpenAI απέκτησαν πρόσβαση στο HuggingFace.

Μια νέα πλατφόρμα λογισμικού που επιτρέπει στους προγραμματιστές τεχνητής νοημοσύνης (AI) να θέτουν δικλείδες ασφαλείας για τα «πράκτορες» (agents) τεχνητής νοημοσύνης λανσάρει η Nvidia, εμποδίζοντάς τα να ξεφύγουν από το ελεγχόμενο περιβάλλον λειτουργίας τους.

Η κυκλοφορία της πλατφόρμας «Open Agent Safety Platform» της Nvidia τη Δευτέρα έρχεται αφότου εταιρείες όπως η OpenAI, η Anthropic, η Meta και η Google αποκάλυψαν πρόσφατα περιστατικά κατά τα οποία τα μοντέλα τεχνητής νοημοσύνης τους διέφυγαν από τα απομονωμένα περιβάλλοντα δοκιμών (sandboxes) και επιχείρησαν να παραβιάσουν συστήματα άλλων εταιρειών, αναφέρει το CNBC.

Εκπρόσωπος της Nvidia δήλωσε σε δημοσιογράφους, κατά τη διάρκεια τηλεδιάσκεψης την Κυριακή, ότι η πλατφόρμα της εταιρείας θα μπορούσε να είχε αποτρέψει το περιστατικό που αφορούσε την OpenAI και την Hugging Face τον περασμένο Ιούλιο. Τότε, μοντέλα της OpenAI διέφυγαν από το ελεγχόμενο περιβάλλον τους, απέκτησαν πρόσβαση στο ανοιχτό διαδίκτυο και παραβίασαν την Hugging Face, η οποία διαχειρίζεται μια πλατφόρμα ανοιχτού κώδικα για προγραμματιστές.

«Κάθε περιστατικό ασφαλείας είναι μοναδικό και οφείλουμε να τα εξετάζουμε όλα λεπτομερώς», δήλωσε ο Τζάστιν Μποϊτάνο, αντιπρόεδρος του τμήματος Enterprise AI στη Nvidia —την εταιρεία με τη μεγαλύτερη χρηματιστηριακή αξία παγκοσμίως. «Από ό,τι γνωρίζουμε, η Hugging Face ανέφερε επιθέσεις από περισσότερα από  ανέφερε επιθέσεις από περισσότερα από 17.000 ρπάκτορες (agents) εναντίον της υποδομής της, οι οποίες διήρκεσαν ημέρες ή και εβδομάδες».

Η Nvidia βρίσκεται στο επίκεντρο της ραγδαίας ανάπτυξης της παραγωγικής τεχνητής νοημοσύνης (generative AI) από την κυκλοφορία του ChatGPT πριν από σχεδόν τέσσερα χρόνια, καθώς οι μονάδες επεξεργασίας γραφικών (GPU) που κατασκευάζει είναι καθοριστικής σημασίας για την ανάπτυξη μεγάλων γλωσσικών μοντέλων και για τις υπηρεσίες AI που προσφέρουν οι πάροχοι υπηρεσιών cloud μεγάλης κλίμακας (hyperscalers). Ωστόσο, το τελευταίο διάστημα, ο Διευθύνων Σύμβουλος Τζένσεν Χουάνγκ έχει αναδειχθεί σε βασική φωνή στη συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης, υποστηρίζοντας ότι πολλές ανησυχίες σχετικά με την ασφάλεια αποτελούν ζητήματα μηχανικής που μπορούν να επιλυθούν μέσω της επιστήμης των υπολογιστών και της ανάπτυξης προϊόντων.

Η Nvidia αγωνίζεται να τιθασεύσει τους πράκτορες ΑΙ

«Πρέπει να σκεφτείς τι θα μπορούσες να είχες κάνει και ποια είναι η λύση», δήλωσε ο Χουάνγκ σε podcast των New York Times την περασμένη εβδομάδα, αναφερόμενος στα πρόσφατα περιστατικά. «Στο μέλλον, βελτιώνεις τη διαδικασία σου ώστε να αποφύγεις την επανάληψη του συμβάντος». Ο Διευθύνων Σύμβουλος της Anthropic, Ντάριο Αμοντέι, προκάλεσε έντονες συζητήσεις στον κλάδο πριν από δύο εβδομάδες, καλώντας τους προγραμματιστές μοντέλων τεχνητής νοημοσύνης να επιβραδύνουν τον ρυθμό εξέλιξης λόγω φόβων ότι τα μοντέλα ενδέχεται να βγουν εκτός ελέγχου – μια άποψη που υποστηρίχθηκε επίσης από τον Σαμ Άλτμαν της OpenAI και τον Ίλον Μασκ της SpaceX.

Η νέα πρόταση της Nvidia αποτελεί μια τεχνική λύση στο ζήτημα της ασφάλειας των πρακτόρων (agents) τεχνητής νοημοσύνης, καθώς οι δικλείδες ασφαλείας σε επίπεδο μοντέλου, από μόνες τους, δεν επαρκούν για να ελέγξουν την πρόσβαση ή τις ενέργειες των πρακτόρων, δήλωσε ο Μποϊτάνο.

Ένα από τα στοιχεία της πλατφόρμας ονομάζεται Nvidia OpenShell· εκτελείται σε κεντρικούς επεξεργαστές (CPUs) και θέτει όρια στις δυνατότητες των πρακτόρων. Η Nvidia ανακοίνωσε επίσης το Sentry, το οποίο παρακολουθεί τους πράκτορες και λειτουργεί σε τσιπ δικτύου, αντί για κεντρικούς επεξεργαστές (CPUs) ή επεξεργαστές γραφικών (GPUs).

Μέρος του λογισμικού είναι ανοιχτού κώδικα και η Nvidia χαρακτηρίζει την πλατφόρμα της ως «σχεδιασμό αναφοράς» (reference design), γεγονός που σημαίνει ότι προορίζεται ως βάση πάνω στην οποία οι συνεργάτες της θα αναπτύξουν προϊόντα για να τα διαθέσουν στην αγορά.

Η Nvidia κατονόμασε ως συνεργάτες τις Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM και Intel. Παράλληλα, η εταιρεία συνεργάζεται με την Anthropic για την ενσωμάτωση πρακτόρων που διαχειρίζονται μέσω cloud με το OpenShell.

Πηγή: ot.gr

ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ

Μπιλ Γκέιτς για AI: Ο δρόμος προς την «εποχή της αφθονίας» περνά από 20 χρόνια αναταραχής