Το AI μοντέλο της Anthropic προκαλεί ανησυχία σε κυβερνήσεις και τράπεζες για κινδύνους κυβερνοασφάλειας, καθώς μπορεί να εντοπίζει ευπάθειες, εντείνοντας φόβους για επιθέσεις σε χρηματοπιστωτικά συστήματα

Υπουργοί Οικονομικών, κεντρικοί τραπεζίτες και στελέχη του χρηματοπιστωτικού τομέα εκφράζουν έντονη ανησυχία για ένα νέο ισχυρό μοντέλο τεχνητής νοημοσύνης, το οποίο εκτιμούν ότι θα μπορούσε να υπονομεύσει την ασφάλεια των χρηματοπιστωτικών συστημάτων.

Η ανάπτυξη του μοντέλου Claude Mythos από την Anthropic έχει προκαλέσει έκτακτες συσκέψεις, καθώς φέρεται να εντόπισε ευπάθειες σε πολλά μεγάλα λειτουργικά συστήματα.

Ειδικοί επισημαίνουν ότι διαθέτει πρωτοφανή ικανότητα εντοπισμού και εκμετάλλευσης κενών κυβερνοασφάλειας, αν και ορισμένοι τονίζουν ότι απαιτείται περαιτέρω αξιολόγηση για να αποσαφηνιστούν πλήρως οι δυνατότητές του.

Ανησυχία σε διεθνές επίπεδο

Ο υπουργός Οικονομικών του Καναδά, François-Philippe Champagne, δήλωσε ότι το ζήτημα του Mythos απασχόλησε εκτενώς τη συνεδρίαση του International Monetary Fund στην Ουάσινγκτον.

«Είναι αρκετά σοβαρό ώστε να απαιτεί την προσοχή όλων των υπουργών Οικονομικών», ανέφερε, υπογραμμίζοντας ότι το βασικό πρόβλημα είναι η αβεβαιότητα γύρω από τις πραγματικές δυνατότητες της τεχνολογίας.

«Χρειάζεται μεγάλη προσοχή ώστε να διασφαλίσουμε ότι υπάρχουν μηχανισμοί και διαδικασίες που θα προστατεύσουν την ανθεκτικότητα των χρηματοπιστωτικών συστημάτων», πρόσθεσε.

Αντικρουόμενες εκτιμήσεις

Παρά τις ανησυχίες, ορισμένοι ειδικοί κυβερνοασφάλειας αμφισβητούν το μέγεθος της απειλής, επισημαίνοντας ότι το μοντέλο δεν έχει ακόμη δοκιμαστεί επαρκώς από τη διεθνή κοινότητα.

Το UK AI Security Institute, που είχε πρόσβαση σε δοκιμαστική έκδοση, σημείωσε ότι πρόκειται για ισχυρό εργαλείο που μπορεί να εντοπίσει αδυναμίες σε μη προστατευμένα συστήματα, αλλά δεν φαίνεται να υπερτερεί δραματικά έναντι του προηγούμενου μοντέλου Opus 4.

«Οι δοκιμές δείχνουν ότι μπορεί να εκμεταλλευτεί συστήματα με χαμηλό επίπεδο ασφάλειας, και είναι πιθανό να αναπτυχθούν και άλλα μοντέλα με παρόμοιες δυνατότητες», αναφέρεται στην έκθεση.

Τράπεζες σε επιφυλακή

Μεγάλες τράπεζες αναμένεται να αποκτήσουν πρόσβαση στο μοντέλο πριν από τη δημόσια διάθεσή του, προκειμένου να δοκιμάσουν την ανθεκτικότητα των συστημάτων τους.

Ο διευθύνων σύμβουλος της Barclays, C.S. Venkatakrishnan, δήλωσε ότι η κατάσταση είναι αρκετά σοβαρή ώστε να προκαλεί ανησυχία, τονίζοντας την ανάγκη άμεσης κατανόησης και διόρθωσης των ευπαθειών.

«Αυτό είναι το νέο περιβάλλον στο οποίο θα λειτουργούμε», σημείωσε, αναφερόμενος σε ένα πιο διασυνδεδεμένο αλλά και πιο ευάλωτο χρηματοπιστωτικό σύστημα.

Κίνδυνοι κυβερνοεγκλήματος

Η Bank of England, μέσω του διοικητή της Άντριου Μπέιλι, προειδοποίησε ότι η εξέλιξη πρέπει να ληφθεί πολύ σοβαρά υπόψη, καθώς θα μπορούσε να ενισχύσει τον κίνδυνο κυβερνοεγκλήματος.

Όπως ανέφερε, η τεχνητή νοημοσύνη μπορεί να καταστήσει ευκολότερο τον εντοπισμό ευπαθειών σε βασικά πληροφοριακά συστήματα, τις οποίες θα μπορούσαν να εκμεταλλευτούν κακόβουλοι παράγοντες.

Το αμερικανικό Υπουργείο Οικονομικών έχει ήδη θέσει το ζήτημα στις μεγάλες τράπεζες, καλώντας τες να δοκιμάσουν τα συστήματά τους πριν από τη δημόσια διάθεση του μοντέλου.

Πηγές του κλάδου αναφέρουν ότι και άλλες εταιρείες τεχνητής νοημοσύνης στις ΗΠΑ ενδέχεται να παρουσιάσουν αντίστοιχα ισχυρά μοντέλα χωρίς τα ίδια επίπεδα ασφαλείας.

Ο James Wise της Balderton Capital σημείωσε ότι το Mythos αποτελεί «την αρχή μιας νέας γενιάς» μοντέλων που μπορούν να εντοπίζουν ευπάθειες.

Παράλληλα, επενδύσεις κατευθύνονται ήδη σε εταιρείες που αναπτύσσουν λύσεις ασφάλειας, με στόχο τα ίδια τα μοντέλα που εντοπίζουν τα προβλήματα να συμβάλλουν και στην επίλυσή τους.

Πηγή: newmoney.gr

ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ

Τεχνητή νοημοσύνη: Έξι εταιρείες ήδη αντικαθιστούν εργαζομένους με AI - Τι δείχνει μελέτη του MIT