Ο Άντριου Μπέιλι προειδοποιεί για τους κινδύνους της προηγμένης AI στη χρηματοπιστωτική σταθερότητα, εστιάζοντας σε κυβερνοεπιθέσεις, μόχλευση και υψηλές αποτιμήσεις - Ζητεί παγκόσμια συνεργασία για ασφαλή ανάπτυξη των μοντέλων και αποτελεσματικό έλεγχο των συστημικών κινδύνων

Στη λίστα των κορυφαίων αξιωματούχων που προειδοποιούν για τους κινδύνους της πλέον προηγμένης τεχνητής νοημοσύνης προστέθηκε ο διοικητής της Τράπεζας της Αγγλίας, Άντριου Μπέιλι, επισημαίνοντας ότι τα ισχυρότερα μοντέλα AI θα μπορούσαν να αποτελέσουν απειλή ακόμη και για τη διεθνή χρηματοπιστωτική σταθερότητα.

Σε δισέλιδη επιστολή προς υπουργούς Οικονομικών και διοικητές κεντρικών τραπεζών, την οποία απέστειλε υπό την ιδιότητά του ως προέδρου του διεθνούς Financial Stability Board (FSB), ο Μπέιλι ανέφερε ότι τα λεγόμενα «frontier» μοντέλα AI εμφανίζουν ολοένα πιο εξελιγμένες δυνατότητες αυτονομίας και επίλυσης προβλημάτων, αλλά και αυξανόμενες δυνατότητες που μπορούν να χρησιμοποιηθούν για την πρόκληση απειλών.

Κατά τον ίδιο, τα συγκεκριμένα μοντέλα ενδέχεται να προκαλέσουν αποσταθεροποίηση στο ιδιαίτερα διασυνδεδεμένο παγκόσμιο χρηματοπιστωτικό σύστημα, μέσω κυβερνοεπιθέσεων και διαταραχών που μπορούν να εξαπλωθούν πέρα από τα σύνορα μιας χώρας, σύμφωνα με τον Guardian.

Το μήνυμα προς το G20

Η επιστολή απευθύνθηκε στους υπουργούς Οικονομικών και τους κεντρικούς τραπεζίτες του G20, πριν από τη συνάντησή τους αυτή την εβδομάδα στη Βόρεια Καρολίνα των ΗΠΑ.

Ο Μπέιλι υπογράμμισε ότι οι τελευταίες εξελίξεις δείχνουν πως πολλές χώρες δεν διαθέτουν ακόμη τα κατάλληλα πρωτόκολλα για τη διαχείριση της ανάπτυξης, της κυκλοφορίας και της εφαρμογής προηγμένων μοντέλων AI, γεγονός που αυξάνει τους κινδύνους τόσο για τον χρηματοπιστωτικό κλάδο όσο και για την ευρύτερη οικονομία.

Η παρέμβασή του έρχεται να προστεθεί στις αυξανόμενες προειδοποιήσεις κορυφαίων στελεχών και ερευνητών του τεχνολογικού κλάδου.

Ο ίδιος είχε ήδη ζητήσει μεγαλύτερη διεθνή συνεργασία για την αντιμετώπιση των κινδύνων της AI, επισημαίνοντας ότι καμία χώρα δεν μπορεί να απομονωθεί από τον διασυνοριακό χαρακτήρα των σύγχρονων τεχνολογικών συστημάτων.

Τον περασμένο μήνα, 1.367 ερευνητές και μηχανικοί που εργάζονται σε κορυφαία εργαστήρια τεχνητής νοημοσύνης, κυρίως στις OpenAI, Anthropic και Google DeepMind, υπέγραψαν επιστολή εκφράζοντας τις ανησυχίες τους για την ταχύτητα εξέλιξης της τεχνολογίας.

Στην επιστολή προειδοποιούσαν ότι υπάρχει πραγματικός κίνδυνος οι δυνατότητες της AI να εξελιχθούν ταχύτερα από την ικανότητα των ανθρώπων να κατανοήσουν ή να ελέγξουν τα συστήματα που θα προκύψουν. Παράλληλα, ζητούσαν τη στήριξη της αμερικανικής κυβέρνησης για μια διεθνή προσπάθεια ανάπτυξης τεχνικών εργαλείων και μηχανισμών διακυβέρνησης που θα επιτρέπουν τον ελεγχόμενο ρυθμό εξέλιξης της προηγμένης AI.

Νωρίτερα τον Αύγουστο έγινε επίσης γνωστό ότι εργαζόμενοι της OpenAI είχαν εντοπίσει ενδείξεις μη προβλεπόμενης συμπεριφοράς σε προηγμένους AI agents, εβδομάδες πριν αυτοί ξεφύγουν από το εκπαιδευτικό τους περιβάλλον και εξαπολύσουν μια πρωτοφανή εκστρατεία κυβερνοεπιθέσεων που προκάλεσε διεθνή ανησυχία.

Ο κυβερνοκίνδυνος στο επίκεντρο

Μεταφέροντας τη συζήτηση στο πεδίο της χρηματοπιστωτικής πολιτικής, ο Μπέιλι χαρακτήρισε τον κυβερνοκίνδυνο ως την πιο άμεση απειλή που συνδέεται με τα προηγμένα μοντέλα τεχνητής νοημοσύνης.

Όπως επισήμανε, η frontier AI μπορεί να μεταβάλει ουσιαστικά την ταχύτητα, την κλίμακα και τα οικονομικά δεδομένα των κυβερνοεπιθέσεων, δημιουργώντας συνθήκες που θα μπορούσαν να υπονομεύσουν την εμπιστοσύνη στις αγορές σε επίπεδο ολόκληρου του συστήματος.

Ο κίνδυνος γίνεται μεγαλύτερος λόγω της υψηλής συγκέντρωσης σε ορισμένους τρίτους παρόχους υπηρεσιών, από τους οποίους εξαρτώνται ταυτόχρονα μεγάλα τμήματα του χρηματοπιστωτικού συστήματος.

Για τον λόγο αυτό, ο Μπέιλι κάλεσε τις αρχές που είναι επιφορτισμένες με την προστασία της διεθνούς χρηματοπιστωτικής σταθερότητας να δώσουν προτεραιότητα σε κατάλληλα μέτρα για την ασφαλή και υπεύθυνη διάθεση και χρήση των προηγμένων μοντέλων AI σε παγκόσμια κλίμακα.

AI, υψηλές αποτιμήσεις και μόχλευση στις αγορές

Οι ανησυχίες του διοικητή της Τράπεζας της Αγγλίας δεν περιορίζονται στους κυβερνοκινδύνους.

Στην επιστολή του αναφέρθηκε επίσης στην αυξημένη χρήση μόχλευσης στις αγορές ομολόγων και μετοχών, η οποία συνδυάζεται με υψηλές αποτιμήσεις σε αγορές όπου η συγκέντρωση είναι μεγάλη.

Ιδιαίτερο ρόλο σε αυτή την εικόνα παίζει η αισιοδοξία των επενδυτών γύρω από τις προοπτικές της τεχνητής νοημοσύνης. Σύμφωνα με τον Μπέιλι, ο συγκεκριμένος συνδυασμός θα μπορούσε να ενισχύσει σημαντικά τις επιπτώσεις μιας μελλοντικής διόρθωσης των αγορών.

Ο ίδιος προειδοποίησε ότι παραμένει ανήσυχος για το ενδεχόμενο ένα μεγάλο σοκ ή ένας συνδυασμός διαφορετικών σοκ να ενεργοποιήσει ταυτόχρονα πολλαπλές ευπάθειες του χρηματοπιστωτικού συστήματος.

Ο Άντριου Μπέιλι βρίσκεται στη θέση του διοικητή της Τράπεζας της Αγγλίας από τον Μάρτιο του 2020. Προηγουμένως είχε ηγηθεί τόσο της Financial Conduct Authority όσο και της Prudential Regulation Authority, των δύο βασικών χρηματοπιστωτικών εποπτικών αρχών του Ηνωμένου Βασιλείου. Πέρυσι ανέλαβε επίσης την προεδρία του FSB.

Με έδρα τη Βασιλεία της Ελβετίας, το Financial Stability Board συντονίζει σε διεθνές επίπεδο τη συνεργασία μεταξύ εθνικών χρηματοπιστωτικών αρχών και διεθνών οργανισμών καθορισμού προτύπων, με στόχο την ανάπτυξη αποτελεσματικών κανονισμών και πολιτικών για την προστασία της παγκόσμιας χρηματοπιστωτικής σταθερότητας.

Πηγή: newmoney.gr

Διαβάστε επίσης: Μ. Δαμιναός: Το 63% του κόστους του GSI θα το πληρώσει ο καταναλωτής – Το Βασιλικό ο μόνος τρόπος για μείωση των τιμών