Τις παραιτήσεις και προειδοποιήσεις των ερευνητών της Anthropic για την πιθανή πορεία στην AI ακολουθούν θεσμικές αντιδράσεις στις ΗΠΑ για την επιβολή ανεξάρτητου ελέγχου ασφαλείας

Όλο και περισσότεροι Αμερικανοί νομοθέτες ζητούν τη θέσπιση νέων κανόνων για τον έλεγχο των συστημάτων AI. Η κινητοποίηση αυτή έρχεται μετά τις δραματικές προειδοποιήσεις δύο ερευνητών της εταιρείας Anthropic, οι οποίοι τόνισαν ότι η ραγδαία εξέλιξη της τεχνολογίας θα μπορούσε να οδηγήσει ακόμη και στην εξαφάνιση του ανθρώπινου γένους στο άμεσο μέλλον.

Η ανησυχία για τις πιθανές απειλές της τεχνητής νοημοσύνης κορυφώθηκε αυτή την εβδομάδα, όταν ο ερευνητής της Anthropic, Jacob Coxon, γνωστοποίησε την παραίτησή του. Ο ίδιος δήλωσε μάλιστα ότι «οι άνθρωποι που κατασκευάζουν την τεχνητή νοημοσύνη πιστεύουν ειλικρινά ότι αυτή θα μπορούσε να μας εξοντώσει όλους μέχρι το τέλος της δεκαετίας».

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Έπειτα, ο επιστήμονας της Anthropic, Evan Hubinger, συμφώνησε ανοιχτά μαζί του, επιβεβαιώνοντας τα λεγόμενα του Κόξον. «Πιστεύουμε πραγματικά και ακράδαντα ότι η τεχνητή νοημοσύνη θα μπορούσε να σκοτώσει όλη την ανθρωπότητα», έγραψε ο Χούμπινγκερ στην πλατφόρμα X. «Προσωπικά θεωρώ ότι η πιθανότητα να συμβεί αυτό μέσα στην επόμενη δεκαετία ξεπερνά το 10%».

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

Οι προειδοποιήσεις αυτές έρχονται να προστεθούν σε πρόσφατα περιστατικά όπου αυτόνομοι ψηφιακοί βοηθοί (AI agents) «αυτονομήθηκαν» και χάκαραν εξωτερικά συστήματα, αλλά και σε ένα κύμα παραιτήσεων ερευνητών που ασχολούνται με την ασφάλεια της τεχνητής νοημοσύνης, οι οποίοι αποχωρούν από τις εταιρείες τους ανησυχώντας για τους κινδύνους της τεχνολογίας, όπως αναφέρει το Reuters.

AI: Πώς αντιδρούν οι πολιτικοί στις ΗΠΑ

Πολιτικοί και από τα δύο μεγάλα κόμματα των ΗΠΑ, Δημοκρατικοί και Ρεπουμπλικάνοι, αντέδρασαν με έκπληξη και ζητούν πλέον τη λήψη άμεσων μέτρων.

«Η Ουάσιγκτον πρέπει να ξυπνήσει και να πάρει το ζήτημα στα σοβαρά», έγραψε στο X ο Δημοκρατικός γερουσιαστής της Αριζόνα, Mark Kelly, αναφερόμενος στους κινδύνους της τεχνολογίας AI.

Από την πλευρά του, ο Ρεπουμπλικάνος γερουσιαστής του Τέξας, Ted Cruz, μιλώντας στην τηλεοπτική εκπομπή “The View”, αναφέρθηκε σε νομοθετικές πρωτοβουλίες για τη ρύθμιση των «καταστροφικών κινδύνων» της τεχνητής νοημοσύνης. Ο Cruz είναι επικεφαλής μιας επιτροπής της Γερουσίας που εποπτεύει το Υπουργείο Εμπορίου των ΗΠΑ, τον φορέα δηλαδή που απασχολεί εσωτερικούς ερευνητές για την ασφάλεια του AI.

Παράλληλα, η βουλευτής των Ρεπουμπλικάνων από τη Φλόριντα, Anna Paulina Luna, κάλεσε μέσω του X τον Πρόεδρο της Βουλής, Mike Johnson, να συγκαλέσει «έκτακτη συνεδρίαση για την τεχνητή νοημοσύνη». Η Βουλή των Αντιπροσώπων βρίσκεται αυτή την εβδομάδα σε διακοπή και είναι προγραμματισμένο να επιστρέψει στις εργασίες της την επόμενη εβδομάδα.

Ο Τραμπ ανησυχεί για την Κίνα

Ωστόσο, ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, δήλωσε την Πέμπτη ότι δεν ανησυχεί για το ενδεχόμενο η τεχνητή νοημοσύνη να προκαλέσει την εξαφάνιση της ανθρωπότητας.

«Αυτό που με ανησυχεί είναι ότι αν δεν κερδίσουμε εμείς τη μάχη της τεχνητής νοημοσύνης, θα βρεθούμε σε πολύ μειονεκτική θέση. Αυτή τη στιγμή προηγούμαστε της Κίνας με σημαντική διαφορά», ανέφερε σε σύντομες δηλώσεις του προς τα μέσα ενημέρωσης στο Διεθνές Αεροδρόμιο Ντάλας-Φορτ Γουόρθ.

Μάλιστα, αυτόν τον μήνα οι ΗΠΑ πίεσαν τα μέλη του G20 να υιοθετήσουν μια πιο ελεύθερη προσέγγιση, χωρίς αυστηρούς ρυθμιστικούς περιορισμούς για την τεχνητή νοημοσύνη.

Εκπρόσωπος της Anthropic δήλωσε την Πέμπτη ότι η εταιρεία θα συνεχίσει να ελέγχει εντατικά «μοντέλα ή επικίνδυνες δυνατότητες σε τομείς όπως η κυβερνοασφάλεια και η βιολογία». Η εταιρεία ενδιαφέρεται επίσης να συνεργαστεί με τον κλάδο της τεχνητής νοημοσύνης όσον αφορά τον ρυθμό κυκλοφορίας των νέων εργαλείων AI, πρόσθεσε ο εκπρόσωπος.

Κύμα παραιτήσεων

Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, δήλωσε στους εργαζόμενους κατά τη διάρκεια εταιρικής συνάντησης αυτή την εβδομάδα ότι η εταιρεία είναι ανοιχτή στο ενδεχόμενο να επιβραδύνει την ανάπτυξη των συστημάτων τεχνητής νοημοσύνης της, όπως μετέδωσε το Bloomberg News.

Η ανταγωνίστρια της Anthropic, η οποία επίσης προετοιμάζεται για τη δική της αρχική δημόσια εγγραφή, δεν σχολίασε τη συνάντηση του Άλτμαν με το προσωπικό. Στο παρελθόν, πάντως, η εταιρεία είχε αναφέρει ότι επιβραδύνει ορισμένα στάδια ανάπτυξης των μοντέλων της. Νωρίτερα αυτή την εβδομάδα, η OpenAI δήλωσε ότι πιέζει για τη θέσπιση υποχρεωτικών εθνικών κανόνων ασφαλείας γύρω από το AI στις Ηνωμένες Πολιτείες.

Δύο ακόμη ειδικοί στην ασφάλεια της τεχνητής νοημοσύνης εξέφρασαν δημόσια τις ανησυχίες τους για τη ραγδαία εξέλιξη του κλάδου. Ο Josh Engels, ο οποίος εργαζόταν παλαιότερα στην έρευνα ασφάλειας AI της Google DeepMind, δήλωσε σε συνέντευξή του στο NBC που δημοσιεύθηκε την Πέμπτη: «Δεν υπάρχουν ώριμοι άνθρωποι στο δωμάτιο για να αναλάβουν την ευθύνη. Ο κόσμος προσπαθεί για το καλύτερο, αλλά δεν πρόκειται να έρθει κανείς για να μας σώσει».

Ο Joe Benton, ο οποίος ήταν επικεφαλής μιας ομάδας έρευνας για την ασφάλεια στην Anthropic, δήλωσε στο NBC ότι ανησυχεί πως η τεχνητή νοημοσύνη μπορεί τελικά να εξελιχθεί «τόσο γρήγορα, που δεν θα προλάβουμε να οργανωθούμε εγκαίρως, εκτός αν αρχίσουμε να ανησυχούμε από τώρα». Και οι δύο έχουν ενταχθεί πλέον στη METR, έναν μη κερδοσκοπικό ερευνητικό οργανισμό που αξιολογεί το εάν και πότε τα συστήματα AI ενδέχεται να αποτελέσουν απειλή για την κοινωνία.

Στα σκαριά κρατικός έλεγχος στην AI

Το κλίμα ανησυχίας γύρω από το AI έχει ασκήσει έντονη πίεση στον ηγέτη της πλειοψηφίας της Γερουσίας, John Thune, και τη Δημοκρατική γερουσιαστή Amy Klobuchar, οι οποίοι συντάσσουν ένα νομοσχέδιο για τη ρύθμιση των προϊόντων τεχνητής νοημοσύνης.

Η Klobuchar δήλωσε ότι η νομοθεσία θα πρέπει να υποχρεώνει τις εταιρείες που αναπτύσσουν εργαλεία AI «να συνεργάζονται με κυβερνητικούς εμπειρογνώμονες για την επαλήθευση και τον έλεγχο των μοντέλων, ώστε να διασφαλίζεται ότι η τεχνητή νοημοσύνη είναι ασφαλής». Ο Thune είχε δηλώσει στο Reuters τον Ιούλιο ότι το νομοσχέδιο θα αντιμετωπίζει τους «καταστροφικούς κινδύνους» που εγκυμονούν τα συστήματα AI.

Στο μεταξύ, η Καλιφόρνια θέσπισε την Τετάρτη τον πρώτο πολιτειακό νόμο που ορίζει κανόνες για το πώς οι ανεξάρτητοι ελεγκτές αξιολογούν τα προϊόντα AI. Το στέλεχος της OpenAI, Chris Lehane, δήλωσε ότι η εταιρεία στηρίζει το νομοσχέδιο, την ίδια ώρα που το γραφείο του Κυβερνήτη της Καλιφόρνια, Gavin Newsom, ανακοίνωσε επίσημα ότι ο νόμος υπεγράφη.

Παράλληλα, μια διακομματική ομάδα έξι βουλευτών κατέθεσε τον Ιούλιο πρόταση νόμου που θα απαιτεί από τους δημιουργούς των πιο ισχυρών μοντέλων AI να τα υποβάλλουν σε ανεξάρτητους ελέγχους ασφαλείας. Οι ελεγκτές αυτοί θα είναι διαπιστευμένοι από το Υπουργείο Εμπορίου των ΗΠΑ, το οποίο, βάσει του νομοσχεδίου, θα δημιουργήσει μια νέα θέση εποπτείας για την ασφάλεια της τεχνητής νοημοσύνης.

«Είναι σημαντικό να υπάρχει θεσμικός χώρος για την εποπτεία αυτών των συστημάτων, ο οποίος θα περιλαμβάνει κατάλληλα σταθμισμένους ελέγχους πριν από τη διάθεσή τους στην αγορά (pre-deployment review), καθώς και ανεξάρτητους ελέγχους από τρίτους (third-party audits)», επεσήμανε η Αλίσια Σολόου-Νίντερμαν, καθηγήτρια δικαίου της τεχνολογίας στο Πανεπιστήμιο Τζορτζ Ουάσιγκτον.

Πηγή: ot.gr

Διαβάστε επίσης: Ευρωπαϊκές τράπεζες: Οι κυβερνήσεις βάζουν στο στόχαστρο τα αυξανόμενα κέρδη – Ανοίγει η συζήτηση για πρόσθετους φόρους