Offcanvas
Offcanvas
Ένα κίνημα που επηρεάζει την πολιτική και το μέλλον. Και δοκιμάζει τα όρια της ηθικής βεβαιότητας
Από το ποια φιλανθρωπική δωρεά πιάνει περισσότερο τόπο, στο ποιος θα ελέγχει την Τεχνητή Νοημοσύνη: ο αποτελεσματικός αλτρουισμός έχει διανύσει μεγάλη απόσταση από τις πανεπιστημιακές του ρίζες.
Σήμερα επηρεάζει την ανάπτυξη της ΑΙ και συγκεντρώνει χρήμα και πολιτική επιρροή.
Ο Economist τον αναδεικνύει στη μεγάλη ιδέα του 21ου αιώνα, προειδοποιώντας ωστόσο ότι ενέχει κινδύνους: Γιατί η πεποίθηση πως κάποιος μπορεί να υπολογίσει το «μέγιστο καλό» ενδέχεται να οδηγήσει μια μικρή ομάδα στο να διεκδικήσει εξουσία πάνω σε όλους τους υπόλοιπους.
Από τα πανεπιστήμια στη Silicon Valley
Ο αποτελεσματικός αλτρουισμός (effective altruism ή EA) γεννήθηκε τη δεκαετία του 2000, με ένα πρακτικό ερώτημα: πώς μπορεί κανείς να προσφέρει τη μεγαλύτερη δυνατή βοήθεια με τους πόρους που διαθέτει;
Η απάντηση αναζητήθηκε στην αξιολόγηση των αποτελεσμάτων, στη λογική και στην προσπάθεια να κατευθύνονται χρήματα και χρόνος εκεί όπου μπορούν να κάνουν τη μεγαλύτερη διαφορά.
Το κίνημα, όμως, έχει πλέον ξεπεράσει κατά πολύ τη φιλανθρωπία. Οι υποστηρικτές του βρίσκονται στη Silicon Valley και σε κορυφαίες εταιρείες τεχνητής νοημοσύνης, ενώ οι ιδέες του έχουν προκαλέσει αντιδράσεις ακόμη και στην κυβέρνηση Τραμπ.
Το Πεντάγωνο διακηρύσσει ότι οι ΗΠΑ δεν θα γίνουν ποτέ «χώρα αποτελεσματικού αλτρουισμού», ενώ στελέχη της κυβέρνησης έχουν χαρακτηρίσει τη φιλοσοφία του «ελαττωματική» και «δυστοπική». Η ένταση της επίθεσης αποτυπώνει, κατά τον Economist, το μέγεθος της επιρροής του.
Για πολλούς υποστηρικτές του, η σημαντικότερη ηθική πρόκληση σήμερα είναι να αποτραπεί το ενδεχόμενο η ΤΝ να καταστεί ανεξέλεγκτη και να στραφεί εναντίον της ανθρωπότητας. Αρκετοί συνέβαλαν στη δημιουργία εταιρειών όπως η OpenAI και η Anthropic, με την πεποίθηση ότι όσοι αντιλαμβάνονται καλύτερα τους κινδύνους πρέπει να έχουν λόγο στην ανάπτυξη της τεχνολογίας. Η ειρωνεία είναι ότι η δημιουργία περισσότερων εργαστηρίων ενίσχυσε τον ανταγωνισμό και πιθανότατα επιτάχυνε την πρόοδο της ΤΝ.
Η δύναμη της λογικής και τα όριά της
Υπάρχει και η κριτική προς τον αποτελεσματικό αλτρουισμό: ότι πρόκειται για ένα κίνημα φανατικών, αντιδημοκρατικό, με λατρευτικό χαρακτήρα που θυμίζει σέκτα. Ας μην ξεχνάμε πως στο όνομα του αποτελεσματικού αλτρουισμού διεκήρυττε ότι δρα ο Σαμ Μπάνκμαν Φριντ, ο άνθρωπος πίσω από το σκάνδαλο της FTX.
Η εικόνα αυτή, όμως, είναι υπερβολικά απλουστευτική, σχολιάζει ο Economist. Η αφετηρία του —να αξιολογείται αν μια καλή πρόθεση φέρνει πράγματι καλό αποτέλεσμα— είναι εύλογη. Τα μέλη του αντιμετωπίζουν με σοβαρότητα τα δεδομένα και τη λογική, ενώ οι προειδοποιήσεις τους για τους κινδύνους της ΤΝ δεν μπορούν να απορριφθούν ως φαντασιοπληξίες. Αρκετά από τα σενάρια που συζητούσαν εδώ και χρόνια σε ιστολόγια της κοινότητας μοιάζουν πλέον λιγότερο μακρινά.
Το πρόβλημα αρχίζει όταν η ηθική αντιμετωπίζεται ως άσκηση βελτιστοποίησης. Αν το ζητούμενο είναι να παραχθεί το μεγαλύτερο δυνατό όφελος για το σύνολο της ανθρωπότητας, οι υποχρεώσεις προς τους ανθρώπους που βρίσκονται κοντά μας —να κρατάμε τον λόγο μας, να φροντίζουμε την οικογένειά μας— κινδυνεύουν να υποχωρήσουν μπροστά σε ένα απρόσωπο άθροισμα καλών αποτελεσμάτων.
Αυτή η λογική ανοίγει διαρκώς τον κύκλο των ηθικών υπολογισμών. Αν έχει σημασία η ανακούφιση του πόνου, γιατί να περιορίζεται στους ανθρώπους; Έτσι, ορισμένοι αποτελεσματικοί αλτρουιστές στρέφουν την προσοχή τους στην εκτροφή ζώων ή ακόμη και στις γαρίδες. Άλλοι, οι λεγόμενοι μακροπροθεμιστές, θεωρούν ότι οι ζωές των ανθρώπων που δεν έχουν ακόμη γεννηθεί πρέπει να συνυπολογίζονται — ενδεχομένως και σε κλίμακα τρισεκατομμυρίων. Το ερώτημα είναι τι συμβαίνει όταν η μέριμνα για ένα μακρινό μέλλον παραμερίζει την αντιμετώπιση της φτώχειας και του πόνου που υπάρχουν σήμερα.
Στα πιο ακραία συμπεράσματα, η ίδια αριθμητική μπορεί να οδηγήσει σε παράδοξα: ότι η ζωή των εντόμων, επειδή είναι τόσο πολλά, υπερτερεί συνολικά της ανθρώπινης ή ότι αξίζει να υπάρξουν τρισεκατομμύρια άνθρωποι με οριακά βιώσιμες ζωές αντί για λιγότεροι με ουσιαστικά καλή ζωή. Δεν πρόκειται για θέσεις που συμμερίζονται όλοι οι υποστηρικτές του κινήματος. Δείχνουν, όμως, πόσο μακριά μπορεί να οδηγήσει μια θεωρία όταν κάθε αξία μετατρέπεται σε μεταβλητή ενός υπολογισμού.
Όταν οι σωτήρες ζητούν τον έλεγχο
Κάθε τέτοιος υπολογισμός στηρίζεται σε παραδοχές και περιθώρια λάθους. Κανείς δεν μπορεί να σταθμίσει με ακρίβεια τις ανάγκες δισεκατομμυρίων ανθρώπων σήμερα, πόσο μάλλον τις πιθανές ζωές αμέτρητων ανθρώπων στο μέλλον, μέσα σε έναν κόσμο όπου η τεχνολογία και οι κίνδυνοι παραμένουν αβέβαιοι.
Και όταν η εξαφάνιση της ανθρωπότητας μπαίνει στην ίδια εξίσωση, ακόμη και μια μικρή πιθανότητα μπορεί να επισκιάσει κάθε άμεση ανάγκη.
Υπάρχει και ένας βαθύτερος κίνδυνος: όταν κάποιος πιστεύει ότι ενεργεί για λογαριασμό ολόκληρης της ανθρωπότητας, οι ανάγκες, τα δικαιώματα και οι απόψεις των συγκεκριμένων ανθρώπων μπορεί να φανούν ασήμαντες. Η επίκληση της λογικής δεν προστατεύει από την αυθαιρεσία.
Η Γαλλική Επανάσταση μίλησε στο όνομα της λογικής, χωρίς αυτό να την εμποδίσει να καταλήξει στη βία. Και ο Λένιν πίστευε ότι οι διανοούμενοι που κατείχαν τη σωστή θεωρία μπορούσαν να γνωρίζουν καλύτερα τα συμφέροντα των εργατών από τους ίδιους τους εργάτες.
Ο πραγματικός κίνδυνος με τους αποτελεσματικούς αλτρουιστές
Οι αποτελεσματικοί αλτρουιστές δεν ετοιμάζονται να επαναφέρουν τη γκιλοτίνα, σημειώνει ο Economist. Η ανησυχία αφορά το ενδεχόμενο να αποκτήσουν υπερβολική επιρροή στην ανάπτυξη της Τεχνητής Νοημοσύνης και να θεωρήσουν ότι μόνο οι ίδιοι μπορούν να την ελέγξουν.
Αν μια μηχανή μπορεί να γίνει επικίνδυνη επειδή βελτιστοποιεί έναν λανθασμένο στόχο, το ίδιο μπορεί να συμβεί και με μια μικρή ομάδα ανθρώπων που είναι βέβαιη ότι έχει αναλάβει να επιλέξει τον σωστό.
ΔΙΑΒΑΣΤΕ ΑΚΟΜΑ
