Ένα μυστικό στρατιωτικό έργο. Ένα τεράστιο τεχνητό μυαλό. Ερωτήματα συνείδησης. Αυτά συνθέτουν την υπόθεση του μυθιστορήματος «The Singularity» του Dino Buzzati, που δημοσιεύτηκε αρχικά το 1960, στην αυγή του πεδίου της τεχνητής νοημοσύνης (AI).
Η νουβέλα ακολουθεί τον Ιταλό επιστήμονα Ερμάννο Ισμάνι, που καλείται από το Υπουργείο Άμυνας να δουλέψει σε ένα άκρως απόρρητο έργο, καθώς ταξιδεύει με τη σύζυγό του, Ελίζα, στα βουνά της ιταλικής επαρχίας. Εκεί υπάρχει καλά κρυμμένη ένα εντυπωσιακό μηχάνημα. Η νοημοσύνη του ξεπερνά κατά πολύ αυτή των ανθρώπων – και οι δημιουργοί του ισχυρίζονται ότι το μηχάνημα έχει ζωντανέψει.
Ρετρό και ταυτόχρονα σημερινό
Γραμμένο μισό αιώνα πριν από την επανάσταση του deep learning, μεγάλο μέρος της τεχνολογίας στο The Singularity είναι απολαυστικά ρετρό, μεταφέροντάς μας πίσω στην πρώιμη εποχή του Ψυχρού Πολέμου, στα μυστικά στρατιωτικά έργα, τα ατομικά όπλα και τους υπολογιστές που γέμιζαν ολόκληρα δωμάτια.
Ωστόσο, η ιστορία του Buzzati, την οποία μας θυμίζει ο Economist, αγγίζει ζητήματα, που απασχολούν την κοινωνία έντονα ακόμη και σήμερα. Οι χαρακτήρες του αγωνίζονται να κατανοήσουν το μέγεθος και τις συνέπειες της μηχανής που έχουν κατασκευάσει.
Το Singularity είναι μια σειρά από διαδοχικά μυστήρια. Οι Ισμάνι έρχονται αντιμέτωποι με μια γιγάντια μηχανή, η οποία απλώνεται σε μια ολόκληρη κοιλάδα, «μια μπερδεμένη διαδοχή κτιρίων, με πύργους, τοίχους αντιστήριξης, λεπτές γέφυρες, οχυρώσεις, πολυκατοικίες και προμαχώνες…. Σαν να είχε πέσει μια πόλη στις πλευρές μιας χαράδρας». Αυτή η πόλη-μηχανή δεν έχει κατοίκους. Όλα είναι «ερμητικά σφραγισμένα και κενά». Γεμάτα με κεραίες και αισθητήρες, τα κτίρια βουίζουν από το αδιάκοπο κούνημα των γραναζιών, των σωλήνων και των μαγνητικών καλωδίων.
Η απεικόνιση του Buzzati, αν και δεν αναφέρεται ως «AI», δεν απέχει πολύ από αυτό που θα γινόταν πραγματικότητα: τα σημερινά συστήματα τεχνητής νοημοσύνης «κατοικούν» σε μεγάλα κέντρα δεδομένων, στηρίζονται σε τεράστια νευρωνικά δίκτυα με τρισεκατομμύρια συνδέσεις. Η τεχνολογία έχει αλλάξει, αλλά η κλίμακα της προσπάθειας είναι ίδια.
Χλεύη, φόβος, μέθη
Ο βασικός αναχρονισμός στη νουβέλα, σχολιάζει ο Economist, δεν είναι η τεχνολογία, αλλά ο περιστασιακός σεξισμός της δεκαετίας του 1960. Οι μηχανικοί και οι επιστήμονες είναι όλοι άνδρες και οι μόνες γυναίκες είναι οι σύζυγοι και ερωμένες τους. Ωστόσο, είναι οι σχέσεις μεταξύ των γυναικείων χαρακτήρων και οι επιλογές τους που οδηγούν την πλοκή μπροστά.
Λίγοι από τους χαρακτήρες του Buzzati ξέρουν πώς να σχετίζονται με αυτή τη νέα, υπεράνθρωπη μηχανή. Κάποιοι τη χλευάζουν ανόητα, αγνοώντας τη δύναμή της. Άλλοι φοβούνται το άγνωστο. Οι επιστήμονες που το κατασκεύασαν είναι «μεθυσμένοι» από τη δύναμη, που τους προσφέρει.
«Θα γίνουμε κύριοι του κόσμου!» ο κορυφαίος επιστήμονας, Εντριάντε, διακηρύσσει. Οι σημερινοί κορυφαίοι προγραμματιστές τεχνητής νοημοσύνης είναι εξίσου γοητευμένοι από τη δύναμη της δημιουργίας του. Ο Σαμ Άλτμαν της OpenAI είπε ότι η τεχνολογία «το πιθανότερο είναι ότι θα οδηγήσει στο τέλος του κόσμου, αλλά στο μεταξύ θα δημιουργηθούν μεγάλες εταιρείες με σοβαρή μηχανική μάθηση».
Μπορούν οι μηχανές να σκέφτονται και να αισθάνονται αληθινά;
Τα ερωτήματα με τα οποία παλεύουν αυτοί οι χαρακτήρες είναι γνωστά στους σύγχρονους αναγνώστες: Πώς μπορεί κανείς να διακρίνει τη διαφορά μεταξύ ενός πραγματικού προσώπου και μιας προσομοίωσης; Ποια, αν υπάρχει, κατανόηση κρύβεται κάτω από την επιφάνεια της φαινομενικά έξυπνης παραγωγής των μηχανών; Μπορεί η γλώσσα να οδηγήσει σε νοημοσύνη; Και μπορούν ποτέ οι μηχανές να σκέφτονται και να αισθάνονται αληθινά;
Αυτά τα ερωτήματα στοιχειώνουν την Ελίζα, όταν μπαίνει στους εσωτερικούς θαλάμους της μηχανής και ισχυρίζεται ότι έχει «ένα υπέροχο μυστικό» να της δείξει. Η Ελίζα ξεγελιέται από την περσόνα της μηχανής, η οποία παίρνει τη μορφή της χαμένης φίλης της. Είναι μόνο ένας από τους χαρακτήρες που αναπτύσσουν μια βαθιά προσκόλληση στη μηχανή και τυφλώνονται από την γοητεία της, αδυνατώντας να διακρίνουν τους κινδύνους της.
Ο βαθμός στον οποίο οι χαρακτήρες του Buzzati ανθρωπομορφοποιούν τη μηχανή είναι η πιο εντυπωσιακή αναλογία με την τεχνητή νοημοσύνη του σήμερα, όπως αυτή εκφράζεται μέσα από chatbot τύπου ChatGPT. Ακόμη και ακόμα, η εξαπάτησή τους μπορεί να είναι πειστική.
Πηγή: naftemporiki.gr
Διαβάστε επίσης: Ίλον Μασκ: Η Neuralink εμφύτευσε σε δεύτερο ασθενή τσιπ εγκεφάλου