Προφητικό βιβλίο του 1960: Προέβλεψε τους εφιάλτες της τεχνητής νοημοσύνης
Παρανοϊκοί επιστήμονες, πανίσχυρες μηχανές με ανθρώπινη μορφή και ηθικά διλήμματα, όσα δηλαδή φέρνει η έλευση της τεχνητής νοημοσύνης είχαν προβλεφθεί στην Ιταλία, ήδη από το 1960.
Αν και απέχουν ακόμα οι πολύ προηγμένες μορφές τεχνητής νοημοσύνης, δεν φαίνεται πλέον απίθανο τα συστήματα τεχνητής νοημοσύνης να μπορούν σύντομα να εκτελούν το μεγαλύτερο μέρος της εργασίας που κάνουν οι άνθρωποι επί του παρόντος στον υπολογιστή.
Αυτός είναι μόνο ένας από τους εφιάλτες της τεχνητής νοημοσύνης, η οποία δεν έχει ακόμα ρυθμιστεί από τα κράτη.
Ωστόσο, ο Ιταλός συγγραφέας Ντίνο Μπουτζάτι, είχε αποτυπώσει τους κινδύνους της πολύ προηγμένης τεχνολογίας στο έργο του «Il grande ritratto», που δημοσιεύτηκε αρχικά το 1960, όταν άρχισε δειλά δειλά να κάνει την εμφάνισή της η τεχνητή νοημοσύνη (AI).
Η νουβέλα αναφέρεται στον Ιταλό επιστήμονα Ερμάννο Ισμάνι, στον οποίο αναθέτει το ιταλικό υπουργείο Άμυνας να δουλέψει σε ένα άκρως απόρρητο έργο. Έτσι, ο ίδιος ταξιδεύει με τη σύζυγό του, Ελίζα, σε μια μεγάλη μηχανή κρυμμένη στα βουνά της ιταλικής επαρχίας. Η νοημοσύνη του μηχανήματος ξεπερνά κατά πολύ αυτή των ανθρώπων με τους δημιουργούς του να ισχυρίζονται ότι το μηχάνημα ζωντάνεψε!
Συγκεκριμένα, οι ήρωες της νουβέλας προσπαθούν να καταλάβουν το μέγεθος και τις συνέπειες της μηχανής που έχουν κατασκευάσει. Οι Ισμάνι φτάνουν με δυσκολία στη γιγάντια μηχανή, η οποία απλώνεται σε μια ολόκληρη κοιλάδα, μια μπερδεμένη διαδοχή κτιρίων παρόμοια με σιλό, πύργους, μασταμπάδες, τοίχους αντιστήριξης, γέφυρες, παρατηρητήρια, οχυρώσεις, πολυκατοικίες και προμαχώνες.
«Το πιθανότερο είναι ότι θα οδηγήσει στο τέλος του κόσμου, αλλά στο μεταξύ θα δημιουργηθούν μεγάλες εταιρείες με σοβαρή μηχανική μάθηση»
Ήταν μια πόλη-μηχανή που δεν διέθετε κατοίκους, παρα μόνο κεραίες και αισθητήρες, με τα κτίρια να βουίζουν από το αδιάκοπο γύρισμα των γραναζιών, των σωλήνων και των μαγνητικών καλωδίων.
Η ιστορία του Μπουτζάτι, είναι γεμάτη με πολλά ζητήματα τα οποία η κοινωνία εξακολουθεί να αντιμετωπίζει σήμερα, όπως αναφέρει σε ανάλυσή του στο Foreign Policy, ο αντιπρόεδρος του Κέντρου για μια Νέα Αμερικανική Ασφάλεια, (Center for a New American Security, CNAS), Πολ Σάρε.
Το CNAS είναι μια δεξαμενή σκέψης στην Ουάσιγκτον, που ειδικεύεται σε ζητήματα εθνικής ασφάλειας των ΗΠΑ, συμπεριλαμβανομένης της τρομοκρατίας, του παράτυπου πολέμου, του μέλλοντος του στρατού των ΗΠΑ κτλ.
Από το εξώφυλλο του βιβλίου
Αν και αυτό που απεικόνισε ο Μπουτζάτι δεν αναφέρεται άμεσα ως «Τεχνητή Νοημοσύνη», δεν απέχει πολύ από αυτό που θα γινόταν πραγματικότητα: τα σημερινά συστήματα τεχνητής νοημοσύνης αιχμής κατοικούν σε μεγάλα κέντρα δεδομένων. Η τεχνολογία έχει αλλάξει, αλλά η κλίμακα της προσπάθειας στην ανάπτυξη της τεχνητής νοημοσύνης είναι παρόμοια.
Λίγοι από τους χαρακτήρες του Μπουτζάτι ξέρουν πώς να σχετίζονται με αυτή τη νέα, υπεράνθρωπη μηχανή, αναφέρει ο Πολ Σάρε. Κάποιοι το χλευάζουν ανόητα, αγνοώντας τη δύναμή του. Άλλοι φοβούνται το άγνωστο. Οι επιστήμονες που το κατασκεύασαν είναι μεθυσμένοι από τη δύναμη, με έναν εξ αυτών να διακηρύσσει «Θα γίνουμε κύριοι του κόσμου!».
Οι σημερινοί κορυφαίοι προγραμματιστές τεχνητής νοημοσύνης είναι εξίσου γοητευμένοι από τη δύναμη της τεχνητής νοημοσύνης. Ο Σα Άλτμαν, Διευθύνων Σύμβουλος του OpenAI, είπε ότι η τεχνολογία «το πιθανότερο είναι ότι θα οδηγήσει στο τέλος του κόσμου, αλλά στο μεταξύ θα δημιουργηθούν μεγάλες εταιρείες με σοβαρή μηχανική μάθηση».
Ο Σάρε διακρίνει ότι τα ερωτήματα με τα οποία παλεύουν οι ήρωες του έργου επαναλαμβάνονται και σήμερα: «Πώς μπορεί κανείς να διακρίνει τη διαφορά μεταξύ ενός πραγματικού προσώπου και μιας προσομοίωσης; Ποια, αν υπάρχει, κατανόηση κρύβεται κάτω από την επιφάνεια της φαινομενικά έξυπνης παραγωγής των μηχανών; Μπορεί η γλώσσα να οδηγήσει σε νοημοσύνη; Και μπορούν ποτέ οι μηχανές να σκέφτονται και να αισθάνονται αληθινά;».
Για παράδειγμα, η ηρωίδα Ελίζα ξεγελιέται από μια περσόνα της μηχανής, η οποία παίρνει τη μορφή της χαμένης φίλης της. Στην ταινία Εξολοθρευτής 2, επαναλαμβάνεται κάτι αντίστοιχο που η προηγμένη μηχανή παίρνει μορφές ανθρώπων.
Ο βαθμός στον οποίο οι χαρακτήρες του Μπουτζάτι δίνουν μορφή στη μηχανή είναι εντυπωσιακά παρόμοιος με την τεχνητή νοημοσύνη σήμερα.
Τα τεράστια νευρωνικά δίκτυα που τροφοδοτούν τα σύγχρονα μεγάλα γλωσσικά μοντέλα έχουν συγκριθεί με ένα ανθρώπινο πρόσωπο που καλύπτει έναν «σόγκοθ», το γιγάντιο τέρας που αλλάζει σχήμα στον στον Μύθο του Cthulhu, το έργο του Αμερικανού συγγραφέα Χάουαρντ Φίλιπς Λάβκραφτ.
Όχι μόνο τα μεγάλα γλωσσικά μοντέλα, όπως αυτό που βρίσκεται πίσω από το ChatGPT, δεν είναι ανθρώπινα – δεν είναι καν chatbot. Είναι δημιουργοί κειμένου που προσομοιώνουν chatbot, τα οποία μερικές φορές προσομοιώνουν τους ίδιους τους ανθρώπους. Ακόμη, η εξαπάτησή τους μπορεί να είναι πειστική. Μια πληθώρα νέων εφαρμογών, συμπεριλαμβανομένων των Replika, Waifu και EVA, προσφέρουν συντρόφους κατασκευασμένους από τεχνητή νοημοσύνη.
Μερικές διαφορές
Ενώ στο έργο του Μπουτζάτι, οι μηχανές δημιουργούνται από κυβερνήσεις, σήμερα η τεχνητή νοημοσύνη προωθείται από μεγάλες ιδιωτικές εταιρείες. Επιπλέον, ενώ οι επιστήμονες του έργου εργάζονται κρυφά σε μια απομακρυσμένη εγκατάσταση, οι σημερινές εταιρείες τεχνητής νοημοσύνης διαφυλάσσουν πληροφορίες σχετικά με τις τεχνικές και τα σύνολα δεδομένων που χρησιμοποιούνται για την εκπαίδευση των συστημάτων τους, αλλά ταυτόχρονα, καυχώνται για την απόδοσή τους θέλοντας να προωθήσουν τα προϊόντα στην αγορά.
Ενώ στο «Il grande ritratto», οι συνέπειες του δημιουργήματος των επιστημόνων –που γίνονται θανατηφόρες- περιορίζονται στο ορεινό κρησφύγετο, οι σημερινές εταιρείες τεχνολογίας έσπευσαν να αναπτύξουν την τεχνητή νοημοσύνη, συχνά πρόωρα, σε ευρέως διαδεδομένες εφαρμογές για να αρπάξουν μερίδιο αγοράς. Τα πιο προηγμένα συστήματα AI είναι κυριολεκτικά στις τσέπες μας, διαθέσιμα ως εφαρμογές στα τηλέφωνά μας.
Οι κίνδυνοι της σύγχρονης τεχνητής νοημοσύνης, από τις ύπουλες προκαταλήψεις έως την παραπληροφόρηση που τροφοδοτείται από ψεύτικα, μπορούν επομένως να γίνουν ευρέως αισθητοί σε όλη την κοινωνία.
Η δύναμη που διαθέτουν τα συστήματα τεχνητής νοημοσύνης στις κοινωνίες μας θα αυξηθεί μόνο καθώς προχωρούν με πρωτοφανή ρυθμό. Μία από τις κορυφαίες εταιρείες τεχνητής νοημοσύνης του σήμερα, η OpenAI, έχει δηλώσει ότι στόχος της είναι η «υπερευφυΐα», μια μηχανή που είναι πιο ισχυρή από την ανθρώπινη νοημοσύνη.
Προς το παρόν, ακόμη και τα πιο προηγμένα συστήματα τεχνητής νοημοσύνης σήμερα -το GPT-4o του OpenAI, το Claude 3.5 της Anthropic, το Gemini Ultra της Google και το Llama 3 της Meta- υπολείπονται πολύ από την ανθρώπινη νοημοσύνη. Αλλά είναι θέμα χρόνου να μας ξεπεράσουν.
Πρόσφατη έρευνα σε δείγμα περισσότερων από 2.000 ερευνητές τεχνητής νοημοσύνης προέβλεψε ότι υπάρχει 50% πιθανότητα η τεχνητή νοημοσύνη να είναι αρκετά προηγμένη ώστε να «ολοκληρώνει κάθε εργασία καλύτερα και φθηνότερα από τους ανθρώπινους εργάτες» έως το 2047.
Ωστόσο, ακόμα κι αν οι πολύ πιο προηγμένες μορφές τεχνητής νοημοσύνης απέχουν ακόμη πολύ, δεν φαίνεται πλέον απίθανο τα συστήματα τεχνητής νοημοσύνης να μπορούν σύντομα να εκτελούν το μεγαλύτερο μέρος της εργασίας που κάνουν οι άνθρωποι επί του παρόντος στον υπολογιστή, λέει ο Σάλε.
Το «Il grande ritratto», δυστυχώς δεν μπορεί να δώσει απαντήσεις, απλά έθεσε τα ερωτήματα 60 χρόνια πριν. Εάν μετά από τόσο χρόνια, οι -υποταγμένες στους νόμους της αγοράς- κοινωνίες αργούν να βρουν απαντήσεις, τότε το τέλος του κόσμου θα έρθει, επιβεβαιώνοντας την εκτίμηση του Άλτμαν.