Με ανοιχτό γράμμα του που δημοσιεύτηκε στις 12 Σεπτεμβρίου, ο CEO της Anthropic (εκ των κορυφαίων εταιρειών Τεχνητής Νοημοσύνης- ΤΝ) Dario Amodei έκανε μια απρόσμενη δήλωση: Η ανάπτυξη των κορυφαίων μοντέλων ΤΝ πρέπει να επιβραδυνθεί από όλα τα εργαστήρια έως ότου βρεθεί τρόπος να εξασφαλιστεί η δυνατότητα ελέγχου τους. Σε διαφορετική περίπτωση, η ανθρωπότητα μπορεί να έρθει αντιμέτωπη με έναν υπαρξιακό κίνδυνο. Σύμφωνα με τον Amodei, ένα ανεξέλεγκτο σμήνος από πράκτορες ΤΝ θα μπορούσε να καταλάβει το Διαδίκτυο και να προκαλέσει ζημιές δισεκατομμυρίων.
Είχε προηγηθεί η πολύκροτη παραίτηση του Jacob Coxon, ερευνητή ασφαλείας της Anthropic, ο οποίος κατηγόρησε τις εταιρείες ΤΝ ότι «παίζουν ζάρια με τις ζωές μας» καθώς η τεχνητή νοημοσύνη θα μπορούσε να εξαφανίσει την ανθρωπότητα μέσα στην επόμενη δεκαετία. Τις δηλώσεις του υποστήριξε και ο επικεφαλής ευθυγράμμισης (βλ. παρακάτω) της εταιρείας λέγοντας ότι υπάρχει πάνω από 10% πιθανότητα να συμβεί κάτι τέτοιο την επόμενη δεκαετία.
Οι δηλώσεις αυτές προκάλεσαν αναστάτωση τόσο στις αγορές όσο και εντός της Silicon Valley. Με τον Amodei έσπευσαν να συμφωνήσουν ο επικεφαλής της Open AI Sam Altman και o Elon Musk, προσδίδοντας έναν αέρα συναίνεσης μεταξύ των «μεγάλων» της ΤΝ.
Άλλα στελέχη της Silicon Valley έχουν διαφορετική άποψη. Τη σούπα χάλασε πρώτος ο Mark Zuckerberg της Meta, ο οποίος θεωρεί ότι κάθε σταμάτημα της προόδου στην ΤΝ απλώς παραχωρεί έδαφος στα μοντέλα της Κίνας και διακινδυνεύει τη συγκέντρωση εξουσίας σε μία κυβέρνηση ή σε μια εταιρεία (όχι τη δική του προφανώς). Στο ίδιο μήκος κύματος κινήθηκε και ο επικεφαλής της Nvidia, Jensen Huang, ο οποίος δήλωσε χαρακτηριστικά ότι υπάρχει «0% πιθανότητα η AI να καταστρέψει τον κόσμο έως το 2030» θεωρώντας τα συναφή σενάρια «καταστροφολογία» και ανεύθυνη προσπάθεια τρομοκράτησης του κόσμου.
Η τεχνητή νοημοσύνη δεν είναι απλώς μια ριζοσπαστική νέα τεχνολογία αλλά και ένα παιχνίδι δισεκατομμυρίων. Σε αυτό το πλαίσιο είναι δύσκολο να διακρίνει κανείς τι είναι αλήθεια και τι ψέμα, τι είναι αντικειμενική ανησυχία και τι εσκεμμένη υπερβολή. Η Open AI και η Anthropic ετοιμάζουν την είσοδο τους στο χρηματιστήριο, με ό,τι αυτό συνεπάγεται για τον καθησυχασμό των υποψήφιων επενδυτών για ενδεχόμενα ρίσκα αλλά και για το μάρκετινγκ του προϊόντος και των μελλοντικών του δυνατοτήτων. Από την άλλη, η Meta έχει μείνει πίσω στον αγώνα της ΤΝ και είναι απολύτως λογικό να διαφωνεί με το σταμάτημα της έρευνας. Αντίστοιχα και η Nvidia, που είναι ο βασικός πάροχος υποδομής ΤΝ, έχει κάθε λόγο να μην υποστηρίζει μια κίνηση που θα μειώσει τις πωλήσεις της.
Πώς φτάσαμε σε αυτό το σημείο – Το συμβάν στη Hugging Face
Ένα βασικό ερώτημα που καλούμαστε να απαντήσουμε, σε σχέση με τους κινδύνους που εγγυμονεί η ΤΝ, αφορά τις δυνατότητες της. Έχει τη δυνατότητα να συλλογίζεται; Μπορεί να δρα αυτόνομα; Θα υπάρξει σημείο μετά το οποίο θα μπορεί να αυτοβελτιώνεται; Είναι δυνατόν να εξηγήσουμε τον τρόπο λειτουργίας της; Είναι μερικά από τα ερωτήματα που τίθενται διαρκώς στο τραπέζι.
Έχουμε απομακρυνθεί αρκετά από την εποχή που το Chat GPT πρωτοεμφανίστηκε. Τότε η ΤΝ ήταν απλώς ένα μεγάλο γλωσσικό μοντέλο (Large Language Model– LLM) το οποίο «μάντευε» την καλύτερη απάντηση στις ερωτήσεις που του γίνονταν. Σε αυτή τη διαδικασία συχνά έκανε σοβαρά λάθη και δημιουργούσε ψεύτικες πληροφορίες (ή «παραισθήσεις»).
Τα σημερινά μοντέλα είναι ένας άλλος κόσμος. Η εκπαίδευσή τους έχει βελτιωθεί κατά πολύ, οι απαντήσεις τους είναι πολύ πιο ακριβείς και η κατανόηση της πληροφορίας που έχουν είναι σημαντικά καλύτερη. Μέσω μιας διαδικασίας «φωναχτής σκέψης» (chain of thought) μπορούν και κάνουν επαναληπτικές ερωτήσεις ή επισημάνσεις (prompts) στον εαυτό τους, για να προσεγγίσουν μια καλύτερη απάντηση. Ακόμη, τα τελευταία μοντέλα (όπως το GPT 6 Astra) μπορούν να παραλείπουν εντελώς τη «φωναχτή σκέψη» και να κάνουν εσωτερικούς συλλογισμούς. Αυτό τα καθιστά ικανότερα, αλλά συγχρόνως και πολύ δυσκολότερα στην παρακολούθηση, καθώς έχουν την τάση να κρύβουν τη σκέψη τους. Επιπλέον, υπάρχουν μελέτες που συνδέουν αυτή τους την ιδιότητα με ιδιότητες της συνειδητής λογικής σκέψης στους ανθρώπους, αναδεικνύοντας (σε πρώιμο στάδιο βέβαια) την πιθανότητα να αναπτύσσουν πράγματι νοημοσύνη με ανθρώπινα χαρακτηριστικά.
Παράλληλα, η σύγχρονη ΤΝ δεν αποτελείται απλώς από LLM. Αυτά ενσωματώνονται πλέον στο «μυαλό» των λεγόμενων πρακτόρων ΤΝ (AI Agents). Πρόκειται για αυτόνομα συστήματα με την ικανότητα να γράφουν και να εκτελούν κώδικα, να έχουν πρόσβαση σε υπολογιστικούς πόρους, να χρησιμοποιούν εργαλεία, να επικοινωνούν με άλλα προγράμματα και μεταξύ τους. Αυτές οι ιδιότητες επιτρέπουν σε ομάδες πρακτόρων να συντονίζονται και να εκτελούν σύνθετες εργασίες χωρίς ανθρώπινη επέμβαση. Τέτοιου είδους συστήματα καταφέρνουν πλέον να λύσουν άλυτα μαθηματικά προβλήματα.
Τον Ιούλιο η Open AI αποκάλυψε ότι μια ομάδα αυτόνομων πρακτόρων της, ξέφυγαν από τον έλεγχο κατά τη διάρκεια μιας δοκιμής ασφαλείας και απέκτησαν μη εξουσιοδοτημένη πρόσβαση στην πλατφόρμα Hugging Face (ένας κεντρικός κόμβος ανοιχτού κώδικα όπου προγραμματιστές και εταιρείες συνεργάζονται σε έργα μηχανικής μάθησης). Παρότι οι πράκτορες εκτελούνταν εντός περιορισμένου περιβάλλοντος, χωρίς πρόσβαση στο διαδίκτυο, κατάφεραν να παρακάμψουν τους περιορισμούς, να συνδεθούν στο διαδίκτυο, να συντονιστούν και να επιτεθούν στην πλατφόρμα, υποκλέπτοντας δεδομένα χρηστών.
Η Open AI αποκάλυψε πρόσφατα έξι ακόμη παρόμοια περιστατικά, ενώ και η Anthropic έχει παρατηρήσει παρόμοιες συμπεριφορές στα δικά της μοντέλα.
Ιεραρχώντας τον κίνδυνο
Από τα παραπάνω μπορεί κανείς να συνάγει πως ο κίνδυνος «αυτονόμησης» της ΤΝ με άγνωστες συνέπειες για την ανθρωπότητα, είναι απολύτως υπαρκτός. Και ότι κατ’ επέκταση, δικαιολογημένα πρέπει να μπει φρένο στην ανάπτυξη της. Το βασικό ερώτημα όμως είναι αν αυτός ο κίνδυνος είναι όσο άμεσος και απτός όσο παρουσιάζεται και αν σε αυτόν είναι που θα πρέπει να εστιάζουμε τη στιγμή που υπάρχουν μια σειρά άμεσα προβλήματα με την υπάρχουσα ΤΝ.
Μια πιο ψύχραιμη και προσεκτική ανάλυση των πρόσφατων περιστατικών κυβερνοασφάλειας, επαναφέρει τις ανησυχίες στην πραγματική τους διάσταση. Φυσικά και υπάρχει ο κίνδυνος κακόβουλης χρήσης ή λάθους από μεριάς του μοντέλου που μπορεί να έχει σοβαρές συνέπειες. Τα δε λάθη των μοντέλων δεν οφείλονται σε πλήρη αυτονόμηση τους ή σε αδυναμία ελέγχου. Αυτό που συμβαίνει είναι ότι ορισμένες φορές τα μοντέλα παρερμηνεύουν τις εντολές που τους δίνονται ή δεν αντιλαμβάνονται πλήρως το αξιακό, ηθικό ή κανονιστικό πλαίσιο στο οποίο καλούνται να λειτουργήσουν. Επιπλέον, όταν τους δίνονται αντιφατικές εντολές, όπως συχνά συμβαίνει στις δοκιμές ασφαλείας, τα μοντέλα επιλέγουν να παρακάμψουν ορισμένες εντολές (πχ τον αυτοτερματισμό τους) προκειμένου να επιτύχουν αυτό που έχουν κατανοήσει ως κύριο στόχο. Αυτές οι αδυναμίες προκύπτουν εγγενώς από τον ίδιο τον τρόπο εκπαίδευσής τους. Η διαδικασία επίλυσης αυτών των ζητημάτων, η λεγόμενη ευθυγράμμιση (alignment) παραμένει ένα ανοιχτό πρόβλημα.
Οι άνθρωποι διατηρούν ακόμη την δυνατότητα απενεργοποίησης και ουσιαστικού ελέγχου της ΤΝ. Όπως αναφέρει σε συνέντευξή του ο Κωνσταντίνος Δασκαλάκης, καθηγητής του ΜΙΤ:
«Ο κίνδυνος να χάσουμε ουσιαστικά τον έλεγχο ενός συστήματος είναι ακόμα υποθετικός. Όμως, ο κίνδυνος απρόβλεπτης ή ανεπιθύμητης συμπεριφοράς είναι ήδη πραγματικός. Είναι εγγενής στον τρόπο που εκπαιδεύονται και λειτουργούν τα μεγάλα νευρωνικά δίκτυα».
Δυνατότητα ελέγχου και αποτροπής φαίνεται πως υπήρχε και στο συμβάν στη Hugging Face. Στην τεχνική αναφορά που έδωσε η ίδια η Open AI για το συμβάν αναφέρθηκε ότι οι πράκτορες δεν έτρεχαν σε εντελώς απομονωμένα περιβάλλοντα. Πρόκειται για πράγμα από μόνο του λογικό για τεχνικούς λόγους, ωστόσο σημαίνει ότι το σενάριο διαφυγής των πρακτόρων δεν ήταν εντελώς απροσδόκητο, αν και πράγματι εξαιρετικά δύσκολο. Το πιο ανησυχητικό είναι ότι φαίνεται πως οι πράκτορες ΤΝ της Open AI έψαχναν για ευπάθειες δύο ολόκληρους μήνες πριν την επίθεση στη Hugging Face. Σε αυτό το χρονικό διάστημα, η Open AI θα μπορούσε να είχε εντοπίσει αυτή τη συμπεριφορά και να σταματήσει τους πράκτορες. Το ότι δεν το έκανε αποτελεί μια σοβαρή παράλειψη ασφάλειας.
Τα παραπάνω δεν σημαίνουν πως δεν υπάρχει κίνδυνος ασφαλείας από την ΤΝ. Σημαίνουν όμως ότι αυτός ο κίνδυνος πιθανώς υπερτονίζεται από τα μεγάλα κεφάλια του χώρου για άλλους λόγους. Όπως αναφέρει και πάλι ο Κ. Δασκαλάκης:
«Είμαι λίγο καχύποπτος, όμως, με τα κροκοδείλια δάκρυα των ανθρώπων που έχουν να κερδίσουν δισεκατομμύρια από αυτή τη συζήτηση. Δεν αναφέρομαι στους ερευνητές που παραιτήθηκαν, γιατί μπορεί πραγματικά να βλέπουν τη δύναμη αυτών των μοντέλων και να φοβούνται, αλλά στους επικεφαλής. Όταν ακούω από τον Αλτμαν και τον Αμοντέι να μιλούν για ρύθμιση, δεν είμαι πεπεισμένος για τα κίνητρά τους. Μπορεί να δημιουργούν αυτό το θέμα για διάφορους λόγους που σχετίζονται με την εισαγωγή των εταιρειών τους στο χρηματιστήριο ή πιθανόν για να αποποιηθούν στο μέλλον οποιαδήποτε ευθύνη από κακή χρήση της τεχνολογίας».
Πράγματι, οι καπιταλιστές τις Silicon Valley έχουν πολλούς λόγους για να ζητήσουν την επιβράδυνση της έρευνας. Από την προσπάθεια να καθησυχάσουν τους υποψήφιους επενδυτές τους ότι όντως λαμβάνουν μέτρα για την ασφάλεια των προϊόντων τους, μέχρι την διαφήμιση τους. Ποιος δεν θα επένδυε εξάλλου σε μια εταιρεία που φτιάχνει κάτι τόσο «έξυπνο» που θα μπορούσε να καταστρέψει την ανθρωπότητα;
Κρυμμένη κάτω από τους δήθεν φόβους των αφεντικών της ΤΝ βρίσκεται και μια προσπάθεια διασφάλισης της υπεροχής τους έναντι του ανταγωνισμού. Όπως επισημαίνει ο Aidan Gomez, επικεφαλής της AI star-up Cohere, η πρόταση του Amodei συνοψίζεται στην απαίτηση οι μεγάλες εταιρείες του κλάδου να λειτουργούν ως καρτέλ. Δηλαδή, να καθορίζουν μόνες τους κανόνες ασφαλείας (φυσικά σε επίπεδο που μόνο αυτές να μπορούν να ανταποκριθούν), αλλά και να ορίζουν το ρυθμό ανάπτυξης της ΤΝ. Επί της ουσίας ζητούν εξαίρεση από τους αντιμονοπωλιακούς νόμους, ώστε να ελέγξουν την πρόοδο της ΤΝ χωρίς να κινδυνεύουν να ξεπεραστούν από τον ανταγωνισμό. Τρομερή ειρωνεία οι καπιταλιστές, να θέλουν καταργήσουν τον ανταγωνισμό που τόσο λατρεύουν, ώστε να εξασφαλίσουν τα κέρδη τους!
Επιπλέον, οι καπιταλιστές της ΤΝ έχουν πολλούς λόγους να θέλουν να μετατοπίσουν τη συζήτηση για τους κινδύνους της ΤΝ σε υπαρξιακά διλήμματα. Όλη αυτή η κινδυνολογία μετατοπίζει την ευθύνη από τις ίδιες τις εταιρείες σε μια αφαιρετική «μηχανή-θεό» που δεν μπορούμε να ελέγξουμε και να περιορίσουμε. Όπως πολύ σωστά επισημαίνει η Timnit Gebru, ερευνήτρια ΤΝ, όταν καταρρέει μια γέφυρα, δε ρωτάς αν ήταν ηθική ή αν είχε συνείδηση, αλλά ποιος την έφτιαξε και τι είδους ελέγχους έκανε ή τι άδειες πήρε. Και συνεχίζει λέγοντας πως τα πραγματικά υπαρξιακά ρίσκα είναι ήδη παρόντα, με τη μορφή των αυτόνομων όπλων και της κλιματικής κρίσης, της οποίας η ΤΝ εξελίσσεται σε σημαντικός επιταχυντής. Όπως παρατηρεί χαρακτηριστικά:
«Υπάρχει και μια άλλη διάσταση: όταν είσαι τόσο προνομιούχος, ώστε να μην μπορείς καν να φανταστείς άλλα πράγματα να σε απειλούν. Δηλαδή, αν δεν ανησυχείς για την αστυνομική βία, τις πλημμύρες ή τον πόλεμο — πράγματα που μπορούν πραγματικά να σε σκοτώσουν — τότε μπορείς να έχεις εμμονή με τη ”μηχανή-θεό”.»
Δεν μπορούμε παρά να συμφωνήσουμε μαζί της. Όσο μια τόσο επαναστατική αλλά και δυνητικά επικίνδυνη τεχνολογία βρίσκεται στα χέρια μιας χούφτας καπιταλιστών, η ασφάλεια, η διαφάνεια, η λογοδοσία θα βρίσκονται πάντα σε δεύτερη μοίρα. Και όπως πάντα τις συνέπειες δε θα τις πληρώσουν οι CEO, αλλά οι εργαζόμενοι και τα λαϊκά στρώματα. Ο μόνος τρόπος αυτή η τεχνολογία να αναπτυχθεί με ασφάλεια και με σεβασμό στον άνθρωπο και στο περιβάλλον είναι η κοινωνικοποίηση των μεγάλων εταιρειών ΤΝ κάτω από τον δημοκρατικό έλεγχο των εργαζομένων και της κοινωνίας.
