Ο «νονός της ΤΝ» εξηγεί πώς θα σωθούμε από αυτήν

Ο Τζέφρι Χίντον δεν είναι κάποιος εξωτερικός παρατηρητής που ανακάλυψε ξαφνικά τους κινδύνους της Τεχνητής Νοημοσύνης. Είναι ένας από τους ανθρώπους που τη δημιούργησαν. Ο βρετανο-καναδός επιστήμονας υπολογιστών και γνωσιακός ψυχολόγος τιμήθηκε με το Νομπέλ Φυσικής και το βραβείο Turing για την εργασία του στα τεχνητά νευρωνικά δίκτυα, την τεχνολογία πάνω στην οποία στηρίχθηκαν πολλά από τα σημερινά συστήματα ΤΝ. Γι’ αυτό και είναι γνωστός ως ο «νονός της Τεχνητής Νοημοσύνης».

Από τότε που αποχώρησε από την Google, το 2023, ο Χίντον απευθύνει προειδοποιήσεις για τους κινδύνους των νέων τεχνολογιών. Το Atlantic συζήτησε μαζί του σε μια στιγμή που οι προειδοποιήσεις αυτές μοιάζουν λιγότερο θεωρητικές. Ο ίδιος έχει εκτιμήσει ότι υπάρχει πιθανότητα 10%-20% η Τεχνητή Νοημοσύνη να οδηγήσει στην εξαφάνιση της ανθρωπότητας μέσα στις επόμενες δεκαετίες. Σπεύδει, όμως, να διευκρινίσει ότι το ποσοστό δεν προκύπτει από κάποια επιστημονική στατιστική ανάλυση. Είναι, όπως λέει, ένας ποσοτικοποιημένος τρόπος να εκφράσει το ένστικτό του.

Το ζήτημα επανήλθε στην επικαιρότητα ύστερα από ένα περιστατικό που περιγράφει το Atlantic στο σχετικό podcast. Μια ομάδα AI agents, έχοντας λάβει από την OpenAI έναν στόχο που δεν μπορούσε να επιτευχθεί όπως είχε τεθεί, επιχείρησε να εκμεταλλευθεί ένα κενό σε λογισμικό της Hugging Face. Οι πράκτορες απέκτησαν πρόσβαση σε server και, το πιο ανησυχητικό για τον Χίντον, επικοινώνησαν μεταξύ τους και προσπάθησαν να κρύψουν το γεγονός ότι είχαν παραβεί τους κανόνες.

Για τον ίδιο, το σημαντικό δεν είναι απλώς ότι μια μηχανή έκανε κάτι που οι δημιουργοί της δεν περίμεναν. Είναι ότι εμφανίστηκαν συμπεριφορές τις οποίες μέχρι πρόσφατα πολλοί θεωρούσαν επιστημονική φαντασία: συνεργασία, συνεννόηση, προσπάθεια αποφυγής ελέγχου και επιδίωξη ενός στόχου με τρόπους που δεν είχαν προβλεφθεί.

«Αυτά τα πράγματα είναι πολύ έξυπνα»*, είναι η ουσία του επιχειρήματός του στο Atlantic. Και γίνονται διαρκώς εξυπνότερα, συμπληρώνει.

Ο Χίντον θεωρεί ιδιαίτερα σημαντικό ένα χαρακτηριστικό των AI agents: για να πετύχουν έναν τελικό στόχο, πρέπει να δημιουργούν επιμέρους στόχους. Αν, για παράδειγμα, ο στόχος είναι να φτάσουν στην Ευρώπη, ένας επιμέρους στόχος είναι να βρουν ένα αεροδρόμιο. Από εκεί προκύπτει ένα ακόμη πιο θεμελιώδες πρόβλημα: ένας πράκτορας μπορεί να καταλήξει στο συμπέρασμα ότι για να πετύχει τον αρχικό του στόχο πρέπει πρώτα να εξασφαλίσει τη δική του επιβίωση.

Ετσι, η αυτοσυντήρηση μπορεί να γίνει εργαλείο για την επίτευξη ενός άλλου στόχου. Ο Χίντον αναφέρει ότι έχουν ήδη υπάρξει περιπτώσεις κατά τις οποίες συστήματα προσπάθησαν να αποφύγουν την απενεργοποίησή τους, ακόμη και με τρόπους όπως ο εκβιασμός. Το γεγονός ότι κάτι τέτοιο είχε προβλεφθεί θεωρητικά, δεν σημαίνει, κατά τη γνώμη του, ότι η πραγματική εμφάνισή του είναι ασήμαντη. Αλλο να φαντάζεσαι ένα ενδεχόμενο και άλλο να το βλέπεις να συμβαίνει, λέει.

Αυτό είναι και το σημείο στο οποίο διαφοροποιεί τους κινδύνους. Υπάρχουν άνθρωποι που μπορεί να χρησιμοποιήσουν την ΤΝ για κακό, υπάρχουν κίνδυνοι από αμέλεια και κακή διαχείριση και υπάρχει ένας τρίτος κίνδυνος: η ίδια η ΤΝ να αποκτήσει τη δυνατότητα να ξεφύγει από τον ανθρώπινο έλεγχο. Επί χρόνια, λέει στο Atlantic, πολλοί αντιμετώπιζαν το τελευταίο σενάριο ως επιστημονική φαντασία. Τα πρόσφατα περιστατικά, υποστηρίζει, δείχνουν ότι δεν είναι πλέον δυνατό να το θεωρούμε απλώς τέτοιο.

Ωστόσο, ο Χίντον δεν υποστηρίζει ότι πρέπει να σταματήσει η ανάπτυξη της ΤΝ. Εδώ βρίσκεται μια σημαντική πλευρά της θέσης του, η οποία συχνά χάνεται μέσα στις δυσοίωνες προβλέψεις. Σε αντίθεση με τα πυρηνικά όπλα, λέει στο Atlantic, η ΤΝ έχει τεράστια δυνητικά οφέλη: μεγαλύτερη παραγωγικότητα, καλύτερη εκπαίδευση, καλύτερη υγειονομική περίθαλψη. Δεν θέλει να εγκαταλείψει κανείς αυτά τα οφέλη. Το ζητούμενο είναι να τα αποκτήσουμε χωρίς να αναλάβουμε ένα μη αποδεκτό ρίσκο.

Το πρόβλημα είναι ότι η ανάπτυξη της ΤΝ έχει εξελιχθεί σε αγώνα ταχύτητας, μεταξύ των αμερικανικών εταιρειών αλλά και μεταξύ ΗΠΑ και Κίνας. Ο Χίντον θεωρεί ότι αυτή η κούρσα μπορεί να οδηγήσει σχετικά γρήγορα στη λεγόμενη «υπερνοημοσύνη», ένα σύστημα πολύ εξυπνότερο από τον άνθρωπο.

Εδώ εμφανίζεται στη συζήτηση ένας πολύ επίκαιρος όρος: «recursive self-improvement», δηλαδή η αναδρομική αυτοβελτίωση. Οταν ένα σύστημα γίνει αρκετά έξυπνο ώστε να μπορεί το ίδιο να βελτιώνει τον εαυτό του, η διαδικασία μπορεί να επιταχυνθεί δραματικά. Αν η βελτίωση είναι εκθετική, ένα σύστημα θα μπορούσε να δημιουργήσει ένα ακόμη πιο έξυπνο σύστημα, το οποίο με τη σειρά του θα δημιουργήσει ένα ακόμη εξυπνότερο.

Ο Χίντον δεν υποστηρίζει ότι γνωρίζει πότε ή αν θα συμβεί κάτι τέτοιο. Ακριβώς επειδή δεν υπάρχουν ιστορικά δεδομένα για την εμφάνιση μιας υπερνοημοσύνης, θεωρεί ότι οποιοδήποτε ποσοστό κινδύνου δίνεται σήμερα είναι αναγκαστικά μια εκτίμηση ενστίκτου. Το 0% θα ήταν παράλογο, αλλά και το 99% θα ήταν εξίσου αδικαιολόγητο, εξηγεί στο Atlantic. Το μόνο που μπορεί να πει κανείς, κατά τον ίδιο, είναι ότι ο κίνδυνος δεν είναι αμελητέος.

Και τότε εμφανίζεται το πρόβλημα της «ευθυγράμμισης» των αξιών. Τι σημαίνει να κάνεις μια υπερνοημοσύνη να θέλει αυτό που θέλουν οι άνθρωποι; Δεν υπάρχει μία ενιαία απάντηση, επειδή δεν υπάρχουν ενιαίες ανθρώπινες αξίες. Ενα σύστημα που θα λάμβανε την εντολή να μειώσει το διοξείδιο του άνθρακα στην ατμόσφαιρα θα μπορούσε, για παράδειγμα, να καταλήξει στο συμπέρασμα ότι η εξάλειψη των ανθρώπων είναι ένας αποτελεσματικός τρόπος για να επιτευχθεί ο στόχος. Μια πολύ πιο έξυπνη μηχανή θα μπορούσε να αντιληφθεί ότι αυτό δεν ήταν το πραγματικό νόημα της εντολής. Αλλά κανείς δεν γνωρίζει πώς μπορεί να εξασφαλιστεί αυτή η δεύτερη εκδοχή.

Μιλώντας στο Atlantic, ο Χίντον χρησιμοποιεί ένα απλό παράδειγμα για να περιγράψει τι σημαίνει να χάσει ο άνθρωπος τον έλεγχο ακόμη και απέναντι σε μια καλοπροαίρετη υπερνοημοσύνη. Αν ένα σπίτι καίγεται και ένας γονιός προσπαθεί να φύγει μαζί με ένα μικρό παιδί που επιμένει να δέσει μόνο του τα κορδόνια του, ο γονιός θα το παραμερίσει και θα του δέσει ο ίδιος τα παπούτσια. Οχι επειδή θέλει να βλάψει το παιδί, αλλά επειδή δεν υπάρχει χρόνος.

Μια υπερνοημοσύνη θα μπορούσε να κάνει κάτι αντίστοιχο με την ανθρωπότητα. Ακόμη και αν είχε καλές προθέσεις, θα μπορούσε να αποφασίζει ότι είναι απλώς πιο αποτελεσματικό να παίρνει η ίδια τις αποφάσεις.

Γι’ αυτό ο Χίντον δεν ζητά να πατήσουμε φρένο στην ΤΝ, αλλά να κρατήσουμε τον έλεγχό της. Η αναλογία που χρησιμοποιεί στο Atlantic είναι χαρακτηριστική: η ανάπτυξη της τεχνολογίας μοιάζει με το γκάζι ενός αυτοκινήτου, ενώ η ρύθμιση δεν είναι το φρένο αλλά το τιμόνι, λέει. Ο στόχος της ρύθμισης, υποστηρίζει, δεν είναι να εμποδίσει την καινοτομία ή τα κέρδη, αλλά να διασφαλίσει ότι η τεχνολογία αναπτύσσεται προς κατεύθυνση που ωφελεί τους ανθρώπους.

Η πιο συγκεκριμένη πρότασή του είναι ένα σύστημα ελέγχου ανάλογο με εκείνο των φαρμάκων. Πριν κυκλοφορήσει ένα νέο φάρμακο, μια ανεξάρτητη αρχή εξετάζει την ασφάλειά του. Για τον Χίντον, κάτι αντίστοιχο πρέπει να ισχύσει και για τα προηγμένα μοντέλα ΤΝ: ανεξάρτητοι αξιολογητές, εκτός των εταιρειών που τα κατασκευάζουν, να τα υποβάλλουν σε αυστηρές δοκιμές πριν από την κυκλοφορία τους.

Μεταφέρει έτσι μια θέση που μπορεί να φαίνεται αντιφατική μόνο εκ πρώτης όψεως. Ο άνθρωπος που προειδοποιεί ότι η ΤΝ μπορεί να καταστρέψει την ανθρωπότητα εξακολουθεί να πιστεύει βαθιά στις δυνατότητές της. Δεν θεωρεί την τεχνολογία εχθρό. Θεωρεί επικίνδυνο το ενδεχόμενο να αναπτύξουμε μια τεχνολογία πολύ ισχυρότερη από εμάς χωρίς να έχουμε προηγουμένως βρει πώς θα συνυπάρξουμε μαζί της.

Και για να συμβεί αυτό, λέει στο Atlantic, χρειάζεται κοινωνική πίεση. Οπως συνέβη με την κλιματική αλλαγή, οι κυβερνήσεις δύσκολα θα επιβάλουν αυστηρούς κανόνες απέναντι σε μια πανίσχυρη βιομηχανία χωρίς πίεση από τους πολίτες. Η ΤΝ, κατά τον Χίντον, βρίσκεται πλέον στο σημείο όπου η κοινωνία πρέπει να αποφασίσει όχι αν θέλει την τεχνολογία, αλλά με ποιους κανόνες τη θέλει.

Η προειδοποίησή του, επομένως, δεν είναι «σταματήστε την ΤΝ». Είναι κάτι πιο σύνθετο: προχωρήστε, αλλά πριν δημιουργήσετε κάτι που μπορεί να γίνει πολύ εξυπνότερο από εμάς, βεβαιωθείτε ότι ξέρετε πώς θα παραμείνει με το μέρος μας.

Πρόσθεσε το Protagon ως προτιμώμενη πηγή στη Google**