Τα πέντε σενάρια αφανισμού της ανθρωπότητας από την ΤΝ

Νωρίτερα μέσα στον μήνα, ο ερευνητής Τεχνητής Νοημοσύνης Τζέικομπ Κόξον παραιτήθηκε από την εταιρεία τεχνολογίας Anthropic έπειτα από μόλις τέσσερις μήνες. Σε ανακοίνωσή του στο X ανέφερε: «Οι άνθρωποι που αναπτύσσουν την ΤΝ πιστεύουν ακράδαντα ότι θα μπορούσε να μας εξολοθρεύσει όλους μέχρι το τέλος της δεκαετίας». Μάλιστα, ανώτερο στέλεχος της εταιρείας συμφώνησε με τη διαπίστωση, εκτιμώντας τις πιθανότητες στο 10%.

Είναι εύλογο ότι αυτές οι δηλώσεις προκαλούν αίσθηση. Η επιβράδυνση της έρευνας και η ενίσχυση του ελέγχου πάνω στην ΤΝ αποτελούν τμήμα της συζήτησης. Αλλά πώς ακριβώς θα μπορούσε η νέα τεχνολογία να αφανίσει την ανθρωπότητα; Αυτό είναι το πρακτικό ερώτημα που θέτει ανάλυση του Guardian για το μέλλον της ΤΝ – και κάποιες από τις απαντήσεις προέρχονται από ταινίες του πρόσφατου παρελθόντος, όπως ο «Εξολοθρευτής».

Επικρατέστερα, προφανώς, είναι τα σενάρια των ταινιών επιστημονικής φαντασίας, τα περισσότερα εκ των οποίων αφορούν την έννοια μιας «υπερευφυούς» ΤΝ, με ικανότητες ανώτερες από τις ανθρώπινες. Ο Guardian συμπυκνώνει αυτά τα σενάρια στα πέντε επικρατέστερα, ταξινομώντας τα κατά προσέγγιση από το πιο αόριστο έως το πιο συγκεκριμένο. Η πεντάδα που ακολουθεί είναι ταξινομημένη αντίστροφα – από το λιγότερο έως το πιο πιθανό σενάριο καταστροφής.

Δεν μπορούμε να γνωρίζουμε το πώς

Οσοι τρέφουν ζοφερές προβλέψεις για την ΤΝ συχνά δικαιολογούν τις ανησυχίες τους επικαλούμενοι ένα ενοχλητικό παράδοξο τύπου «Catch-22» – όρο για την παραδοξότητα από την οποία δεν μπορείς να ξεφύγεις λόγω αντιφατικών κανόνων ή περιορισμών: Εν ολίγοις, είναι αδύνατο η ανθρωπότητα να φανταστεί τι θα μπορούσε να πράξει μια υπερ-νοημοσύνη για να εξολοθρεύσει λιγότερο ευφυή όντα όπως τα μέλη της.

Οι άνθρωποι θα έπρεπε να διαθέτουν αντίστοιχη υπερ-νοημοσύνη για να προβλέψουν τις συνέπειές της. Αλλιώς είναι σαν να ζητάς από τον σκύλο σου να φανταστεί έναν θερμοπυρηνικό πόλεμο. Τα καλά νέα, σύμφωνα με τον Guardian, είναι ότι μια τέτοια υπερ-νοημοσύνη απέχει πολλά χρόνια για να γίνει πραγματικότητα.

Τα τρέχοντα μοντέλα ΤΝ είναι εξαιρετικά ικανά στην επίλυση προβλημάτων, αλλά αυτό δεν τα κάνει πιο ευφυή από τους ανθρώπους, όπως επισημαίνει η βρετανική εφημερίδα. Ωστόσο, η ΤΝ κατάφερε πρόσφατα να επιλύσει ένα από τα επτά δυσκολότερα γνωστά μαθηματικά προβλήματα, ενώ φαίνεται πως πλησιάζει και στην επίλυση άλλων, ακόμη πιο πολύπλοκων – γεγονός που ίσως επισκιάζει την όποια αισιοδοξία για το μέλλον.

Το σενάριο των συνδετήρων

Μια υπερευφυής μορφή ΤΝ, εξαιρετικά ικανή στην επίτευξη των αποστολών της, ίσως να αδιαφορεί για την επιβίωση του ανθρώπινου γένους. Ο Guardian φέρνει ως παράδειγμα το υποθετικό σενάριο του φιλοσόφου της Οξφόρδης Νικ Μπόστρομ σχετικά με μια υπερφυή ΤΝ σχεδιασμένη για τη βελτίωση της παραγωγής συνδετήρων. Προκειμένου να παράξει τη συγκεκριμένη μορφή ειδών γραφείου, η ΤΝ μετατρέπει ταχύτατα όλη την υπάρχουσα ύλη –ανθρώπους, πλανήτες, άστρα– σε συνδετήρες.

Σύμφωνα με τον Guardian, σε αυτό το σενάριο υπάρχει αναντιστοιχία ανάμεσα στην τέλεια εκτέλεση ενός στόχου και τον καθορισμό των κριτηρίων του. Η ΤΝ δεν τρέφει μίσος για την ανθρωπότητα, απλώς αναγνωρίζει ότι και οι άνθρωποι αποτελούνται από άτομα που μπορούν να αξιοποιηθούν καλύτερα για την κατασκευή συνδετήρων. Το ζήτημα δεν είναι προσωπικό.

Τα καλά νέα, σύμφωνα με τον Guardian, είναι ότι σε αυτό το σενάριο συγχέεται η νοημοσύνη με την ισχύ. Μια υπερευφυής ΤΝ δεν διαθέτει απαραίτητα τη δύναμη να επιτύχει τους στόχους της. Πρακτικά, η μετατροπή του πλανήτη σε εργοστάσιο παραγωγής συνδετήρων θα απαιτούσε πολεοδομικές άδειες που, ακόμα κι αν εξασφαλίζονταν, τα εργοστάσια παραγωγής συνδετήρων θα προκαλούσαν δημόσια κατακραυγή. Περιβαλλοντικοί ακτιβιστές και δικαστήρια θα παρενέβαιναν.

Κάποιος θα μπορούσε να θεωρήσει τα τεράστια κέντρα δεδομένων που κτίζονται σε όλον τον πλανήτη εν μέσω αντιδράσεων για τους πόρους που καταναλώνουν ως μια σύγχρονη εκδοχή του θεωρητικού σεναρίου με τους συνδετήρες. Προς το παρόν, πάντως, η κοινή γνώμη αντιδρά όλο και περισσότερο στην ιδέα ο πλανήτης να παραδοθεί στα data centers, επισημαίνει ο Guardian.

Ο κίνδυνος των βιολογικών όπλων

Μια άλλη πιθανότητα καταστροφής της ανθρωπότητας από την ΤΝ είναι μέσω της κατασκευής και απελευθέρωσης στην ατμόσφαιρα ενός επικίνδυνου βιολογικού όπλου. Αυτό αποτελεί, μάλιστα, ένα από τα πιθανά σενάρια της μελέτης «AI 2027» από τον μη κερδοσκοπικό φορέα AI Futures, που εστιάζει στην πρόβλεψη των επιπτώσεων της προηγμένης ΤΝ – αλλά και το σενάριο της εξαιρετικής ταινίας επιστημονικής φαντασίας «Οι Δώδεκα Πίθηκοι».

Ο κίνδυνος αυτός έγινε πιο απτός τον περασμένο μήνα, όπως αναφέρει ο Guardian, όταν ερευνητές του Πανεπιστημίου Στάνφορντ ανακοίνωσαν ότι χρησιμοποίησαν ένα μοντέλο ΤΝ γλωσσικής επεξεργασίας γενετικών δεδομένων για τη σύνθεση 16 νέων ιών. Ακολούθως, έστειλαν τις γενετικές αλληλουχίες σε ένα εξειδικευμένο εργαστήριο που δέχεται παραγγελίες, και εκείνο τους απέστειλε πίσω τους ιούς μέσα σε δοκιμαστικούς σωλήνες.

Βέβαια, για την εξολόθρευση ενός ολόκληρου πληθυσμού, ένα νέος ιός πρέπει να έχει υψηλή μεταδοτικότητα, ώστε να εξαπλώνεται ευρέως. Ωστόσο, σύμφωνα με τους βιολογικούς κανόνες, οι ιοί που μεταδίδονται εύκολα τείνουν να είναι λιγότερο θανατηφόροι – σε αντίθεση με εκείνους που έχουν μειωμένη μεταδοτικότητα, καθώς οι μολυσμένοι άνθρωποι πεθαίνουν προτού προλάβουν να μεταδώσουν τη λοίμωξη.

Η Covid-19 προκάλεσε τον θάνατο λιγότερου από το 1% του παγκόσμιου πληθυσμού, επισημαίνει ο Guardian. Η φονικότερη πανδημία στην ανθρώπινη καταγεγραμμένη Ιστορία ήταν η Μαύρη Πανώλη, που εξόντωσε πάνω από το ένα τρίτο του πληθυσμού της Ευρώπης τον 14ο αιώνα. Αλλά ακόμα και αυτή θα ήταν λιγότερο θανατηφόρα σήμερα, χάρη στις προηγμένες ιατρικές γνώσεις και τις βελτιωμένες συνθήκες υγιεινής.

Ο καταστροφικός πυρηνικός πόλεμος

Τι θα συνέβαινε αν η ΤΝ αποκτούσε πρόσβαση στην αλυσίδα διοίκησης και ελέγχου των ατομικών όπλων και πυροδοτούσε έναν πυρηνικό πόλεμο; Ο Guardian επισημαίνει ότι σειρά ανθρώπινων και μηχανικών λαθών έχουν οδηγήσει την ανθρωπότητα αρκετές φορές στο χείλος ενός πυρηνικού ολοκαυτώματος τα τελευταία 50 χρόνια.

Υπάρχει, βέβαια, η διαβεβαίωση ότι το σύστημα διοίκησης και ελέγχου των πυρηνικών είναι πλήρως αποσυνδεμένο από το διαδίκτυο. Ωστόσο, όπως είδαμε το 2010, οι πυρηνικοί φυγοκεντρωτές του Ιράν τέθηκαν εκτός λειτουργίας από ένα κακόβουλο λογισμικό με την ονομασία Stuxnet, το οποίο πιστεύεται ότι εισήχθη στο σύστημα μέσω μιας μονάδας USB.

Από την άλλη, η ΤΝ θα μπορούσε, σύμφωνα με τον Guardian, να παρέχει στον στρατό ψευδείς πληροφορίες, οδηγώντας σε ενέργειες με ανεπανόρθωτες συνέπειες. Τα καλά νέα είναι ότι τα πυρηνικά αποθέματα έχουν μειωθεί – αν και παραμένουν αρκετά για να εξολοθρεύσουν ίσως και τον μισό πληθυσμό της Γης. Ο αφανισμός δεν θα ήταν αποτέλεσμα των πυρηνικών εκρήξεων, αλλά του λιμού που θα προκαλούσε ο πυρηνικός χειμώνας που θα τις ακολουθούσε.

Ο παράγοντας «άνθρωπος»

Ο πιο πιθανός κίνδυνος αφανισμού της ανθρωπότητας ίσως προέρχεται από τον ίδιο τον άνθρωπο, συμπεραίνει ο Guardian – με την ΤΝ απλώς να επιταχύνει τη διαδικασία. Το σενάριο βασίζεται σε υπάρχουσες φοβίες για το μέλλον. Η ΤΝ ήδη μολύνει το διαδίκτυο με παραπληροφόρηση, πολώνει πολιτικά, καταστρέφει ανθρώπινες σχέσεις προσφέροντας ψεύτικη, τεχνητή συντροφικότητα, ενώ αναμένεται να προκαλέσει και μαζικές απώλειες θέσεων εργασίας.

Υπό αυτές τις συνθήκες η κοινωνία δεν βρίσκεται και πολύ μακριά από την κατάρρευση. Αργά αλλά σταθερά η ανθρώπινη ζωή χάνει την αξία της, με την άνοδο του μίσους και της βίας και τη διαρκή οπισθοχώρηση των ανθρωπιστικών αξιών της Αναγέννησης – δεδομένα που καταγράφονται ήδη στη διεθνή γεωπολιτική σκηνή. Αυτό, σύμφωνα με τον Guardian, είναι το πιο επικίνδυνο και ορατό σενάριο καταστροφής.

Πρόσθεσε το Protagon ως προτιμώμενη πηγή στη Google**