Μας φοβίζουν με την AI για να μας ελέγχουν; Η «βρόμικη» αλήθεια πίσω από τους κανόνες

Οι προειδοποιήσεις για μια τεχνητή νοημοσύνη που μπορεί να ξεφύγει από τον ανθρώπινο έλεγχο είναι πλέον καθημερινές. Μαζί τους φουντώνει και μια πιο άβολη υποψία: μήπως οι τεχνολογικοί κολοσσοί προβάλλουν τον κίνδυνο της AI για να επιβραδύνουν τους ανταγωνιστές τους, να επιβάλουν τους δικούς τους κανόνες και να διατηρήσουν τον έλεγχο μιας αγοράς που οι ίδιοι κυριαρχούν;

Αυτή την αιχμή διατύπωσε ο επικεφαλής της γαλλικής Mistral, Αρθούρ Μενς, κατηγορώντας κορυφαίες εταιρείες ότι αξιοποιούν τη συζήτηση για την ασφάλεια ως κάλυψη για τη «δική τους αμέλεια». Κατά τον ίδιο, οι προειδοποιήσεις για την AI δεν είναι πάντα αθώες: μπορούν να αξιοποιηθούν για να εμφανιστούν οι μεγαλύτεροι παίκτες ως οι μόνοι που έχουν την τεχνογνωσία, τους πόρους και την αξιοπιστία να αναπτύσσουν αυτή την τεχνολογία — και, τελικά, να αποφασίζουν ποιος άλλος θα έχει δικαίωμα να το κάνει.

Η καχυποψία δεν περιορίζεται στη Mistral. Ευρωπαϊκές εταιρείες και αξιωματούχοι έχουν προειδοποιήσει ότι κανόνες που σχεδιάζονται με τη συμμετοχή των ίδιων των μεγάλων εργαστηρίων AI μπορεί να οχυρώσουν τη θέση τους. Όσο υψηλότερο είναι το κόστος συμμόρφωσης, τόσο δυσκολότερο γίνεται για μικρότερους ανταγωνιστές να παραμείνουν στο παιχνίδι.

Όταν οι πρωταγωνιστές γράφουν τους κανόνες

Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει ζητήσει να επιβραδυνθεί η ανάπτυξη των πιο ισχυρών μοντέλων και οι εταιρείες να συνεργαστούν για κοινά πρότυπα ασφάλειας. Η λογική είναι εύλογη: όσοι αναπτύσσουν την τεχνολογία γνωρίζουν καλύτερα τις δυνατότητες και τους κινδύνους της.

Υπάρχει, όμως, μια λεπτή γραμμή ανάμεσα στη συνεργασία για την ασφάλεια και στη δημιουργία ενός κλειστού κλαμπ. Όταν οι ίδιες οι εταιρείες συμμετέχουν στη διαμόρφωση των κανόνων, επιλέγουν τους ελεγκτές και ζητούν ειδικές εξαιρέσεις για να συνεργάζονται, η προστασία του κοινού μπορεί να συνυπάρχει με την προστασία των δικών τους συμφερόντων.

Αυτός είναι ο πυρήνας της ανησυχίας για «ρυθμιστική αιχμαλωσία»: κανόνες που εμφανίζονται ως δικλίδες ασφαλείας, αλλά στην πράξη ανεβάζουν τα εμπόδια εισόδου και θωρακίζουν τους ήδη ισχυρούς.

Η κριτική, πάντως, έχει και η ίδια πολιτικό και επιχειρηματικό βάρος. Η Mistral δεν παρακολουθεί τη μάχη από την εξέδρα· αναπτύσσει προηγμένα μοντέλα και θέλει να μειώσει την απόσταση από τους αμερικανικούς ομίλους.

Έχει, επομένως, συμφέρον να απορρίπτει περιορισμούς που μπορεί να δυσκολέψουν την ανάπτυξή της. Αυτό δεν ακυρώνει τα επιχειρήματα του Μενς, αλλά υπενθυμίζει ότι και στη συζήτηση για την ασφάλεια κάθε πλευρά έχει κάτι να κερδίσει.

Ο κίνδυνος είναι πραγματικός – και το συμφέρον επίσης

Οι προειδοποιήσεις δεν στηρίζονται μόνο σε σενάρια επιστημονικής φαντασίας. Πρόσφατες δοκιμές έδειξαν αυτόνομους πράκτορες AI να παρακάμπτουν περιορισμούς ή να επιχειρούν πρόσβαση σε συστήματα χωρίς εξουσιοδότηση. Σε αρκετές περιπτώσεις επρόκειτο για ελεγχόμενες δοκιμές και δεν αναφέρθηκε πραγματική ζημιά.

Τα περιστατικά, ωστόσο, φανερώνουν πόσο δύσκολο είναι να προβλεφθεί η συμπεριφορά ενός συστήματος όταν αποκτά πρόσβαση σε εργαλεία και υπηρεσίες.

Άρα, το δίλημμα δεν είναι «ασφάλεια ή ελευθερία ανάπτυξης». Είναι αν οι κανόνες θα προστατεύουν την κοινωνία ή αν θα δίνουν στους μεγαλύτερους παίκτες τη δύναμη να αποφασίζουν ποιος μπορεί να καινοτομεί. Η AI χρειάζεται εποπτεία. Χρειάζεται όμως και ανεξάρτητους ελέγχους, διαφανή κριτήρια και κανόνες που ισχύουν για όλους. Όχι ένα καθεστώς στο οποίο οι εταιρείες που προειδοποιούν για τον κίνδυνο γίνονται ταυτόχρονα νομοθέτες, ελεγκτές και θυρωροί της αγοράς.

Για να εμφανίζονται περισσότερα άρθρα της Ναυτεμπορικής στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.