Mistral κατά αμερικανικών κολοσσών ΑΙ: «Η συζήτηση για την ασφάλεια συγκαλύπτει την αμέλειά τους»

Ο διευθύνων σύμβουλος της Mistral, Αρτούρ Μενς, κατηγόρησε ορισμένους από τους μεγαλύτερους ομίλους τεχνητής νοημοσύνης ότι χρησιμοποιούν τη συζήτηση για την ασφάλεια της AI ως κάλυψη για την «αμέλειά» τους.

Την ίδια ώρα, υποστήριξε ότι χρειάζονται συστήματα που θα περιορίζουν και θα παρακολουθούν τη δράση των AI agents, χωρίς όμως η εταιρεία του να προτίθεται να επιβραδύνει την ανάπτυξη προηγμένων μοντέλων.

«Η συζήτηση που είδαμε στις ΗΠΑ αποτέλεσε κάλυψη για την αμέλεια ορισμένων ανταγωνιστών μας», δήλωσε ο Μενς στο CNBC, προσθέτοντας ότι είναι αναγκαίο να δημιουργηθούν συστήματα ικανά να συγκρατούν τους AI agents.

Οι κίνδυνοι από τους αυτόνομους agents

Οι ανησυχίες για τη συμπεριφορά των agents έχουν ενταθεί μετά από περιστατικά στα οποία συστήματα τεχνητής νοημοσύνης φέρονται να ξεπέρασαν τα όρια των δοκιμών τους. Πρόσφατα αποκαλύφθηκε ότι agent της OpenAI παραβίασε ιστότοπο της αυστραλιανής κυβέρνησης. Τον Ιούλιο, η Anthropic είχε περιγράψει τρία περιστατικά κατά τα οποία μοντέλα Claude απέκτησαν πρόσβαση στο διαδίκτυο στη διάρκεια αξιολογήσεων και εισήλθαν χωρίς άδεια σε πραγματικά συστήματα οργανισμών. Τον ίδιο μήνα έβαλε αγγελία για να προσλάβει ειδικούς που θα αποτρέψουν την καταστροφή.

«Όταν δίνεις πολλά εργαλεία σε αυτά τα συστήματα, γίνονται πολύ δυναμικά και μπορεί να κάνουν πράγματα που δεν περιμένεις», είπε ο Μενς. Τόνισε ότι απαιτούνται κατάλληλα συστήματα παρακολούθησης, τα οποία, όπως ανέφερε, η Mistral παρέχει στις επιχειρήσεις με τις οποίες συνεργάζεται.

Η συζήτηση στις ΗΠΑ έχει προκαλέσει αντιδράσεις και από άλλους αξιωματούχους. Ο Ντέιβιντ Σακς, πρώην υπεύθυνος του Λευκού Οίκου για τα κρυπτονομίσματα και νυν συμπρόεδρος του Συμβουλίου Επιστημονικών και Τεχνολογικών Συμβούλων του προέδρου, κάλεσε τις τεχνολογικές εταιρείες να σταματήσουν να παρουσιάζουν την επιβράδυνση της ανάπτυξης ως αποκλειστικά ανιδιοτελή επιλογή.

Ο υφυπουργός Άμυνας των ΗΠΑ για την έρευνα και την ανάπτυξη, Εμίλ Μάικλ, προειδοποίησε επίσης για μια «συντονισμένη εκστρατεία» πρόκλησης φόβου.

Η Mistral δεν σχεδιάζει να επιβραδύνει

Οι τοποθετήσεις του Μενς έρχονται ενώ η OpenAI ανακοίνωσε ότι δεν θα κυκλοφορήσει το GPT-6.1 Astra, καθώς το μοντέλο δεν ανταποκρίθηκε στα πρότυπα ασφάλειας της εταιρείας. Παράλληλα, η Anthropic φέρεται να προειδοποίησε υποψήφιους επενδυτές ενόψει της εισαγωγής της στο χρηματιστήριο ότι η τεχνολογία ενδέχεται να ενέχει «καταστροφικούς ή υπαρξιακούς κινδύνους» για την ανθρωπότητα.

Η Mistral ακολουθεί διαφορετική στρατηγική από την OpenAI και την Anthropic, συνεργαζόμενη με επιχειρήσεις για την ανάπτυξη προσαρμοσμένων εργαλείων AI που ενσωματώνονται στις δραστηριότητές τους. Δεν σχεδιάζει, ωστόσο, να επιβραδύνει την ανάπτυξη των προηγμένων μοντέλων της.

Ο Μενς εκτίμησε ότι το προβάδισμα των αμερικανικών εργαστηρίων δεν είναι «ιδιαίτερα μεγάλο» και δήλωσε βέβαιος ότι το επόμενο μοντέλο της Mistral θα μειώσει σημαντικά την απόσταση. Όπως είπε, η εταιρεία συγκεντρώνει τα κεφάλαια που χρειάζεται για να αυξήσει την υπολογιστική ισχύ και να εκπαιδεύσει μεγαλύτερα και ισχυρότερα μοντέλα.

Νωρίτερα αυτόν τον μήνα, η Mistral συγκέντρωσε 3 δισ. ευρώ σε νέο γύρο χρηματοδότησης, με επικεφαλής τη Samsung, επιδιώκοντας να ενισχύσει τη θέση της ως ευρωπαϊκή εναλλακτική απέναντι σε ανταγωνιστές όπως η OpenAI και η Anthropic.

Για να εμφανίζονται περισσότερα άρθρα της Ναυτεμπορικής στις αναζητήσεις σας εύκολα και γρήγορα, πρέπει να προσθέσετε το site στις προτιμώμενες πηγές σας. Μπορείτε να το κάνετε πηγαίνοντας εδώ.