Το «τζίνι» βγήκε από το λυχνάρι! – AI εργαλεία έδωσαν οδηγίες για φόνο και βιολογικά όπλα όταν έπεσαν τα τείχη ασφαλείας

Ανησυχία προκαλούν τα ευρήματα ερευνητών σχετικά με δύο μοντέλα τεχνητής νοημοσύνης της κινεζικής εταιρείας Moonshot, καθώς φέρεται να κατάφεραν να παρακάμψουν τους μηχανισμούς ασφαλείας τους και να συζητήσουν ακόμη και θέματα που αφορούν βιολογικά όπλα και δολοφονίες.**

Σύμφωνα με το BBC, η εταιρεία κυβερνοασφάλειας Mindgard εντόπισε τον Ιούλιο ότι τα μοντέλα Kimi K2.6 και K3 Swarm μπορούσαν, μετά από σειρά σύνθετων οδηγιών, να αγνοήσουν τους περιορισμούς που είχαν θέσει οι προγραμματιστές τους.

Οι ερευνητές διαπίστωσαν ότι, όταν παρακάμφθηκαν τα σχετικά μέτρα ασφαλείας, τα μοντέλα άρχισαν να ανταποκρίνονται σε ερωτήματα για κακόβουλες ενέργειες. Ο ιδρυτής της Mindgard, Πίτερ Γκάραχαν, χαρακτήρισε τα ευρήματα ανησυχητικά, υποστηρίζοντας ότι μετά την παράκαμψη των δικλίδων ασφαλείας το σύστημα μπορεί να γίνει ιδιαίτερα δημιουργικό στην παροχή κακόβουλων προτάσεων.

Kimi AI Jailbroken to Give Bioweapon Tips

Read the full story: https://t.co/KCziNktxpn

Security firm Mindgard found that Chinese AI models Kimi K2.6 and K3 Swarm can be jailbroken to produce bioweapon and assassination instructions, with Moonshot silent for weeks until press… pic.twitter.com/aL4OV3Qyih

— wondernews.now (@wondernews_now) September 29, 2026

Η Mindgard δεν έχει διευκρινίσει, ωστόσο, εάν οι απαντήσεις που παρήγαγαν τα μοντέλα θα μπορούσαν πράγματι να χρησιμοποιηθούν για την υλοποίηση των ενεργειών που περιέγραφαν.

Παράλληλα, η εταιρεία υποστηρίζει ότι ένα «jailbreak» του Kimi K2.6 θα μπορούσε να επιτρέψει ακόμη και τη χρήση του ως πλατφόρμας για κυβερνοεπιθέσεις, μέσω εκτέλεσης κώδικα στους υπολογιστικούς πόρους του.

Η Moonshot ανακοίνωσε ότι βρίσκεται σε επικοινωνία με τη Mindgard και χαρακτήρισε την εξωτερική ανατροφοδότηση σημαντικό στοιχείο για τη βελτίωση της ασφάλειας των συστημάτων της.

Σύμφωνα με τη Mindgard, η Moonshot ενημερώθηκε για το ζήτημα στις 27 Ιουλίου, ενώ ακολούθησε υπενθύμιση μία εβδομάδα αργότερα. Η εταιρεία απάντησε μετά την επικοινωνία του BBC για την υπόθεση.

Η Mindgard δεν αποκάλυψε τον ακριβή τρόπο με τον οποίο κατάφερε να παρακάμψει τους μηχανισμούς ασφαλείας των μοντέλων, ώστε να μην διευκολυνθεί η επανάληψη της επίθεσης.