Η διαπίστωση ότι το νέο της γλωσσικό μοντέλο Mythos ανακάλυψε πολλές σοβαρές ευπάθειες σε λειτουργικά συστήματα και browsers έκανε την Anthropic να αλλάξει τον σχεδιασμό της και να μην το διαθέσει στο ευρύ κοινό. Φυσικά κάποιος άλλος μπορεί να μην έχει την ίδια διάθεση και, επίσης φυσικά, δεν είμαστε σε θέση να γνωρίζουμε αν κάποιος έχει αναπτύξει ένα γλωσσικό μοντέλο με τις δυνατότητες του Mythos και -εφόσον το έχει αναπτύξει- είναι πρόθυμος να το χρησιμοποιήσει.  Η Anthropic δεν το είπε ακριβώς έτσι, αλλά η εκτίμησή της ότι ο αντίκτυπος από την κακόβουλη χρήση των εξελιγμένων γλωσσικών μοντέλων θα είναι σοβαρός για τις οικονομίες, τη δημόσια τάξη και την εθνική ασφάλεια. Το θέμα δεν περιορίζεται στα στενά όρια της τεχνολογίας.

Οι δυνατότητες της τεχνητής νοημοσύνης, με αφορμή το Mythos, αποτέλεσαν θέμα συζήτησης και στην εαρινή σύνοδο του ΔΝΤ και της Παγκόσμιας Τράπεζας. Η πρόεδρος της ΕΚΤ Κριστίν Λαγκάρντ απένειμε τα εύσημα στην  Anthropic για τη στάση της.  Οι εξελίξεις σχετικά με το Mythos, σχολίασε,  «είναι ένα καλό παράδειγμα μιας υπεύθυνης εταιρείας που ξαφνικά σκέφτεται “Α, αυτό θα μπορούσε να είναι πραγματικά καλό” αλλά αν πέσει σε λάθος χέρια, θα μπορούσε να είναι πραγματικά κακό».

«Πρόκειται για μια μεγάλη πρόκληση για όλους μας» σχολίασε από την πλευρά του ο διοικητής της Τράπεζας της Αγγλίας Άντριου Μπέιλι.

Για την ώρα, η Anthropic έχει κρατήσει το Mythos σε… καραντίνα. Περίπου 40 επιχειρήσεις έχουν αποκτήσει προνομιακή πρόσβαση στο μοντέλο, ώστε να αξιολογήσουν τις δυνατότητές του και να κλείσουν τα κενά ασφαλείας που αυτό εντοπίζει.

Ισχύς εν τη ενώσει;

Για τις ανάγκες των δοκιμών, η  Anthropic  έχει δημιουργήσει την πλατφόρμα Glasswing όπου συμμετέχουν Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia και Palo Alto Networks. Όπως λέει η ίδια, «δημιουργήσαμε το Project Glasswing λόγω των δυνατοτήτων που παρατηρήσαμε σε ένα νέο μοντέλο που έχει εκπαιδευτεί από την Anthropic και το οποίο πιστεύουμε ότι θα μπορούσε να αναδιαμορφώσει τον τομέα της κυβερνοασφάλειας. Το Claude Mythos2 Preview είναι ένα μοντέλο γενικής χρήσης που δεν έχει κυκλοφορήσει ακόμη και αποκαλύπτει μια σκληρή πραγματικότητα: τα μοντέλα τεχνητής νοημοσύνης έχουν φτάσει σε ένα επίπεδο προγραμματιστικών ικανοτήτων όπου μπορούν να ξεπεράσουν όλους τους ανθρώπους, εκτός από τους πιο εξειδικευμένους, στην ανίχνευση και εκμετάλλευση ευπαθών σημείων λογισμικού».

Η εταιρεία προσθέτει ότι το Project Glasswing «αποτελεί μια επείγουσα προσπάθεια να αξιοποιηθούν αυτές οι δυνατότητες για αμυντικούς σκοπούς» και -ενδεχομένως για την αποφυγή παρεξηγήσεων- τονίζει ότι «το Glasswing αποτελεί σημείο εκκίνησης. Κανένας οργανισμός δεν μπορεί να επιλύσει μόνος του αυτά τα προβλήματα κυβερνοασφάλειας: οι πρωτοπόροι προγραμματιστές τεχνητής νοημοσύνης, άλλες εταιρείες λογισμικού, ερευνητές στον τομέα της ασφάλειας, διαχειριστές λογισμικού ανοιχτού κώδικα και κυβερνήσεις σε όλο τον κόσμο, όλοι  έχουν να διαδραματίσουν ουσιαστικό ρόλο. Το έργο της προστασίας της παγκόσμιας κυβερνο-υποδομής ενδέχεται να διαρκέσει χρόνια. Οι πρωτοποριακές δυνατότητες της τεχνητής νοημοσύνης, όμως, είναι πιθανό να εξελιχθούν σημαντικά ήδη μέσα στους επόμενους μήνες».

Όλοι ψάχνονται

Oι ανακοινώσεις και σχετικές πρωτοβουλίες της Anthropic για το Mythos προκάλεσαν θόρυβο και όλοι αναζητούν απαντήσεις στο βασικό ερώτημα: Τι σημαίνει για την ευστάθεια της οικονομίας και της ασφάλειας η παρουσία ενός τόσο ισχυρού γλωσσικού μοντέλου.

Προ ημερών, ο Αμερικανός υπουργός Οικονομικών Σκοτ Μπέσεντ κάλεσε τον διοικητή της Ομοσπονδιακής Τράπεζας Τζερόμ Πάουελ και τους επικεφαλής των μεγαλύτερων τραπεζών των ΗΠΑ για να συζητήσουν τις αδυναμίες που έχει αποκαλύψει το Mythos. Φυσικά ανακοινώσεις δεν γίνονται και όσες δηλώσεις γίνονται αποτυπώνουν την ανησυχία, συγκαλυμμένη ή όχι αυτό είναι αδιάφορο.

Ενδεχομένως και σε μια προσπάθεια να συντηρήσει το ενδιαφέρον, η Anthropic διέθεσε στο ευρύ κοινό το γλωσσικό μοντέλο Opus 4.7, ενώ κάποιοι αμφισβητούν τα κίνητρα της εταιρείας και το κατά πόσο αυτά είναι ευγενή. Σύμφωνα με τη δική τους ανάγνωση, τα πιο εξελιγμένα μοντέλα παραμένουν προσβάσιμα μόνο σε λίγες, μεγάλες εταιρείες, οι οποίες είναι πρόθυμες να πληρώσουν διόλου ευκαταφρόνητα ποσά για να έχουν προνομιακή πρόσβαση. Το ευρύ κοινό μπορεί να βολευτεί με λιγότερο ισχυρές (και, δυνητικά, λιγότερο επικίνδυνες) εκδόσεις γλωσσικών μοντέλων, αλλά φυσικά αυτή δεν είναι παρά μια θεωρία. Αν αναζητήσετε σχετικές συζητήσεις σε πλατφόρμες όπως το Reddit είναι απλώς ζήτημα χρόνου να πέσετε σε μια θεωρία που χαρακτηρίζει όλη την υπόθεση ένα στημένο κόλπο ώστε να συνεχίσουμε να συζητάμε για την Anthropic στον απόηχο της έξωσής της από το Πεντάγωνο. Η οποία έξωση ενδεχομένως να αποδειχθεί τελικά προσωρινή, καθώς η αμερικανική κυβέρνηση φέρεται να δίνει πράσινο φως στις ομοσπονδιακές υπηρεσίες να αξιολογήσουν τις δυνατότητες του Mythos, στο πλαίσιο μιας προσεκτικής και ελεγχόμενης διαδικασίας. Η αμερικανική κυβέρνηση δεν συμμετέχει στο πρόγραμμα Glasswing, άρα έχουμε αυτή τη στιγμή δύο δοκιμές που πραγματοποιούνται παράλληλα, μία από τον ιδιωτικό τομέα και μία από τον δημόσιο.

Την προσέγγιση της Anthropic δείχνει να ακολουθεί και η OpenAI, η οποία επίσης προσφέρει ελεγχόμενη πρόσβαση στο πιο πρόσφατο γλωσσικό της μοντέλο σε μια περιορισμένη ομάδα χρηστών.

Η συγκεκριμένη προσέγγιση, εκτός από την αμηχανία (τον φόβο, τον τρόμο, την ανησυχία, πείτε το όπως θέλετε) που προκαλούν τα νέα γλωσσικά μοντέλα, ενδεχομένως να συνδέεται και με τα σχέδια των δύο εταιρειών για την εισαγωγή τους στο Χρηματιστήριο της Νέας Υόρκης. Το τελευταίο που θα ήθελαν θα ήταν να βρεθούν αντιμέτωπες σε αγωγές πολλών εκατομμυρίων ή δισεκατομμυρίων δολαρίων εξαιτίας της… συμπεριφοράς του Mythos ή κάποιου άλλου μοντέλου τη στιγμή που καλούνται να πείσουν την ευρεία επενδυτική κοινότητα να χρηματοδοτήσει τα (υπερ)φιλόδοξα σχέδιά τους.

The post Ένας Mythos και η ανησυχία για αυτόν appeared first on 2045.gr.