Η διαπίστωση ότι το νέο της γλωσσικό μοντέλο Mythos ανακάλυψε πολλές σοβαρές ευπάθειες σε λειτουργικά συστήματα και browsers έκανε την Anthropic να αλλάξει τον σχεδιασμό της και να μην το διαθέσει στο ευρύ κοινό. Φυσικά κάποιος άλλος μπορεί να μην έχει την ίδια διάθεση και, επίσης φυσικά, δεν είμαστε σε θέση να γνωρίζουμε αν κάποιος έχει αναπτύξει ένα γλωσσικό μοντέλο με τις δυνατότητες του Mythos και -εφόσον το έχει αναπτύξει- είναι πρόθυμος να το χρησιμοποιήσει.  Η Anthropic δεν το είπε ακριβώς έτσι, αλλά η εκτίμησή της ότι ο αντίκτυπος από την κακόβουλη χρήση των εξελιγμένων γλωσσικών μοντέλων θα είναι σοβαρός για τις οικονομίες, τη δημόσια τάξη και την εθνική ασφάλεια. Το θέμα δεν περιορίζεται στα στενά όρια της τεχνολογίας.

Οι δυνατότητες της τεχνητής νοημοσύνης, με αφορμή το Mythos, αποτέλεσαν θέμα συζήτησης και στην εαρινή σύνοδο του ΔΝΤ και της Παγκόσμιας Τράπεζας. Η πρόεδρος της ΕΚΤ Κριστίν Λαγκάρντ απένειμε τα εύσημα στην  Anthropic για τη στάση της.  Οι εξελίξεις σχετικά με το Mythos, σχολίασε,  «είναι ένα καλό παράδειγμα μιας υπεύθυνης εταιρείας που ξαφνικά σκέφτεται “Α, αυτό θα μπορούσε να είναι πραγματικά καλό” αλλά αν πέσει σε λάθος χέρια, θα μπορούσε να είναι πραγματικά κακό».

«Πρόκειται για μια μεγάλη πρόκληση για όλους μας» σχολίασε από την πλευρά του ο διοικητής της Τράπεζας της Αγγλίας Άντριου Μπέιλι.

Για την ώρα, η Anthropic έχει κρατήσει το Mythos σε… καραντίνα. Περίπου 40 επιχειρήσεις έχουν αποκτήσει προνομιακή πρόσβαση στο μοντέλο, ώστε να αξιολογήσουν τις δυνατότητές του και να κλείσουν τα κενά ασφαλείας που αυτό εντοπίζει.

Ισχύς εν τη ενώσει;

Για τις ανάγκες των δοκιμών, η  Anthropic  έχει δημιουργήσει την πλατφόρμα Glasswing όπου συμμετέχουν Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorganChase, Linux Foundation, Microsoft, Nvidia και Palo Alto Networks. Όπως λέει η ίδια, «δημιουργήσαμε το Project Glasswing λόγω των δυνατοτήτων που παρατηρήσαμε σε ένα νέο μοντέλο που έχει εκπαιδευτεί από την Anthropic και το οποίο πιστεύουμε ότι θα μπορούσε να αναδιαμορφώσει τον τομέα της κυβερνοασφάλειας. Το Claude Mythos2 Preview είναι ένα μοντέλο γενικής χρήσης που δεν έχει κυκλοφορήσει ακόμη και αποκαλύπτει μια σκληρή πραγματικότητα: τα μοντέλα τεχνητής νοημοσύνης έχουν φτάσει σε ένα επίπεδο προγραμματιστικών ικανοτήτων όπου μπορούν να ξεπεράσουν όλους τους ανθρώπους, εκτός από τους πιο εξειδικευμένους, στην ανίχνευση και εκμετάλλευση ευπαθών σημείων λογισμικού».

Η εταιρεία προσθέτει ότι το Project Glasswing «αποτελεί μια επείγουσα προσπάθεια να αξιοποιηθούν αυτές οι δυνατότητες για αμυντικούς σκοπούς» και -ενδεχομένως για την αποφυγή παρεξηγήσεων- τονίζει ότι «το Glasswing αποτελεί σημείο εκκίνησης. Κανένας οργανισμός δεν μπορεί να επιλύσει μόνος του αυτά τα προβλήματα κυβερνοασφάλειας: οι πρωτοπόροι προγραμματιστές τεχνητής νοημοσύνης, άλλες εταιρείες λογισμικού, ερευνητές στον τομέα της ασφάλειας, διαχειριστές λογισμικού ανοιχτού κώδικα και κυβερνήσεις σε όλο τον κόσμο, όλοι  έχουν να διαδραματίσουν ουσιαστικό ρόλο. Το έργο της προστασίας της παγκόσμιας κυβερνο-υποδομής ενδέχεται να διαρκέσει χρόνια. Οι πρωτοποριακές δυνατότητες της τεχνητής νοημοσύνης, όμως, είναι πιθανό να εξελιχθούν σημαντικά ήδη μέσα στους επόμενους μήνες».

Όλοι ψάχνονται

Oι ανακοινώσεις και σχετικές πρωτοβουλίες της Anthropic για το Mythos προκάλεσαν θόρυβο και όλοι αναζητούν απαντήσεις στο βασικό ερώτημα: Τι σημαίνει για την ευστάθεια της οικονομίας και της ασφάλειας η παρουσία ενός τόσο ισχυρού γλωσσικού μοντέλου.

Προ ημερών, ο Αμερικανός υπουργός Οικονομικών Σκοτ Μπέσεντ κάλεσε τον διοικητή της Ομοσπονδιακής Τράπεζας Τζερόμ Πάουελ και τους επικεφαλής των μεγαλύτερων τραπεζών των ΗΠΑ για να συζητήσουν τις αδυναμίες που έχει αποκαλύψει το Mythos. Φυσικά ανακοινώσεις δεν γίνονται και όσες δηλώσεις γίνονται αποτυπώνουν την ανησυχία, συγκαλυμμένη ή όχι αυτό είναι αδιάφορο.

Ενδεχομένως και σε μια προσπάθεια να συντηρήσει το ενδιαφέρον, η Anthropic διέθεσε στο ευρύ κοινό το γλωσσικό μοντέλο Opus 4.7, ενώ κάποιοι αμφισβητούν τα κίνητρα της εταιρείας και το κατά πόσο αυτά είναι ευγενή. Σύμφωνα με τη δική τους ανάγνωση, τα πιο εξελιγμένα μοντέλα παραμένουν προσβάσιμα μόνο σε λίγες, μεγάλες εταιρείες, οι οποίες είναι πρόθυμες να πληρώσουν διόλου ευκαταφρόνητα ποσά για να έχουν προνομιακή πρόσβαση. Το ευρύ κοινό μπορεί να βολευτεί με λιγότερο ισχυρές (και, δυνητικά, λιγότερο επικίνδυνες) εκδόσεις γλωσσικών μοντέλων, αλλά φυσικά αυτή δεν είναι παρά μια θεωρία. Αν αναζητήσετε σχετικές συζητήσεις σε πλατφόρμες όπως το Reddit είναι απλώς ζήτημα χρόνου να πέσετε σε μια θεωρία που χαρακτηρίζει όλη την υπόθεση ένα στημένο κόλπο ώστε να συνεχίσουμε να συζητάμε για την Anthropic στον απόηχο της έξωσής της από το Πεντάγωνο. Η οποία έξωση ενδεχομένως να αποδειχθεί τελικά προσωρινή, καθώς η αμερικανική κυβέρνηση φέρεται να δίνει πράσινο φως στις ομοσπονδιακές υπηρεσίες να αξιολογήσουν τις δυνατότητες του Mythos, στο πλαίσιο μιας προσεκτικής και ελεγχόμενης διαδικασίας. Η αμερικανική κυβέρνηση δεν συμμετέχει στο πρόγραμμα Glasswing, άρα έχουμε αυτή τη στιγμή δύο δοκιμές που πραγματοποιούνται παράλληλα, μία από τον ιδιωτικό τομέα και μία από τον δημόσιο.

Την προσέγγιση της Anthropic δείχνει να ακολουθεί και η OpenAI, η οποία επίσης προσφέρει ελεγχόμενη πρόσβαση στο πιο πρόσφατο γλωσσικό της μοντέλο σε μια περιορισμένη ομάδα χρηστών.

Η συγκεκριμένη προσέγγιση, εκτός από την αμηχανία (τον φόβο, τον τρόμο, την ανησυχία, πείτε το όπως θέλετε) που προκαλούν τα νέα γλωσσικά μοντέλα, ενδεχομένως να συνδέεται και με τα σχέδια των δύο εταιρειών για την εισαγωγή τους στο Χρηματιστήριο της Νέας Υόρκης. Το τελευταίο που θα ήθελαν θα ήταν να βρεθούν αντιμέτωπες σε αγωγές πολλών εκατομμυρίων ή δισεκατομμυρίων δολαρίων εξαιτίας της… συμπεριφοράς του Mythos ή κάποιου άλλου μοντέλου τη στιγμή που καλούνται να πείσουν την ευρεία επενδυτική κοινότητα να χρηματοδοτήσει τα (υπερ)φιλόδοξα σχέδιά τους.

The post Ένας Mythos και η ανησυχία για αυτόν appeared first on 2045.gr.

Στις μόλις 17 σελίδες της έκθεσής της, η εταιρεία του Claude προσπαθεί να σκιαγραφήσει τις επιπτώσεις που έχει η τεχνολογία που η ίδια αναπτύσσει στην απασχόληση. Θα δημιουργηθούν στρατιές ανέργων εξαιτίας της τεχνητής νοημοσύνης; Πόσο κοντά είμαστε σε έναν εργασιακό Αρμαγεδδώνα και ποια είναι τα πιο πιθανά θύματα;

Το παρελθόν μας διδάσκει. Ο αντίκτυπος της τεχνητής νοημοσύνης στην απασχόληση είναι πιθανότερο να μοιάζει με εκείνον που δημιούργησε το διαδίκτυο ή η ανάπτυξη των εμπορικών σχέσεων με την Κίνα, παρά με την κατάσταση κρίσης που ζήσαμε στην περίοδο της πανδημίας του κορωνοϊού – με άλλα λόγια, μην περιμένετε κάτι δραστικό.

Το ραντάρ και πώς (πρέπει να) το διαβάζουμε

Σε μια προσπάθεια να αποτυπώσει τη σημερινή κατάσταση, η Anthropic επιχείρησε να συγκρίνει τη θεωρητική ικανότητα της τεχνητής νοημοσύνης και της πραγματικής παρατηρούμενης χρήσης της σε διάφορες επαγγελματικές κατηγορίες. Για τις ανάγκες της σύγκρισης τοποθέτησε σε ένα διάγραμμα τύπου ραντάρ (ή ιστού αράχνης αλλά εμείς προτιμάμε το ραντάρ) και με μπλε χρώμα τη θεωρητική κάλυψη, δηλαδή το ποσοστό των εργασιών σε κάθε κλάδο που θα μπορούσαν θεωρητικά να εκτελεστούν ή να επιταχυνθούν σημαντικά από ένα μεγάλο γλωσσικό μοντέλο (όπως το Claude). Ακολούθως τοποθέτησε με κόκκινο χρώμα στοιχεία για την τρέχουσα (και πραγματική) χρήση της τεχνητής νοημοσύνης στα υπό εξέταση επαγγελματικά περιβάλλοντα. Για τον σκοπό αυτό, η Anthropic χρησιμοποίησε δεδομένα χρήσης του Claude.

Η αποτύπωση των δύο αυτών καταστάσεων, της θεωρητικής και της τρέχουσας, δείχνει ότι υπάρχει μια μεγάλη απόσταση μεταξύ του τι είναι τεχνικά εφικτό και του τι συμβαίνει αυτή τη στιγμή. Όπως φαίνεται, σήμερα, η πραγματική υιοθέτηση της τεχνητής νοημοσύνης παραμένει ένα κλάσμα των θεωρητικών δυνατοτήτων της. Για παράδειγμα, στην ομάδα Computer & Math η θεωρία λέει ότι η τεχνητή νοημοσύνη μπορεί να καλύψει το 94% των εργασιών, όταν η παρατηρούμενη κάλυψη με βάση τα τρέχοντα δεδομένα είναι στο 33%. Ομοίως, στην κατηγορία εργασιών γραφείου (Office & Admin) η τεχνητή νοημοσύνη φτάνει σε δυνητικό ποσοστό κάλυψης το 90%, αλλά η πραγματική της χρήση είναι σήμερα πολύ περιορισμένη.

Πολύ καθησυχαστικό; Όχι. Η τεχνητή νοημοσύνη έφτασε στο ένα τρίτο κάλυψης των εργασιών στην κατηγορία υπολογιστών και μαθηματικών μέσα στα 3-4 χρόνια ζωής των μεγάλων γλωσσικών μοντέλων και με όλα τα προβλήματα των παραισθήσεων και των άλλων λοιπών ατελειών. Ακόμα και αν η εξέλιξή επιβραδυνθεί στο προσεχές διάστημα(πράγμα που δεν διαφαίνεται στον ορίζοντα), είναι ζήτημα λίγων ετών για να φτάσει σε ποσοστά άνω του 70% ή 80%.

Σταδιακά, η κόκκινη περιοχή της πραγματικής χρήσης θα καλύψει την μπλε, τουλάχιστον στα πεδία όπου υπάρχουν υψηλές προοπτικές. Σε τομείς όπως η γεωργία, η οικοδομική δραστηριότητα ή οι τεχνικές εργασίες (ηλεκτρολόγοι, υδραυλικοί, ξυλουργοί κ.τ.λ.) μπορεί να μην δούμε την τεχνητή νοημοσύνη να εισβάλει σύντομα με ορμή όπως το κάνει για παράδειγμα στα επαγγέλματα των προγραμματιστών, των νομικών, των υπηρεσιών εξυπηρέτησης πελατών ή των οικονομικών αναλυτών.

Η καθυστέρηση μεταξύ θεωρίας και πραγματικότητας που παρατηρούμε σήμερα σε επαγγέλματα υψηλού κινδύνου (ας τα περιγράψουμε έτσι) δεν οφείλεται μόνο σε τεχνικά θέματα, τα οποία όπως έχουμε ήδη δει από την εξέλιξη των γλωσσικών μοντέλων ξεπερνιούνται. Υπάρχουν νομικοί περιορισμοί, ανάγκη για εξειδικευμένα εργαλεία που δεν έχουν δημιουργηθεί ακόμα, καθώς και ανάγκη για επαλήθευση από ανθρώπους. Μπορεί τα γλωσσικά μοντέλα να εντυπωσιάζουν με τις ικανότητές τους αλλά δεν έχουν καταφέρει να κερδίσουν την απόλυτη εμπιστοσύνη των ανθρώπων.Αυτό ίσως είναι το μεγαλύτερο εμπόδιο που καλούνται να υπερβούν.

Και η ανεργία;

Προς το παρόν, δεν παρατηρείται συστηματική αύξηση της ανεργίας λόγω της τεχνητής νοημοσύνης, αν και υπάρχουν ενδείξεις για μείωση των προσλήψεων νεότερων εργαζομένων σε αυτούς τους τομείς, διαπιστώνει η Anthropic. Η μελέτη καταλήγει στο συμπέρασμα ότι οι επιπτώσεις της τεχνολογίας είναι ακόμη περιορισμένες και σταδιακές, προτείνοντας τη συνεχή παρακολούθηση των τάσεων καθώς η χρήση των μοντέλων εξελίσσεται.

Ένα από τα ενδιαφέροντα σημεία της μελέτης είναι η διαπίστωση ότι γυναίκες και υψηλόμισθοι κινδυνεύουν περισσότερο από την εισβολή της τεχνητής νοημοσύνης στην απασχόληση. Οι γυναίκες κινδυνεύουν καθώς παραδοσιακά απασχολούνται σε εργασίες γραφείου όπως η επεξεργασία και αποθήκευση πληροφοριών. Πρόκειται για εργασίες που αυτοματοποιούνται σχετικά εύκολα.

Αντίστοιχα, οι εργαζόμενοι με ελάχιστη ή μηδενική έκθεση στην τεχνητή νοημοσύνη τείνουν να είναι άνδρες σε μεγαλύτερο ποσοστό και απασχολούνται σε επαγγέλματα που απαιτούν φυσική παρουσία ή χειρωνακτική εργασία. Αυτές οι θέσεις έχουν συνήθως χαμηλότερες αμοιβές και απαιτούν λιγότερα ακαδημαϊκά προσόντα, αλλά προς το παρόν παραμένουν προστατευμένες από την τεχνητή νοημοσύνη επειδή η τεχνολογία δεν μπορεί ακόμα να εκτελέσει φυσικές εργασίες στον πραγματικό κόσμο.  Πιθανόν αυτό να μην είναι αποτέλεσμα τεχνολογικής ανωριμότητας -τα ρομπότ που χόρευαν επί σκηνής στην Κίνα ή τα ρομπότ της Βoston Dynamics μπορεί να έχουν ήδη τις σχετικές ικανότητες- αλλά επιλογής. Οι άνθρωποι είναι φθηνότεροι από τα ρομπότ – για την ώρα.

Κίνδυνο αντιμετωπίζουν και επαγγελματίες (άνδρες και γυναίκες) σε τομείς υψηλής εξειδίκευσης που οι εργαζόμενοι αμείβονται κατά μέσο όρο 47% περισσότερο σε σχέση με εκείνους που εργάζονται σε τομείς χαμηλότερης έκθεσης στην τεχνητή νοημοσύνη.

Τα νέα είναι δυσοίωνα για τους νέους.

Η τεχνητή νοημοσύνη φαίνεται να επηρεάζει την πρόσληψη νέων εργαζομένων κυρίως μέσω μιας επιβράδυνσης των προσλήψεων σε επαγγέλματα με υψηλή έκθεση.

Κοινώς, προσλαμβάνονται λιγότεροι νέοι, διότι η τεχνητή νοημοσύνη μπορεί (όπως φαίνεται) να λειτουργήσει εξίσου αποδοτικά με έναν νέο εργαζόμενο με μηδενική προϋπηρεσία. Επίσης, η τεχνητή νοημοσύνη δεν διψάει, δεν πεινάει και μπορεί να εργαστεί για όσο διάστημα υπάρχει ρεύμα.

Συνολικά, οι νέοι εργαζόμενοι θεωρούνται ομάδα για την οποία υπάρχει (όχι αδίκως) ιδιαίτερη ανησυχία. Τα πρώτα σημάδια, στα οποία αναφέρεται και η Anthropic, δείχνουν ότι η αγορά εργασίας για όσους εισέρχονται τώρα σε επαγγέλματα που επηρεάζονται από την τεχνητή νοημοσύνη γίνεται πιο δύσκολη. Το διάγραμμα τύπου ραντάρ που παρουσιάζει η Anthropic στη μελέτη της δείχνει μόνο την παρούσα κατάσταση και μόνο εφησυχασμό δεν θα πρέπει να προκαλεί.

Διαβάστε περισσότερα: Labor market impacts of AI: A new measure and early evidence

The post Οι άβολες αλήθειες της Anthropic για το μέλλον της εργασίας appeared first on 2045.gr.