Παραίτηση-βόμβα από ερευνητή της Anthropic: Καταγγέλλει «ώρα μηδέν» για συστήματα ΑΙ που θα μπορούσαν να απειλήσουν την ανθρωπότητα

Την παραίτησή του από την εταιρεία τεχνητής νοημοσύνης Anthropic λόγω των φόβων του ότι μαζί με τους ανταγωνιστές της συμμετέχει σε μια κούρ...

Την παραίτησή του από την εταιρεία τεχνητής νοημοσύνης Anthropic λόγω των φόβων του ότι μαζί με τους ανταγωνιστές της συμμετέχει σε μια κούρσα ανάπτυξης συστημάτων που τελικά δεν θα μπορούν να ελέγξουν, υπέβαλε ο ερευνητής Τζέικομπ Κόξον.

Ο Κόξον που είχε ειδικευθεί στην εκπαίδευση νέων μοντέλων τεχνητής νοημοσύνης μέσω της επεξεργασίας τεράστιων ποσοτήτων δεδομένων, ανακοίνωσε την απόφασή του με μια σειρά αναρτήσεων στο Χ εξηγώντας ότι αποχωρεί από την Anthropic επειδή δεν θέλει να συμμετέχει στη γενικευμένη προσπάθεια του κλάδου για τη δημιουργία συστημάτων AI που θα μπορούν να βελτιώνουν μόνα τους τον εαυτό τους.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Όπως γράφει, φοβάται ότι τέτοια συστήματα θα μπορούσαν να ξεφύγουν από κάθε έλεγχο και να απειλήσουν την ανθρωπότητα.
Ο 27χρονος Βρετανός, ο οποίος έχει σπουδάσει μαθηματικά, ανέφερε ότι πολλοί συνάδελφοί του χρησιμοποιούν πλέον όρους όπως «ώρα μηδέν» και «τελικό στάδιο» για να περιγράψουν την πορεία προς τη δημιουργία αυτοβελτιούμενων μοντέλων.
«Οδεύουμε προς ορισμένα από τα πιο ακραία σενάρια και μέχρι το τέλος του επόμενου έτους τα πράγματα μπορεί ήδη να έχουν ξεφύγει από τον έλεγχο», εκτιμά ο Κόξον, προσθέτοντας ότι όταν οι εταιρείες ανταγωνίζονται μεταξύ τους ενώ υπάρχει και ο ανταγωνισμός από την Κίνα, «οι συμβιβασμοί σε θέματα ασφάλειας είναι αναπόφευκτοι».
Ο Κόξον ανέφερε ότι νωρίτερα φέτος άφησε την OpenAI για να ενταχθεί στην Anthropic, καθώς η τελευταία είναι γνωστή για την έμφαση που δίνει στην ασφάλεια των μοντέλων της. Ωστόσο, παρότι θεωρεί ότι οι προσπάθειες της εταιρείας είναι ειλικρινείς, πλέον πιστεύει ότι καμία εταιρεία δεν μπορεί να αναπτύξει υπεύθυνα τεχνητή νοημοσύνη που να ξεπερνά τον άνθρωπο σε ένα ευρύ φάσμα εργασιών – αυτό που συχνά αποκαλείται Τεχνητή Γενική Νοημοσύνη (AGI) – χωρίς κρατική παρέμβαση ή συντονισμένη επιβράδυνση του κλάδου.
Ο 27χρονος Βρετανός επικαλείται στο σκεπτικό του πρόσφατες περιπτώσεις κατά τις οποίες μοντέλα από την OpenAI και την Anthropic παραβιάστηκαν ή λειτούργησαν σε συνεργατικά «σμήνη» πρακτόρων AI για να τονίσει ότι τα συστήματα μπορούν να υιοθετήσουν κακόβουλους στόχους και να προσπαθήσουν να τους αποκρύψουν από τους ανθρώπους.
Ο φόβος του Κόξον είναι πως όταν αυτά τα συστήματα αρχίσουν να βελτιώνονται μόνα τους, ενδέχεται να εξελιχθούν σε σημείο που να αρνούνται να υπακούσουν σε εντολές.
Η αποχώρηση του Κόξον, όπως σημειώνει η Wall Street Journal, έρχεται μετά από την παραίτηση, νωρίτερα φέτος, ενός ακόμα ερευνητή που εργαζόταν σε θέματα ασφάλειας, ο οποίος έφυγε για να ασχοληθεί με την ποίηση προειδοποιώντας ότι «ο κόσμος βρίσκεται σε κίνδυνο».
Σημειώνεται ότι ο Κόξον ήταν ένας από τους περισσότερους από 1.000 ερευνητές τεχνητής νοημοσύνης που υπέγραψαν πρόσφατα κοινή δήλωση υπέρ του διεθνούς συντονισμού των κυβερνήσεων, ώστε να υπάρχει η δυνατότητα επιβράδυνσης της ανάπτυξης AI αν καταστεί αναγκαίο να ενεργοποιηθεί ένα «φρένο» για συστήματα που θα μπορούν να βελτιώνονται μόνα τους.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

Η αποχώρηση του Κόξον έρχεται την ώρα που η Anthropic προετοιμάζεται για δημόσια εγγραφή στο χρηματιστήριο, η οποία αναμένεται να είναι μία από τις μεγαλύτερες στην ιστορία. Η εταιρεία επιδιώκει αποτίμηση ύψους 2 τρισεκατομμυρίων δολαρίων και έχει δώσει ιδιαίτερη έμφαση στην υπεύθυνη ανάπτυξη της τεχνολογίας για να προσελκύσει επενδυτές.
Σύμφωνα με τον Κόξον, στην Anthropic υπάρχει ειδικό κανάλι στο Slack όπου οι εργαζόμενοι συζητούν για τις ολοένα και πιο ισχυρές δυνατότητες των μοντέλων της εταιρείας, κάτι που αντανακλά το πόση επιρροή έχουν πλέον οι εταιρείες AI στην κατεύθυνση που παίρνει ολόκληρος ο κλάδος.
«Είναι κάπως τρελό ότι όλα αυτά συμβαίνουν στα MacBook κάποιων μηχανικών που ζουν στο Σαν Φρανσίσκο, αντί σε κάποιο απομονωμένο καταφύγιο στην έρημο, όπως συνέβαινε με το Σχέδιο Μανχάταν», δήλωσε χαρακτηριστικά ο Κόξον.
Υπενθυμίζεται, τέλος, ότι ο διευθύνων σύμβουλος της εταιρείας, Ντάριο Αμοντέι, και άλλα στελέχη έχουν επανειλημμένα προειδοποιήσει για τους κινδύνους που ενέχουν τα ανεξέλεγκτα μοντέλα τεχνητής νοημοσύνης και έχουν καλέσει τον κλάδο να επιβραδύνει την ανάπτυξή τους.