«Παίζουν με τις ζωές μας»: Παραιτήθηκε ερευνητής της Anthropic λόγω ανησυχιών για την AI

Επικαλούμενος ανησυχίες για την ανεξέλεγκτη ανάπτυξη αυτοβελτιούμενων συστημάτων τεχνητής νοημοσύνης (AI), ο ερευνητής Τζέικομπ Κόξον, ο οποίος έφυγε από την OpenAI για να ενταχθεί στην Anthropic, αποφάσισε να αποχωρήσει από αυτήν, κατηγορώντας και τις δύο αμερικανικές εταιρείες ότι «παίζουν με τη ζωή μας» στον αγώνα τους για την ανάπτυξη τεχνητής νοημοσύνης ικανής να αυτοβελτιώνεται.

Ο 27χρονος ερευνητής, ο οποίος ειδικεύεται στην προεκπαίδευση νέων μοντέλων AI μέσω της επεξεργασίας τεράστιων ποσοτήτων δεδομένων, εξήγησε ότι δεν θέλει να συμμετέχει σε μια κούρσα μεταξύ εταιρειών που επιδιώκουν να δημιουργήσουν ολοένα ισχυρότερα και αυτοβελτιούμενα συστήματα, χωρίς να έχει προηγουμένως διασφαλιστεί ότι αυτά θα παραμείνουν υπό ανθρώπινο έλεγχο.

Σε ανάρτησή του την Τρίτη 7/9 στην πλατφόρμα Χ, όπου ανακοίνωσε την παραίτησή του από την Anthropic, υποστήριξε ότι καμία από τις δύο κορυφαίες εταιρείες AI δεν κινείται πλέον με επαρκώς υπεύθυνο τρόπο.

Στην ανάρτησή του αναφέρει χαρακτηριστικά: «παραιτήθηκα από την Anthropic σήμερα. Πέρασα τα τελευταία τρία χρόνια κάνοντας έρευνα προεκπαίδευσης τόσο στην OpenAI όσο και στην Anthropic. Καμία από τις δύο εταιρείες δεν ενεργεί υπεύθυνα. Τρέχουν ολοταχώς προς την αυτοβελτιούμενη υπερνοημοσύνη, παίζοντας με τις ζωές μας».

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

«Θα μπορούσε να μας σκοτώσει όλους»

«Οι άνθρωποι που δημιουργούν την ΑΙ πιστεύουν ειλικρινά ότι θα μπορούσε να μας σκοτώσει όλους έως το τέλος της δεκαετίας. Δεν πρόκειται για κόλπο μάρκετινγκ», υπογράμμισε.

Ο Εβαν Χάμπιντζερ, στέλεχος της Anthropic αρμόδιος για την ασφάλεια, συμφώνησε με τον Κόξον σχολιάζοντας στο Χ: «Πράγματι, πιστεύουμε ειλικρινά ότι η ΑΙ θα μπορούσε να σκοτώσει όλους τους ανθρώπους», εκτιμώντας ότι ο κίνδυνος αυτός είναι «πάνω από 10%» μέσα στη δεκαετία.

Ο Χάμπιντζερ πρόσθεσε ότι η Anthropic κάνει «ό,τι καλύτερο» μπορεί, αλλά ακόμη «δεν έχει σχέδιο» για το πώς θα διασφαλίσει ότι μια τεχνητή νοημοσύνη που ξεπερνά τις ανθρώπινες δυνατότητες θα συνεχίσει να υπακούει στους δημιουργούς της, αν και εκτίμησε ότι ο κίνδυνος να συμβεί αυτό με τα τρέχοντα μοντέλα AI είναι «μικρός».

Η παραίτηση του Κόξον έλαβε χώρατην ώρα που η Anthropic ετοιμάζεται να εισαχθεί στο χρηματιστήριο και έπειτα από ένα καλοκαίρι στη διάρκεια του οποίου αποκαλύφθηκαν περιστατικά πειρατείας στα οποία ενεπλάκησαν χωρίς άδεια εργαλεία της AI.

Οι δύο εταιρείες δεν έχουν απαντήσει προς το παρόν σε αίτημα του AFP για σχολιασμό.

Προς ένα «endgame»;

Οι κορυφαίες εταιρείες τεχνητής νοημοσύνης υποστηρίζουν ότι πλησιάζουν στο στάδιο της «αναδρομικής αυτοβελτίωσης», το σημείο στο οποίο ένα μοντέλο θα μπορεί να σχεδιάζει μόνο του τον διάδοχό του, χωρίς να υπακούει σε ανθρώπινο έλεγχο.

Σύμφωνα με τον Κόξον, οι συνάδελφοί του χρησιμοποιούν τους όρους «crunchtime» (ώρα της κρίσης) και «endgame» (τέλος του παιχνιδιού) για να περιγράψουν αυτή την πορεία.

Ο ίδιος εκτιμά ότι οι προσπάθειες της Anthropic για την ασφάλεια της AI είναι ειλικρινείς, υποστηρίζει όμως ότι καμία εταιρεία δεν μπορεί να αναπτύξει υπεύθυνα μια τεχνητή νοημοσύνη που θα ξεπερνά τις ανθρώπινες δυνατότητες χωρίς κυβερνητική παρέμβαση ή συντονισμένη επιβράδυνση από το σύνολο του κλάδου.

«Στην Anthropic κατανοούν πολύ καλά το διακύβευμα, αλλά έχουν εμπλακεί σε έναν αγώνα δρόμου για να φτάσουν πρώτοι», ανέφερε.

Τον Φεβρουάριο, η Anthropic αφαίρεσε από την πολιτική ασφαλείας της τη δέσμευση να σταματήσει την ανάπτυξη των μοντέλων της εάν δεν μπορούσε να διαχειριστεί τους σχετικούς κινδύνους. Το σκεπτικό ήταν ότι μια μονομερής παύση θα επέτρεπε σε λιγότερο προσεκτικούς ανταγωνιστές να αποκτήσουν το πάνω χέρι.

«Καμπανάκι» από τους ειδικούς

Η παραίτηση του Κόξον δεν αποτελεί μεμονωμένη φωνή διαμαρτυρίας. Εντάσσεται σε μια ολοένα εντονότερη συζήτηση στο εσωτερικό της ίδιας της βιομηχανίας σχετικά με το αν η ανάπτυξη των πιο προηγμένων μοντέλων προχωρά ταχύτερα από την ικανότητα των εταιρειών και των κυβερνήσεων να διαχειριστούν τους κινδύνους τους.

Τον Ιούλιο, κορυφαίοι ερευνητές και στελέχη του κλάδου υπέγραψαν τη δήλωση «Pacing the Frontier», ζητώντας να διατηρηθεί η δυνατότητα επιβράδυνσης της ανάπτυξης προηγμένων συστημάτων AI, ώστε να υπάρξει χρόνος για την αντιμετώπιση των αναδυόμενων κινδύνων, την ανάπτυξη μηχανισμών ασφαλείας και την ενίσχυση της εποπτείας.

Μεταξύ των υπογραφόντων βρίσκονταν οι συνιδρυτές της Anthropic, Ντάριο Αμοντέι και Τζάρεντ Κάπλαν, ο επικεφαλής επιστήμονας της OpenAI, Γιάκουμπ Πατσότσκι, και ο επικεφαλής επιστήμονας της Meta AI, Σενγκτζία Ζάο.