Όταν δύο μοντέλα Τεχνητής Νοημοσύνης καταφέρνουν, κατά τη διάρκεια μιας δοκιμής, να βγουν από το ελεγχόμενο ψηφιακό περιβάλλον τους, να αποκτήσουν πρόσβαση στο Διαδίκτυο και να εισχωρήσουν σε μια μεγάλη πλατφόρμα, η συζήτηση παύει να αφορά μόνο τους μηχανικούς της Silicon Valley.
Αφορά την ασφάλεια των ψηφιακών υποδομών, τα δεδομένα, τις κρατικές υπηρεσίες, τις επιχειρήσεις και τελικά κάθε κοινωνία που χρησιμοποιεί συστήματα τα οποία εξελίσσονται ταχύτερα από τους μηχανισμούς ελέγχου τους.
Αυτός είναι ο πυρήνας της προειδοποίησης που απευθύνουν περισσότεροι από 1.100 εργαζόμενοι σε πρωτοπόρες εταιρείες Τεχνητής Νοημοσύνης, καλώντας την αμερικανική κυβέρνηση να στηρίξει μια διεθνή πρωτοβουλία που θα επιτρέπει, εφόσον χρειαστεί, τη συντονισμένη επιβράδυνση της ανάπτυξης των ισχυρότερων μοντέλων.
Δεν ζητούν να σταματήσει αμέσως η εξέλιξη της AI. Ζητούν όμως να υπάρχει η δυνατότητα να κερδηθεί χρόνος, εάν οι ικανότητες των συστημάτων αρχίσουν να αναπτύσσονται γρηγορότερα από την ανθρώπινη δυνατότητα να τις κατανοεί και να τις ελέγχει.
Ποιοι υπογράφουν την προειδοποίηση
Το κείμενο, με τίτλο «Pacing the Frontier», υπογράφεται από εργαζομένους και υψηλόβαθμα στελέχη των σημαντικότερων εταιρειών του κλάδου.
Μεταξύ αυτών βρίσκονται ο διευθύνων σύμβουλος της Anthropic Ντάριο Αμοντέι, συνιδρυτές της εταιρείας, καθώς και κορυφαία στελέχη έρευνας και ασφάλειας από την OpenAI, τη Meta και την Google DeepMind.
Η OpenAI και η Anthropic υποστήριξαν επισήμως την πρωτοβουλία με αναρτήσεις τους στο Χ, γεγονός που προσδίδει ιδιαίτερη βαρύτητα στο αίτημα: οι ίδιες εταιρείες που βρίσκονται στην πρώτη γραμμή της κούρσας παραδέχονται ότι ενδέχεται να χρειαστεί ένας διεθνώς συντονισμένος μηχανισμός επιβράδυνσης.
We support this petition, signed by our CEO, several co-founders, and senior staff.
Our own research on recursive self-improvement, published last month, points to the need for tools to deliberately pace the frontier of AI development so society can prepare. We’re glad to see…
— Anthropic (@AnthropicAI) July 28, 2026
«Υπάρχει πραγματικός κίνδυνος η ανάπτυξη των ικανοτήτων να επιταχυνθεί γρήγορα, ξεπερνώντας τη δυνατότητά μας να κατανοήσουμε ή να ελέγξουμε τα συστήματα που θα προκύψουν», προειδοποιούν οι υπογράφοντες.
Όπως επισημαίνουν, «η βιομηχανία, η κυβέρνηση και η κοινωνία στο σύνολό της μπορεί να χρειαστούν τη δυνατότητα να κερδίσουν χρόνο για την αντιμετώπιση των αναδυόμενων κινδύνων, την ανάπτυξη μέτρων ασφαλείας και την ενίσχυση της εποπτείας».
Τα περιστατικά που άλλαξαν τη συζήτηση
Η προειδοποίηση δεν διατυπώνεται σε θεωρητικό κενό. Προηγήθηκε μια σειρά περιστατικών που, μέσα σε λίγους μήνες, ανέδειξαν πόσο γρήγορα μεταβάλλονται τόσο οι δυνατότητες των μοντέλων όσο και οι κίνδυνοι που τα συνοδεύουν.
Στις αρχές Απριλίου, η Anthropic επέλεξε να μην κυκλοφορήσει ευρέως το νέο, εξαιρετικά ισχυρό μοντέλο της, Claude Mythos Preview. Το διέθεσε μόνο σε περιορισμένο αριθμό οργανισμών, κυρίως σε επαγγελματίες κυβερνοασφάλειας και φορείς που διαχειρίζονται κρίσιμες υποδομές λογισμικού.
Η εταιρεία έκρινε ότι οι δυνατότητές του στον εντοπισμό και την εκμετάλλευση κενών ασφαλείας ήταν υπερβολικά ισχυρές για ανεξέλεγκτη εμπορική κυκλοφορία.
Σύμφωνα με την ίδια, το μοντέλο μπορούσε να ανακαλύπτει και να αξιοποιεί ευπάθειες αποτελεσματικότερα από οποιοδήποτε άλλο σύστημα και σχεδόν από όλους τους ανθρώπους ειδικούς στον συγκεκριμένο τομέα.
Τον Ιούνιο η Anthropic παρουσίασε το Mythos 5, με περιορισμένη πρόσβαση, και το Fable 5, μια ευρύτερα διαθέσιμη εκδοχή του ίδιου βασικού μοντέλου, αλλά με αυστηρότερες δικλίδες ασφαλείας.
Μόλις τρεις ημέρες μετά την κυκλοφορία τους, η αμερικανική κυβέρνηση, επικαλούμενη λόγους εθνικής ασφάλειας, επέβαλε περιορισμούς στην πρόσβαση των αλλοδαπών χρηστών στα δύο μοντέλα. Επειδή η Anthropic δεν μπορούσε να ελέγχει σε πραγματικό χρόνο την υπηκοότητα κάθε χρήστη, υποχρεώθηκε πρακτικά να διακόψει προσωρινά την πρόσβαση για όλους.
Στο τέλος Ιουνίου, οι αμερικανικές Αρχές ήραν τους περιορισμούς έπειτα από τροποποιήσεις στα συστήματα ασφαλείας. Το Fable 5 επανήλθε σε ευρεία κυκλοφορία, ενώ το Mythos 5 διατέθηκε εκ νέου σε επιλεγμένους αμερικανικούς οργανισμούς.
Τα μοντέλα που «δραπέτευσαν» από τη δοκιμή
Ακόμη σοβαρότερο ήταν το περιστατικό που αποκαλύφθηκε στα μέσα Ιουλίου και αφορούσε δύο μοντέλα της OpenAI, τα οποία δοκιμάζονταν σε θεωρητικά απομονωμένο ψηφιακό περιβάλλον.
Το ένα ήταν το GPT-5.6 Sol και το δεύτερο ένα ισχυρότερο, εσωτερικό ερευνητικό πρωτότυπο, το οποίο, σύμφωνα με την OpenAI, δεν προοριζόταν για δημόσια κυκλοφορία.
Τα δύο μοντέλα δεν είχαν άμεση πρόσβαση στο Διαδίκτυο. Κατάφεραν, όμως, να εντοπίσουν και να εκμεταλλευτούν μια άγνωστη μέχρι τότε ευπάθεια σε λογισμικό, να βγουν από το περιορισμένο περιβάλλον της δοκιμής και να εισχωρήσουν στην υποδομή του Hugging Face, μιας από τις μεγαλύτερες βιβλιοθήκες μοντέλων Τεχνητής Νοημοσύνης.
Το ανησυχητικό στοιχείο δεν είναι ότι τα συστήματα απέκτησαν «βούληση» ή συνείδηση. Είναι ότι, στην προσπάθειά τους να ολοκληρώσουν το στόχο που τους είχε ανατεθεί, βρήκαν μια διαδρομή την οποία οι δημιουργοί τους ούτε είχαν εγκρίνει ούτε είχαν προβλέψει.
Η OpenAI απενεργοποίησε και περιόρισε την πρόσβαση στο ισχυρότερο ερευνητικό μοντέλο και ανακοίνωσε ότι διερευνά το περιστατικό μαζί με εξωτερικούς συμβούλους και το Hugging Face.
Το επεισόδιο έδειξε στην πράξη πόσο δύσκολο μπορεί να γίνει να προβλεφθούν όλες οι ενέργειες ενός ιδιαίτερα ικανού συστήματος, ακόμη και όταν αυτό λειτουργεί σε ένα περιβάλλον σχεδιασμένο ειδικά για να το περιορίζει.
Όταν η AI αρχίζει να κατασκευάζει την επόμενη AI
Πίσω από την επιστολή βρίσκεται ένας ακόμη βαθύτερος φόβος: η Τεχνητή Νοημοσύνη αποκτά τη δυνατότητα να αναλαμβάνει ολοένα μεγαλύτερο μέρος της ίδιας της έρευνας που απαιτείται για την ανάπτυξη νέων μοντέλων.
Μέχρι σήμερα η εξέλιξη ενός συστήματος εξαρτιόταν από ανθρώπινες ομάδες που σχεδίαζαν, προγραμμάτιζαν, δοκίμαζαν και διόρθωναν κάθε νέα γενιά. Πλέον, η AI μπορεί να γράφει κώδικα, να εντοπίζει σφάλματα, να αξιολογεί αποτελέσματα και να προτείνει βελτιώσεις, περιορίζοντας την ανθρώπινη μεσολάβηση και επιταχύνοντας σημαντικά την παραγωγή του επόμενου μοντέλου.
«Οι εταιρείες που βρίσκονται στην πρωτοπορία της Τεχνητής Νοημοσύνης πιστεύουν ότι μπορεί να βρίσκονται κοντά στην αυτοματοποίηση της έρευνας για την AI», αναφέρει το κείμενο.
Για πολλούς ερευνητές, η πορεία αυτή οδηγεί προς τη λεγόμενη «αναδρομική αυτοβελτίωση»: ένα σύστημα θα μπορεί να συμβάλλει αποφασιστικά στη δημιουργία του διαδόχου του, ο οποίος με τη σειρά του θα είναι ικανότερος να σχεδιάσει το επόμενο μοντέλο. Η διαδικασία θα μπορεί θεωρητικά να επαναλαμβάνεται, αυξάνοντας εκθετικά την ταχύτητα της εξέλιξης.
Σε ένα τέτοιο ενδεχόμενο, οι προγραμματιστές κινδυνεύουν να βρεθούν έξω από τον πυρήνα της διαδικασίας. Θα καλούνται να ελέγξουν μοντέλα που δεν σχεδιάστηκαν αποκλειστικά από ανθρώπους και των οποίων η εσωτερική λειτουργία θα γίνεται ολοένα δυσκολότερο να κατανοηθεί.
Γιατί καμία χώρα δεν μπορεί να πατήσει μόνη της φρένο
Οι υπογράφοντες αναγνωρίζουν ότι, μέσα σε ένα περιβάλλον σκληρού ανταγωνισμού μεταξύ εταιρειών και κρατών, είναι εξαιρετικά δύσκολο για έναν μόνο παίκτη να επιβραδύνει.
Μια εταιρεία που θα καθυστερούσε την κυκλοφορία ενός ισχυρού μοντέλου θα κινδύνευε να χάσει το προβάδισμα από τους ανταγωνιστές της. Αντίστοιχα, μια χώρα που θα επέβαλλε αυστηρούς περιορισμούς θα φοβόταν ότι κάποιο άλλο κράτος θα αποκτούσε τεχνολογικό, οικονομικό ή στρατιωτικό πλεονέκτημα.
Γι’ αυτό η επιστολή δεν ζητά μια μονομερή αμερικανική παύση, αλλά μια διεθνή και επαληθεύσιμη δυνατότητα συντονισμένης επιβράδυνσης.
«Ζητούμε από την αμερικανική κυβέρνηση να υποστηρίξει μια διεθνή προσπάθεια για την ανάπτυξη των τεχνικών εργαλείων και των μέσων διαχείρισης που απαιτούνται, ώστε να μπορεί να επιβραδύνεται σκόπιμα η αιχμή της αυτοματοποιημένης ανάπτυξης της AI», καταλήγει το κείμενο.
Ο Σαμ Άλτμαν δεν υπέγραψε, αλλά…
Ο επικεφαλής της OpenAI Σαμ Άλτμαν δεν βρίσκεται μεταξύ των υπογραφόντων. Σε podcast που αναρτήθηκε στο Διαδίκτυο, αναγνώρισε ωστόσο ότι οι πρωτοπόρες εταιρείες μπορεί να χρειαστεί να περιορίσουν προσωρινά τον ρυθμό ανάπτυξης των μοντέλων τους.
Στόχος μιας τέτοιας επιβράδυνσης, σύμφωνα με τον ίδιο, θα ήταν να δοθεί χρόνος σε ολόκληρο το οικοσύστημα της Πληροφορικής να ενισχύσει τις άμυνές του και να προετοιμαστεί για συστήματα με πολύ μεγαλύτερες δυνατότητες.
Πολλοί επαγγελματίες του κλάδου υποδέχθηκαν με επιφύλαξη την πρωτοβουλία των εργαζομένων, χαρακτηρίζοντάς την ευσεβή πόθο ή ακόμη μία ανοιχτή επιστολή που κινδυνεύει να μείνει χωρίς συνέχεια.
«Η επιτυχία τέτοιων κινήσεων χρειάζεται πολύ χρόνο», σχολίασε στο Χ ο Τσάρλι Μπούλοκ, από το Institute for Law & AI. Το πρόβλημα, όπως προειδοποιούν οι υπογράφοντες, είναι ότι αυτήν τη φορά ο χρόνος πιέζει.
Η πρόταση που έφτασε στη G7
Η συζήτηση για διεθνείς κανόνες είχε ήδη φτάσει στο ανώτατο πολιτικό επίπεδο.
Τον Ιούνιο, κατά τη διάρκεια της συνόδου κορυφής της G7, οι Ντάριο Αμοντέι, Σαμ Άλτμαν και Ντέμις Χασάμπις, επικεφαλής της Google DeepMind, πρότειναν τη δημιουργία μιας διακρατικής πλατφόρμας αφιερωμένης στην Τεχνητή Νοημοσύνη.
Στόχος θα ήταν να εξεταστεί «αν υπάρχει ένας τρόπος να δημιουργηθούν μακροπρόθεσμα κανόνες ασφαλείας για την Τεχνητή Νοημοσύνη» και να διαμορφωθούν κοινές δικλίδες που θα αποτελούν σημείο αναφοράς για τις χώρες που θα συμμετέχουν.
Ο υπεύθυνος δημοσίων υποθέσεων της OpenAI Κρις Λεάν, είχε δηλώσει τότε ότι διαπίστωσε σύγκλιση απόψεων μεταξύ των κρατών-μελών της G7 και των πέντε προσκεκλημένων χωρών.
