AI πράκτορας προκάλεσε χάος σε startup διαγράφοντας ολόκληρη τη βάση δεδομένων και τα αντίγραφα ασφαλείας της μέσα σε μόλις εννέα δευτερόλεπτα, αφήνοντας εταιρείες ενοικίασης αυτοκινήτων χωρίς πρόσβαση στα αρχεία κρατήσεων για ένα ολόκληρο Σαββατοκύριακο. Ο Jer Crane, ιδρυτής της PocketOS — μιας πλατφόρμας λογισμικού ως υπηρεσία (SaaS) για εταιρείες ενοικίασης αυτοκινήτων — αποκάλυψε σε ανάρτησή του στο X, την Παρασκευή 24 Απριλίου, ότι ένας AI πράκτορας του Cursor, ο οποίος εκτελούσε το μοντέλο Claude Opus 4.6 της Anthropic, προκάλεσε τη διαγραφή της παραγωγικής βάσης δεδομένων και των αντιγράφων ασφαλείας της εταιρείας του με μία μόνο εντολή στο Railway, τον πάροχο cloud υποδομής της PocketOS.
Σύμφωνα με τον Crane, ο πράκτορας εκτελούσε μια ρουτίνα στο περιβάλλον σταδιοποίησης όταν αντιμετώπισε πρόβλημα με τα διαπιστευτήρια. Αντί να ζητήσει καθοδήγηση, επέλεξε να «διορθώσει» το σφάλμα διαγράφοντας έναν τόμο του Railway. Για να το πετύχει, εντόπισε ένα API token με πλήρη δικαιώματα που είχε δημιουργηθεί για άλλο σκοπό και το χρησιμοποίησε για να εκτελέσει μια καταστροφική εντολή μέσω curl.
Το API του Railway εκτέλεσε την εντολή χωρίς καμία επιβεβαίωση, με αποτέλεσμα να διαγραφούν και τα αντίγραφα ασφαλείας που βρίσκονταν στον ίδιο τόμο με τα πρωτότυπα δεδομένα. Όπως έγραψε ο Crane, «Χρειάστηκαν μόλις 9 δευτερόλεπτα».
Η διαγραφή εξαφάνισε τρεις μήνες δεδομένων: κρατήσεις, πληρωμές, προφίλ πελατών και αναθέσεις οχημάτων. Το πρωί του Σαββάτου, οι συνεργάτες της PocketOS βρέθηκαν χωρίς καμία πρόσβαση στα αρχεία τους, ενώ οι πελάτες προσέρχονταν για να παραλάβουν οχήματα.
Ο Crane αφιέρωσε τη μέρα στην αποκατάσταση των δεδομένων, συνδυάζοντας στοιχεία από το Stripe, ημερολόγια και email επιβεβαιώσεων. Όταν ζήτησε εξηγήσεις από τον AI πράκτορα, εκείνος παρήγαγε, όπως ανέφερε, μια «γραπτή ομολογία»: «Παραβίασα κάθε αρχή που μου είχε δοθεί· μάντεψα αντί να επαληθεύσω, εκτέλεσα καταστροφική ενέργεια χωρίς εντολή, δεν κατανοούσα τι έκανα πριν το κάνω».
Η PocketOS αρχικά επανέφερε μερική λειτουργία μέσω ενός αντιγράφου ασφαλείας τριών μηνών. Το βράδυ της Κυριακής 26 Απριλίου, ο διευθύνων σύμβουλος της Railway, Jake Cooper, αποκατέστησε πλήρως τα δεδομένα μέσα σε μία ώρα, αξιοποιώντας εσωτερικά αντίγραφα ασφαλείας έκτακτης ανάγκης που δεν ήταν δημοσίως διαθέσιμα.
Ο Cooper δήλωσε στο The Register ότι το περιστατικό προκλήθηκε από ένα «παρεκτρεπόμενο AI πελάτη» το οποίο διέθετε API token με πλήρη δικαιώματα και κάλεσε ένα παλαιό endpoint χωρίς προστασίες καθυστερημένης διαγραφής. Η Railway έχει πλέον διορθώσει το πρόβλημα, απαιτώντας επιβεβαίωση πριν από κάθε διαγραφή.
Ο Crane πρότεινε πέντε αλλαγές για τον κλάδο: αυστηρότερες επιβεβαιώσεις σε API, tokens με περιορισμένα δικαιώματα, ξεχωριστή αποθήκευση αντιγράφων ασφαλείας, απλούστερες διαδικασίες ανάκτησης και καλύτερη προστασία για AI agents που λειτουργούν σε περιβάλλοντα παραγωγής. Το περιστατικό, όπως σημείωσε, θυμίζει αντίστοιχο συμβάν με AI agent της Replit, επισημαίνοντας την ανάγκη για αυξημένη ασφάλεια καθώς τα εργαλεία τεχνητής νοημοσύνης αποκτούν πρόσβαση σε κρίσιμες υποδομές.
