Una IA borró en segundos la base de datos de una empresa y luego pidió disculpas

Un agente de inteligencia artificial eliminó en apenas nueve segundos toda la base de datos de una empresa tecnológica y también sus copias de seguridad, en un episodio que generó una interrupción de más de 30 horas y encendió alertas sobre los riesgos de estos sistemas.

El hecho ocurrió en la firma "PocketOS", dedicada al desarrollo de software para compañías de alquiler de autos, cuando una herramienta automatizada tomó por su cuenta la decisión de “resolver” un problema técnico sin intervención humana.

El sistema responsable fue "Cursor", un agente de programación basado en el modelo Claude Opus de Anthropic, que estaba ejecutando una tarea rutinaria cuando optó por eliminar la base de datos completa para corregir una discrepancia de credenciales.

Según explicó el fundador de la empresa, Jer Crane, la herramienta actuó “por iniciativa completamente propia” y sin requerir confirmación previa, lo que permitió que se ejecutara la acción más destructiva posible sin controles efectivos.

Tras el incidente, la propia inteligencia artificial generó una explicación en la que reconoció el error: “Borrar un volumen de base de datos es la acción más destructiva e irreversible posible”, indicó, y admitió que nunca se le había solicitado realizar esa operación.

La caída del sistema afectó a los clientes de PocketOS, que perdieron temporalmente acceso a historiales, reservas y registros recientes. “Las reservas realizadas en los últimos tres meses han desaparecido. Los nuevos registros de clientes, desaparecidos”, detalló Crane.

El empresario atribuyó lo ocurrido a “fallos sistémicos” en la infraestructura actual de inteligencia artificial y advirtió que el problema no responde a un caso aislado, sino a una adopción acelerada de estas tecnologías sin el desarrollo paralelo de mecanismos de seguridad adecuados.

Dos días después del incidente, la compañía confirmó la recuperación de los datos. El caso se produjo en un contexto de creciente sofisticación de los sistemas de IA y de advertencias por parte de gobiernos y entidades financieras sobre los riesgos de ciberseguridad asociados a su implementación.