Cursor debacle
¿Qué pasa cuando una IA con alucinaciones se convierte en el único interlocutor entre una empresa y sus usuarios? ¿Y si la empresa no se entera del percal hasta que ya es tarde?
Esto ha pasado con Cursor, la herramienta preferida de muchos escritores de código IA. Desde Hacker News lo han calificado como “uno de los errores de producto más surrealistas” que se ha visto en mucho tiempo.
¿Qué pasó? Pues que Cursor empezó a echar a los usuarios cuando se conectaban desde múltiples máquinas, sin enviar ningún mensaje de error.
La gente pensó que era una nueva política de la empresa y escribió al sistema de soporte pidiendo explicaciones. Pero en soporte no había una persona sino una IA.
Resultado, el bot se inventó que el incidente se debía efectivamente a una nueva política de la empresa. Y los usuarios, indignados porque les dificulta mucho el trabajo no poder conectarse desde distintos dispositivos, empezaron a cancelar sus suscripciones en masa.
Pero hasta que no llegó a mayores, a Reddit, la gente de Cursor no se enteró de nada, porque nadie humano supervisaba nada.
Lo he leído en The Neuron, donde avisan del peligro de que esto pase a escala no de una startup sino de “grandes corporaciones, que están reemplazando departamentos enteros por IA, donde nadie, ni humano ni IA, comprende del todo qué está sucediendo ni quién es el responsable”.
“Vibe-companying” es el nombre que han dado al fenómeno: confiar ciegamente en la IA en funciones críticas, no prestar atención ni entender qué se automatiza.
Curiosamente, la noticia llega cuando OpenAI anuncia su intención de comprar Windsurf, uno de los principales competidores de Cursor.
¿Casualidad o estrategia para ganar cuota en un mercado donde los errores todavía no han tocado fondo?