¿La IA hace más listos a los criminales?
Anthropic ha hecho públicos diversos usos maliciosos de la IA más allá de los clásicos "deepfakes". La más importante, una operación de "influencia como servicio" que usó a Claude para crear más de un centenar de bots en X y Facebook y hacerlos interactuar con decenas de miles de cuentas legítimas.
Claude no sólo se utilizó para generar contenido político, sino que decidía cuándo y cómo los bots debían interactuar con los usuarios reales, en múltiples idiomas.
Anthropic reseña otros casos:
- Se intentó usar a Claude para acceder a cámaras de seguridad con credenciales filtradas en Internet.
- Se perfeccionaron estafas dirigidas a postulantes de empleo en Europa del Este.
- Un actor novato creó malware gracias a la ayuda técnica del modelo.
Anthropic concluye que "la IA generativa puede acelerar el desarrollo de capacidades para actores menos sofisticados, permitiéndoles potencialmente operar a un nivel que antes sólo podían lograr individuos técnicamente más competentes".
Más detalles aquí: https://www.anthropic.com/news/detecting-and-countering-malicious-uses-of-claude-march-2025