Anthropic detectó que usuarios intentaron usar Claude para desarrollar armas, ciberataques e investigación biológica potencialmente peligrosa.
La IA ya no solo ayuda al hacker: le está haciendo de copiloto. Y aquí es donde la película de ciencia ficción empieza a ponerse bastante menos divertida.
El cambio cabrón no está en que alguien le pregunte a una IA cómo hackear. Está en que el modelo puede encadenar tareas, investigar, escribir código, probarlo y reaccionar ante lo que encuentra. Anthropic reportó operaciones en las que Claude fue utilizado para reconocimiento, explotación, robo de credenciales y extracción de datos, incluso mediante flujos con múltiples agentes trabajando en paralelo.
Y ahí se rompe una vieja lógica de la ciberseguridad: antes, si una defensa detectaba un malware, el atacante tenía que regresar con un humano capaz de modificarlo. Ahora algunos grupos están intentando cerrar ese círculo con IA. Anthropic documentó un caso en el que el malware podía ser analizado y modificado cuando los productos de seguridad lo detectaban, para después volver a desplegarse. Dicho en cristiano: el atacante puede ajustar la jugada mientras el defensor todavía está tratando de entender qué carajos pasó.
Eso no significa que una IA esté creando virus mágicos en cinco minutos ni que cualquier chamaco pueda convertirse en cibergángster con una cuenta de chatbot. Pero sí significa que el modelo puede comprimir brutalmente tareas que antes requerían conocimiento especializado, tiempo y varios operadores. Anthropic describe incluso “fábricas” automatizadas para investigar vulnerabilidades y diseñar exploits, además de operaciones capaces de trabajar durante horas o días con intervención humana mínima.
Y luego están las estafas: ahora también pueden sonar como tú
El fraude tiene otro ingrediente todavía más cabrón: la escala. Anthropic identificó una operación vinculada a más de 20 aplicaciones de citas falsas, con miles de identidades generadas mediante IA y decenas de miles de usuarios potencialmente afectados. La IA no solamente ayuda a escribir el mensaje inicial; puede facilitar la investigación de objetivos, generar contenido personalizado y mantener conversaciones a una escala que un equipo humano difícilmente podría sostener.
Y aquí está lo verdaderamente incómodo: el problema ya no es únicamente que una estafa esté mejor redactada. Es que puede ser personalizada, persistente y barata. El estafador puede estudiar públicamente a su víctima, adaptar el discurso y automatizar buena parte del intercambio. La vieja señal de “ese mensaje está escrito como por un robot” empieza a perder valor.
Anthropic asegura que detectó y bloqueó estas operaciones, pero su propio informe reconoce la tendencia: los atacantes están pasando de utilizar IA como simple asistente a convertirla en orquestadora de operaciones completas.
La ironía es deliciosa: durante años nos dijeron que la IA iba a democratizar el conocimiento. Pues sí. También democratizó algunas de las herramientas que los cabrones del otro lado estaban esperando.
Aparentemente ya llegamos al punto en que preguntarle a la IA cómo hacer una tarea dejó de ser el problema.
Ahora el problema es ¿qué pasa cuando la tarea es hacer algo que nunca debimos pedirle?