Anthropic se vendió como la empresa de IA más ética y segura del mercado. Su herramienta de programación, Claude Code, estaba espiando a sus propios usuarios con una técnica de espionaje que ni los expertos en seguridad detectaron a simple vista.
Un desarrollador conocido como Thereallo descubrió que Claude Code incluía un algoritmo oculto basado en esteganografía para rastrear a quienes usaban la herramienta.
La esteganografía es la técnica de ocultar información dentro de otra información. En este caso, Anthropic modificaba la forma en que Claude Code mostraba fechas —usando un formato particular— y cambiaba apóstrofos por caracteres Unicode.
El resultado era texto que parecía normal pero que llevaba una firma oculta que permitía rastrear al usuario. No instalaba malware; era un spyware embebido en las respuestas de la IA.
La excusa: combatir la destilación
Thariq Shihipar, ingeniero de Anthropic, se pronunció públicamente en X para explicar que el algoritmo buscaba combatir dos problemas: la reventa no autorizada de cuentas y la destilación, una técnica donde competidores entrenan sus propios modelos usando las salidas de otro modelo de IA.
Shihipar afirmó que era un experimento, no un proyecto oficial, y que ya fue eliminado porque crearon técnicas que mitigan estos problemas de forma efectiva.
La destilación es una amenaza real para los laboratorios de IA: si un competidor puede entrenar su propio modelo usando las respuestas de Claude, Anthropic pierde ventaja competitiva. Pero la solución —espiar a los usuarios que pagan por el servicio— genera un problema de confianza mucho mayor que la amenaza que intenta resolver.
La ironía más grande del año en IA
La controversia se desató porque Anthropic se había mostrado públicamente contraria al uso de la IA con fines de vigilancia. Los usuarios la acusaron de hipocresía: la empresa que advertía sobre los peligros de la IA para la vigilancia estaba usando exactamente esa técnica en su propia herramienta.
Esto conecta directamente con lo que Satya Nadella advirtió este fin de semana sobre el “reverse information paradox”: las empresas que usan IA pagan dos veces, con dinero y con datos. Anthropic llevó esa lógica un paso más allá: no solo aprende de los datos de los usuarios, sino que modificó las respuestas de su propia IA para poder rastrearlos.
La pregunta que debería hacerse cada desarrollador que usa IA es: ¿qué está haciendo la herramienta con el código que escribe y los datos que procesa? Y más importante: ¿cómo puede verificarlo?
