Science & Technology

Tragic mistake... Anthropic leaks Claude’s source code

by Fireship

Share:

📚 Temas principales

  • La filtración del códigoUna versión de Claude Code se publicó con un archivo de mapas de código fuente de 57 MB, que exponía más de 500.000 líneas de TypeScript y se difundió rápidamente por internet. 0:30
  • Cómo pudo ocurrirEl código se incluyó accidentalmente en un paquete npm. El video apunta a un posible problema relacionado con Bun, aunque no queda claro si esa fue la causa o si alguien lo publicó por error o intencionadamente. 2:02
  • Qué revela el códigoClaude Code combina instrucciones y salvaguardas codificadas con herramientas y lógica de ejecución; el presentador lo describe como una aplicación construida alrededor de prompts y código convencional, no como una tecnología misteriosa. 3:35
  • Funciones y nombres ocultosEl código menciona características potenciales como Buddy, modos de coordinación y ejecución en segundo plano, además de referencias a modelos futuros. 6:10

✨ Conclusiones clave

  • Instrucciones contra la destilaciónClaude Code incluiría herramientas ficticias en algunas instrucciones para confundir a quienes intenten entrenar modelos con sus respuestas. La filtración podría facilitar que otros identifiquen las herramientas reales. 4:06
  • Modo encubiertoUn conjunto de instrucciones pide a Claude que no se atribuya ciertos mensajes o resultados, con el objetivo declarado de evitar filtraciones de nombres internos; el video también plantea dudas sobre su posible uso para ocultar asistencia de IA. 4:37
  • Detector de frustraciónEl código aparentemente usa expresiones regulares para detectar ciertas palabras en los mensajes y registrar un evento cuando el usuario expresa frustración. 5:07
  • Una hoja de ruta expuestaEntre los hallazgos se describen Buddy, un compañero digital personalizable, y Kairos, que parece ser un agente en segundo plano capaz de mantener un diario y trabajar según un horario. 6:10

🧠 Lecciones aprendidas

  • El código empaquetado puede revelar muchoUn archivo de mapas de código fuente incluido por error en una publicación puede exponer no solo la implementación, sino también instrucciones internas, funciones y planes futuros. 2:02
  • Los sistemas de IA también son software convencionalEl video subraya que una herramienta de programación con IA depende de código, instrucciones explícitas y manejo de herramientas, y puede verse afectada por errores de seguridad o publicación. 3:35
  • Los agentes necesitan tolerancia a fallosEn el segmento patrocinado, Temporal se presenta como una plataforma para gestionar el estado, los errores y los reintentos en flujos de trabajo prolongados de agentes. 7:12

🏁 Conclusión y próximos pasos

  • Una filtración difícil de revertirAunque Anthropic solicitó retirar copias, el código ya había sido replicado y utilizado para crear proyectos derivados. 1:01
  • Revisar los procesos de publicaciónEl caso sirve como advertencia de que un solo paquete publicado puede sacar a la luz software que se pretendía mantener privado. 7:12

Transcript excerpt

0:00 Yesterday, the most ironic thing ever happened. Anthropic, a $380 billion startup built on the idea of safety first that advocates for closed source software for the supposed benefit of humanity, a company Elon calls Missanthropic, whose logo is definitely not a sphincter, whose CEO has been warning us for years that human programmers will be replaced by AI in 6 months. It just accidentally leaked Claude Code's entire source code to the internet at 4:00 a.m. officially making Anthropic more open than Open AI. Within

0:30 minutes of the leak, Chaofan Shou, a security researcher, discovered that version 2.1.88 of the Claude Code npm package was shipped with a 57 megabyte source map file. You know, that file that's only used in development with the full readable source code of your project. This holy grail of leaks containing over 500,000 lines of Typescript code, it quickly spread across the internet like wildfire. Anthropic's legal team courageously issued DMCA takedowns. But by the time they woke up in San Francisco, it was already too late. The code was mirrored

🔒 The full, searchable transcript is available with Pro.

🔒 Unlock Premium Features

This is a premium feature. Upgrade to unlock unlimited Q&A, transcripts, mindmaps, and translations.

Questions & Answers

Common questions about this video

How did Claude Code’s source code get leaked?

Version 2.1.88 of the Claude Code npm package was shipped with a 57-megabyte source map containing readable TypeScript source code. 0:30

What possible role did Bun.js play in the leak?

Claude Code is built on Bun.js, and a GitHub issue had recently reported Bun serving source maps in production. The video says it is unclear whether this caused the leak or whether someone packaged the source map by accident or on purpose. 2:33

What are anti-distillation poison pills in Claude Code?

They are instructions that make Claude act as though certain tools exist when they do not, potentially misleading attempts to train another model on Claude’s outputs. 4:06

What is Claude Code’s undercover mode intended to do?

It tells Claude not to mention itself in commit messages or outputs, making its work look more human. The stated reason is to prevent model codename leaks, though the video notes speculation that it could also conceal AI use in open-source projects. 4:37

What does Claude Code’s regex frustration detector do?

It uses regular-expression matching to look for certain keywords in a prompt that may indicate a poor coding experience, then logs an event if it finds a match. 5:07

What is the leaked Buddy feature?

Buddy appears to be a feature-flagged, Tamagotchi-style digital companion that developers could customize and raise. The video notes it could be an April Fool’s joke. 6:10

What does the Kairos feature appear to do?

Kairos appears to be a background agent that keeps a daily journal, consolidates memories in “dream mode,” and performs work on a schedule. 6:41

🔒 Unlock Premium Features

Access to Chat is a premium feature. Upgrade now to unlock unlimited studying tools.

🔒 Unlock Premium Features

Access to Mindmap is a premium feature. Upgrade now to unlock unlimited studying tools.

🔒 Unlock Premium Features

Access to Translation is a premium feature. Upgrade now to unlock unlimited studying tools.

Get unlimited summaries, Q&A, transcripts and more with Pro

Upgrade to Pro

Suggestions

🔒 Unlock Premium Features

Access to AI Suggestions is a premium feature. Upgrade now to unlock unlimited studying tools.