Cómo piensan los modelos de lenguaje, por dentro. Interpretabilidad mecanicista explicada bien llano, en español: un curso corto, recursos curados, líneas de investigación abiertas y un blog de investigación.https://mpodeley.github.io/interpretabilidad-mecanicista/ Matias Podeleyhttps://github.com/mpodeley/interpretabilidad-mecanicistaes Thu, 30 Jul 2026 16:48:48 -0000 Thu, 30 Jul 2026 16:48:48 -0000 1440 MkDocs RSS plugin - v1.19.0 None https://mpodeley.github.io/interpretabilidad-mecanicista/ Investigación <h1>¿Dónde vive el operando? El cable, no el tejido</h1> <p>El <a href="lesiones.md">post anterior</a> terminó con una pregunta abierta. Lesionando neuronas encontré que la <em>operación</em> ("capital-de") tiene un órgano removible — apagás las neuronas correctas y el modelo pierde la operación — pero la <em>entidad</em> ("Italia") no: no había tejido que sacar, en ninguna posición donde miré. Una factorización simétrica en el álgebra (cosa + operación) resultó asimétrica en el tejido. No sabía por qué. Ahora sí, y la respuesta es linda: <strong>la entidad no es tejido almacenado, es un cable.</strong></p> https://mpodeley.github.io/interpretabilidad-mecanicista/blog/2026/07/22/donde-vive-el-operando/ Thu, 30 Jul 2026 16:48:48 +0000 Interpretabilidad Mecanicistahttps://mpodeley.github.io/interpretabilidad-mecanicista/blog/2026/07/22/donde-vive-el-operando/ Investigación <h1>Lesionar un modelo de lenguaje</h1> <p>Los neuropsicólogos entendieron el cerebro, en buena parte, rompiéndolo: un paciente pierde una región por un ACV y de golpe no puede nombrar objetos aunque habla fluido, o habla en telegrama aunque entiende todo. Cada déficit <em>selectivo</em> es un mapa de qué hace cada pieza. Un modelo de lenguaje se deja lesionar con una precisión que ningún neurocirujano soñó — podés apagar una neurona exacta, en todas las posiciones, y medir qué se rompe. Así que lo hice.</p> https://mpodeley.github.io/interpretabilidad-mecanicista/blog/2026/07/17/lesionar-un-modelo-de-lenguaje/ Thu, 30 Jul 2026 16:48:48 +0000 Interpretabilidad Mecanicistahttps://mpodeley.github.io/interpretabilidad-mecanicista/blog/2026/07/17/lesionar-un-modelo-de-lenguaje/ Investigación <h1>La base no se busca: se importa</h1> <p>Abro un proyecto nuevo y lo publico sin resultados. No es descuido: lo único que hoy se puede juzgar de <a href="https://github.com/mpodeley/residual-gauge">residual-gauge</a> es el método, y el método es justamente lo que quiero que alguien mire antes de que yo me enamore de un número.</p> https://mpodeley.github.io/interpretabilidad-mecanicista/blog/2026/07/30/la-base-no-se-busca-se-importa/ Thu, 30 Jul 2026 16:48:48 +0000 Interpretabilidad Mecanicistahttps://mpodeley.github.io/interpretabilidad-mecanicista/blog/2026/07/30/la-base-no-se-busca-se-importa/ Meta <h1>Por qué existe este sitio</h1> <p>Hace unos meses no sabía qué era un residual stream. La semana pasada envié mi primer paper de interpretabilidad mecanicista a un workshop de EMNLP. Este sitio existe porque en el medio de esas dos oraciones hay un camino que casi nadie documenta — y menos en español.</p> https://mpodeley.github.io/interpretabilidad-mecanicista/blog/2026/07/14/por-que-existe-este-sitio/ Thu, 30 Jul 2026 16:48:48 +0000 Interpretabilidad Mecanicistahttps://mpodeley.github.io/interpretabilidad-mecanicista/blog/2026/07/14/por-que-existe-este-sitio/