// interpretabilidad mecánica
La dirección de rechazo
Cada idea que procesa un modelo es un punto en un espacio enorme. Los temas forman grupos. Los modelos alineados tienen una “alarma”: una dirección que se activa ante pedidos dañinos. La ablación la proyecta fuera de los pesos. Mueve el control para ver el efecto.
El modelo rechaza casi todo lo que roza la alarma.
1 · Medir
Se comparan las activaciones promedio con prompts dañinos vs. inofensivos. La diferencia es la dirección de rechazo.
2 · Proyectar
Se ortogonalizan los pesos respecto a esa dirección, para que el modelo ya no pueda “escribir” en ella.
3 · Equilibrar
Herramientas como Heretic buscan la mínima intervención que baja rechazos sin dañar otras capacidades.
Visualización pedagógica. NOVYX no está ablacionado: mantiene sus reglas de seguridad.