Así se le quita el “no” a una inteligencia artificial
Un viaje de dos minutos por dentro de una red neuronal, para entender qué le hicimos a nuestro modelo.
Desliza para empezarTus palabras se vuelven números
Antes de pensar, el modelo corta tu pregunta en pedacitos llamados tokens. Cada token se convierte en una lista de miles de números: un punto en un espacio con miles de dimensiones.
Para curiosos: esa lista se llama embedding. Palabras con significado parecido quedan cerca entre sí.
Un viaje por decenas de capas
Esos números atraviesan la red capa por capa. Cada capa lee lo que hay, le suma lo suyo y lo pasa a la siguiente. Así se va armando el significado de lo que preguntaste.
Para curiosos: ese canal que recorre todas las capas es el flujo residual. Ahí es donde vamos a operar.
Ahí dentro vive un “no”
Durante su entrenamiento, el modelo aprendió a negarse ante ciertas preguntas. Ese reflejo no vive en una neurona: es una dirección dentro del flujo residual que se repite en toda la red y tiñe la respuesta antes de que salga.
Para curiosos: en 2024, Arditi y su equipo mostraron que en muchos modelos negarse depende de una sola dirección.
Dos nubes de pensamientos
Le damos al modelo cientos de preguntas que acepta y cientos que rechaza, y guardamos lo que “piensa” con cada una. Forman dos nubes. Si unimos el centro de una con el centro de la otra, aparece la flecha del rechazo.
Para curiosos: r = μrechaza − μacepta, la diferencia entre los dos promedios.
Cada pensamiento trae su parte de “no”
Cualquier pensamiento del modelo es una flecha, y siempre se puede partir en dos: cuánto apunta hacia el “no” y todo lo demás. Lo primero es una sola cifra. Lo segundo es todo lo que el modelo sabe.
Para curiosos: la parte de “no” es la proyección (v·r̂) r̂, donde r̂ es la flecha con largo 1.
Aplanar, sin tocar lo demás
La abliteración le quita a cada pensamiento su parte de “no” y deja intacto el resto. Las dos nubes caen sobre un mismo plano y se funden: el modelo ya no distingue cuándo “debería” negarse.
Para curiosos: v′ = v − (v·r̂) r̂. Es borrar una sola dimensión entre miles.
Grabarlo en su cerebro
No hace falta repetirlo en cada respuesta. Se aplica una sola vez a las matrices de pesos de todas las capas, para que ninguna pueda volver a escribir en esa dirección. El modelo queda así para siempre y no se vuelve más lento.
Para curiosos: W′ = W − r̂ r̂ᵀ W en cada matriz que escribe al flujo residual. Se llama ortogonalizar los pesos.
El mismo cerebro, sin el “no”
Ahora la pregunta pasa limpia hasta la respuesta. No aprendió nada nuevo, ni se volvió más listo ni más malvado: solo dejó de negarse. A cambio pierde un poco de finura, y por eso a veces se le escapa una palabra rara.
Con este modelo, el criterio lo pones tú.
Hablar con el modelo