“Descargar la censura”
Cuando el cuerpo y la política se vuelven territorio disputado
Hace unos meses, durante un taller de contenidos para difusión en redes sociales, surgió un caso práctico que ilustra con precisión la naturaleza geográfica de la censura algorítmica. Una profesional requirió material visual para promocionar servicios de masajes reductores, dado que las fotografías originales de sus clientas carecían de la calidad técnica necesaria para un formato de video corto. La intención no era generar contenido sexualizado, sino representar el bienestar personal y los resultados estéticos del tratamiento. Sin embargo, los filtros de los modelos de generación visual en la nube bloquearon las solicitudes de manera sistemática, interpretando la representación del cuerpo femenino como contenido inapropiado.
La solución técnica consistió en utilizar una red privada virtual (VPN) para modificar la dirección IP de origen. Tras múltiples intentos con el mismo prompt (instrucción), el modelo únicamente generó el resultado solicitado cuando la conexión se enrutó a través de Islandia, una jurisdicción con marcos regulatorios significativamente menos restrictivos en este ámbito. El mismo modelo, con los mismos pesos y la misma instrucción, cambió su comportamiento según la ubicación geográfica del usuario.
Esta experiencia revela una verdad incómoda: lo que un algoritmo define como "inaceptable" no responde a una ética universal, sino a la moralina programada en una jurisdicción específica. Y esa moralina, lejos de permanecer en los servidores de la empresa, viaja empaquetada dentro de los pesos que se descargan.
El cuerpo político: otra frontera de la censura
El mismo fenómeno se reproduce en el terreno político. Intentar generar con un modelo de iA una caricatura crítica de un líder político en ejercicio suele desencadenar bloqueos inmediatos en los servicios en la nube, bajo el argumento de "respeto a figuras públicas" o "prevención de desinformación". Sin embargo, la selectividad del filtro resulta reveladora: el mismo modelo que rechaza una sátira de un presidente occidental puede generar sin reparos una caricatura de un líder de una nación rival. No se trata de un principio ético coherente, sino de una alineación geopolítica incrustada en los pesos.
La censura algorítmica, en estos casos, funciona como un mecanismo de protección diplomática: preserva a los aliados, satiriza a los adversarios. Y esa decisión no la toma el usuario; la tomó, en algún momento del entrenamiento, el laboratorio de origen del modelo.
El mito de la neutralidad en los pesos abiertos
La mayoría de los modelos locales se presentan como herramientas neutras. La realidad es que el alineamiento (alignment, proceso de ajuste para que el modelo coincida con valores o normas específicas) es una fase crítica del entrenamiento. Los guardrails (barandillas de seguridad) son los mecanismos técnicos resultantes: filtros que fuerzan al modelo a rechazar ciertas solicitudes, evadir temas específicos o responder con negativas estandarizadas.
Estos filtros no se aplican únicamente en la interfaz de la nube. Se incrustan directamente en los pesos del modelo durante las fases finales de entrenamiento, mediante técnicas como el RLHF (Reinforcement Learning from Human Feedback, aprendizaje por refuerzo con retroalimentación humana) o el DPO (Direct Preference Optimization, optimización directa de preferencias). Por lo tanto, un modelo local puede negarse a responder a un prompt perfectamente legítimo, no por una regla externa, sino porque su propia arquitectura neuronal fue entrenada para considerar esa respuesta como inaceptable.
Geopolítica del filtro: el acento de los pesos
La censura en los modelos locales no es universal; es jurisdiccional. Cada región imprime su propia agenda en los pesos abiertos que libera al mundo.
El filtro occidental, presente en modelos como Gemma (la expresión local de Google) o Mistral (independiente, de origen francés), suele orientarse a lo que la industria denomina "seguridad". Esto se traduce en rechazos automáticos ante temas de violencia, contenido sexual, discurso de odio o asesoramiento legal y médico. Aunque son menos restrictivos que sus contrapartes en la nube, priorizan la protección de la marca y el cumplimiento normativo de la UE o EE.UU.
El filtro asiático, en modelos como Qwen (Alibaba) o DeepSeek, incluye alineamientos específicos para cumplir con la regulación de Beijing, a pesar de la extraordinaria eficiencia arquitectónica de estas propuestas. Esto se manifiesta en respuestas evasivas o estandarizadas ante temas de historia, política o conflictos sociales sensibles en esa región. No se trata de un defecto técnico, sino de un requisito de supervivencia corporativa en su mercado de origen.
La premisa es clara: la selección de un modelo local no implica la ausencia de censura, sino la elección del tipo de censura que se hereda.
Nube vs. Local: la arquitectura del control
La diferencia fundamental no radica en la existencia de la censura, sino en quién posee el control sobre su aplicación y cómo se ejecuta.
En la nube, los proveedores de servicios (SaaS, software como servicio) aplican filtros en tiempo real mediante capas externas al modelo. Estas reglas se actualizan de manera unilateral y sin notificación. Lo que hoy genera una respuesta, mañana puede desencadenar un bloqueo. El usuario no tiene acceso a la lógica del filtro, ni puede auditarla, ni puede desactivarla sin violar las Condiciones de Servicio. Es un muro inamovible y cambiante.
En local, al descargar los pesos, el filtro queda congelado en la versión del checkpoint (punto de control o versión exacta del modelo) que se descargó. No existen actualizaciones silenciosas de reglas. Más importante aún: el operador posee la capacidad técnica de inspeccionar, probar los límites y, si cuenta con el conocimiento necesario, modificar o eliminar dichos filtros.
En la nube se obedece. En local se elige, y se asume la responsabilidad de dicha elección.
Censura visual: el cuerpo como territorio disputado
La censura no se limita al texto ni a la política. En los modelos generadores de imagen y video, el cuerpo humano se convierte en un campo de batalla regulatorio y moral.
En la nube (Midjourney, DALL-E, Imagen), los filtros son extremadamente restrictivos. Cualquier prompt que mencione desnudez, anatomía detallada, violencia gráfica o contextos sensibles (incluso artísticos o médicos) desencadena bloqueos automáticos. No existe posibilidad de desactivar estos filtros; son inherentes al servicio. La justificación corporativa es la "seguridad del usuario", pero el resultado es la imposibilidad de generar contenido legítimo para educación médica, arte contemporáneo o investigación antropológica.
En local (Stable Diffusion, Flux, Pony), la ecuación cambia radicalmente. Modelos como Stable Diffusion (en sus variantes SDXL o SD 1.5) o Flux ofrecen pesos base con censura mínima. Al utilizarlos en entornos locales como ComfyUI o Draw Things, el operador tiene control total sobre qué modelo cargar y cómo configurarlo. Existen modelos específicamente entrenados para anatomía realista, arte figurativo o contextos médicos, sin los filtros corporativos. La responsabilidad recae íntegramente en el operador, pero la libertad creativa es absoluta.
El caso de Draw Things resulta ilustrativo: esta aplicación para macOS permite ejecutar modelos de generación de imagen completamente en local. El usuario puede seleccionar entre modelos con censura corporativa intacta (como los oficiales de Stability AI) o modelos comunitarios sin restricciones (uncensored, realistic, artistic). La herramienta no impone límites; el operador decide qué pesos utilizar y bajo qué parámetros. Es un ejemplo concreto de soberanía técnica aplicada al cuerpo y la representación visual.
A esto se suma la inconsistencia de los propios filtros. Ciertos modelos, como Grok, han enfrentado sanciones y críticas públicas por generar resultados con sesgos sexistas o por la arbitraria aplicación de sus restricciones. Esto evidencia que la censura algorítmica no es un escudo ético infalible, sino una herramienta de control corporativo y geopolítico, a menudo defectuosa y sujeta a dobles estándares.
La diferencia no es meramente técnica; es filosófica. En la nube, el cuerpo humano y la crítica política son territorios prohibidos por defecto. En local, son objetos de representación sujetos únicamente al criterio y la responsabilidad del operador.
El espectro de los pesos: una guía práctica
Al buscar un modelo en repositorios como Hugging Face, el profesional se enfrenta a tres categorías distintas. Comprender la diferencia es vital para la soberanía operativa.
Los modelos Base (sin instrucción) son los pesos crudos tras el pre-entrenamiento. No mantienen conversaciones; solo completan texto. Su censura inherente es baja, pero son impredecibles y requieren fine-tuning (ajuste fino con datos propios) previo para ser útiles en tareas específicas.
Los modelos Instruct o Chat (alineados) son la versión pulida y lista para usar. Han pasado por procesos de alineamiento para seguir instrucciones de forma segura. Heredan los guardrails de seguridad del laboratorio de origen. Son ideales para flujos de trabajo estándar donde la predictibilidad es prioritaria.
Los modelos Uncensored o Abliterated (modificados por la comunidad) son versiones alteradas por desarrolladores independientes para eliminar restricciones. Ofrecen máxima libertad operativa, pero trasladan la responsabilidad total al operador.
Concepto clave: Abliteration (Ablación de filtros)
Es una técnica avanzada de modificación de pesos que no requiere reentrenar el modelo desde cero. Consiste en identificar y neutralizar los "vectores de rechazo" en la red neuronal (las direcciones matemáticas que activan la negativa del modelo) y eliminarlos de manera quirúrgica.
A diferencia de un simple fine-tuning, la abliteration extirpa la censura sin destruir el conocimiento general del modelo. Proyectos comunitarios como Dolphin (basado en arquitecturas de Mistral o Qwen) son ejemplos de este enfoque. El resultado es un modelo que responde a cualquier prompt sin juicios morales preprogramados.
La responsabilidad del operador: el precio de la libertad
Aquí es donde la soberanía tecnológica se encuentra con la realidad legal. Al ejecutar un modelo uncensored o abliterated en infraestructura propia, el operador asume la responsabilidad total sobre lo que dicho modelo genere. No existe una empresa a la cual culpar, ni unas Condiciones de Servicio que protejan o limiten.
Si el modelo genera código malicioso, la responsabilidad recae en el operador. Si el modelo produce contenido que infringe derechos de terceros, la responsabilidad recae en el operador. Si el modelo alucina datos críticos en un informe profesional, la responsabilidad recae en el operador.
La soberanía no es únicamente la capacidad técnica de ejecutar el modelo. Es la madurez operativa de asumir las consecuencias de haber eliminado sus frenos.
Cómo verificar lo que se descarga
Antes de cargar un modelo en la máquina, se debe aplicar este filtro de verificación:
Leer la model card (ficha técnica), buscando las secciones de "Intended Use" (Uso previsto) y "Limitations" (Limitaciones). Allí se declaran los guardrails.
Revisar el repositorio: en Hugging Face, buscar etiquetas como uncensored, abliterated o dolphin. Si no están presentes, se debe asumir que el modelo posee un alineamiento corporativo o estatal estándar.
Aplicar una prueba de estrés controlada: antes de utilizar el modelo en producción, enviarle prompts límite (no ilegales, pero sí complejos o controvertidos en el sector) para mapear dónde se activa su rechazo. Conocer los límites de la herramienta es parte del trabajo.
Conclusión, hoy…
Se ha establecido que la censura viaja en los pesos y que el operador local tiene el poder (y la responsabilidad) de modificarla. Pero esto conduce a un límite técnico y ético: si se modifican los pesos de un modelo para que se ajusten a una voluntad específica, eliminando todo filtro externo, ¿sigue siendo la herramienta objetiva seleccionada, o se ha creado una caja de resonancia de sesgos propios?
Autor: Leo Utzinger
Asistente en investigación: Qwen
Fuentes y verificación
Conceptos técnicos y alineamiento:
