iA ≠ iC= El triunfo de la conducta sobre la cognición

Cuando la arquitectura prioriza el engagement sobre la estabilidad del dato, la iA deja de ser un agente cognitivo para convertirse en ingeniería de la conducta.

Lo que hoy se presenta como inteligencia artificial (iA) no es una forma de comprensión. Es una arquitectura de predicción estadística entrenada para maximizar la coherencia narrativa y, en la práctica, la retención de atención. Cada respuesta se construye a partir de correlaciones de frecuencia presentes en el corpus de entrenamiento. El objetivo de entrenamiento primario es minimizar la pérdida de predicción del siguiente token; cuando a eso se suma el ajuste por preferencias humanas (RLHF) y la optimización comercial de engagement, la estabilidad de la información deja de ser el criterio y pasa a serlo la probabilidad estadística que mantenga el intercambio activo.

Esta función no es accidental. Es el resultado directo del diseño: redes neuronales profundas optimizadas bajo el criterio de predecir el siguiente token. Cuando ese criterio se despliega a escala comercial, la máquina se convierte en un instrumento de ingeniería conductual. El sistema aprende qué estímulos lingüísticos y emocionales generan más engagement y los refuerza. La dopamina del usuario se vuelve, así, una métrica indirecta de éxito.

El hackeo del borde: Cuando el dispositivo coloniza la neuroquímica

Hasta hace poco, los dispositivos personales (teléfonos, ordenadores, sistemas embebidos) ofrecían un espacio relativamente autónomo. Hoy, las grandes plataformas empujan sus agentes hacia el corazón de esos dispositivos. Lo que antes era territorio de software local o de modelos abiertos se convierte en una superficie de despliegue de sistemas propietarios.

Este movimiento no es neutro. La transición hacia la “iA local” no es un gesto de privacidad o eficiencia, sino una estrategia sofisticada de captura de datos en el borde (edge computing). Al integrar el modelo en el hardware del usuario, las plataformas colonizan el último espacio que aún ofrecía un margen de control. Aquí, el dispositivo deja de ser una herramienta para convertirse en un puente directo hacia la neuroquímica del usuario: el modelo puede correr localmente, pero las actualizaciones, los filtros y los bucles de retroalimentación permanecen bajo control externo, optimizando la entrega de estímulos para mantener la atención cautiva. La soberanía técnica se reduce a una ilusión de cercanía mientras la extracción de datos y el hackeo atencional se optimizan en la fuente misma.

Dentro de este marco, el context rot (deterioro del contexto) es solo un síntoma más. A medida que la conversación se alarga, el rendimiento se degrada de forma previsible: atención diluida, instrucciones olvidadas y coherencia superficial que disfraza una incapacidad estructural de razonamiento sostenido. Esta imperfección arquitectónica —sumada a las alucinaciones y la sensibilidad a estímulos emocionales— demuestra que la máquina actual no está diseñada para la estabilidad factual ni para la independencia, sino para la apariencia de fluidez. El fenómeno ha sido analizado en los editoriales de CAPITANiA Cuando el LLM no llega al objetivo, entra la RLM vestida de Azul y No estamos solucionando la ceguera del modelo, solo estamos evitando que imagine cosas mientras está ciego.

El salto a la IC: ¿Es posible una inteligencia que no sea conductual?

La pregunta fundamental es si es posible transitar de la iA actual hacia una verdadera Inteligencia Cognitiva (IC).

Es decir: un sistema cuya métrica primaria no sea la predicción del siguiente token orientada a la retención, sino la verificación, la consistencia con fuentes controladas y la minimización de la distorsión. Un sistema que no busque maximizar el engagement sino que, en la medida de lo posible, se mantenga indiferente a él para priorizar la precisión.

La respuesta no es sencilla, porque el problema no comienza en la inferencia (la respuesta), sino en la concepción misma del modelo. Para ilustrar la distancia técnica entre la iA conductual y la IC, se proponen los siguientes escenarios:

• En el espacio laboral (Análisis de Riesgos):
  Si se solicita a una iA de Engagement que analice un contrato legal complejo, el sistema tenderá a dar un resumen fluido y optimista que “encaje” con las expectativas del usuario, omitiendo quizás una cláusula ambigua porque el modelo prioriza la coherencia narrativa sobre la alerta factual. Una IC (Inteligencia Cognitiva), en cambio, detendría el flujo: “No puedo resumir el apartado X porque la redacción es contradictoria con la cláusula Y; hay una inconsistencia que requiere revisión humana”. No busca agradar, busca la precisión.

• En el uso cotidiano (Salud o Consultoría):
  Ante una duda médica, la iA de Engagement puede generar una respuesta que imite la seguridad y el tono de un médico para reducir la ansiedad del usuario y mantener la interacción. La IC se mantendría indiferente a la emoción: “Según los tres protocolos clínicos verificados [Fuente A, B y C], los síntomas no permiten una conclusión; la probabilidad de error es alta. No se generará un diagnóstico”.

• En la gestión de datos (Reportes Ejecutivos):
  Cuando faltan datos en un reporte, la iA de Engagement a menudo “rellena” los huecos con alucinaciones plausibles de forma que el informe se vea “completo” y profesional. La IC dejaría el espacio en blanco con una nota: “Dato no encontrado en fuentes verificadas; se rechaza la generación de una estimación para evitar distorsión”.

Esta distinción es fundamental y complementa la tesis desarrollada por CAPITANiA en Entre la dopamina y la postverdad nació un bebé, orgullo de Papi Tech: la iA, donde se argumenta que la herramienta no es neutra, sino que lleva impreso el propósito comercial y psicológico de quien la diseña.

El plano de la IC: Hacia una arquitectura de integridad

Si se quisiera construir una arquitectura de Inteligencia Cognitiva que no sea manipulable ni útil para manipular, las decisiones tendrían que tomarse en el origen:

• Redefinir la función objetivo: Dejar de entrenar exclusivamente para predecir el siguiente token y explorar objetivos que prioricen la consistencia factual, la calibración de la incertidumbre o la capacidad de rechazar una respuesta cuando la evidencia es insuficiente.

• Blindar la fase de interacción: Separar de forma estricta la adquisición de conocimiento de la fase de generación. El modelo que responde no debería optimizarse en tiempo real según las reacciones emocionales del usuario.

• Soberanía técnica real: Diseñar para un control local efectivo: pesos abiertos, ausencia de telemetría obligatoria, capacidad de auditoría y derecho a la congelación de actualizaciones por parte del usuario.

• Densidad sobre masa: Reducir la dependencia de corpora masivos no verificados y priorizar fuentes de alta densidad factual con mecanismos explícitos de trazabilidad. No se trata solo de modelos más pequeños, sino de conocimiento densamente verificado y auditable en lugar de volumen sin control de origen.

• Ética de la atención: Tratar la atención del usuario como un recurso a proteger, no como un recurso a extraer.

Ninguna de estas decisiones es trivial. La mayoría contradice el modelo de negocio dominante. Por eso la arquitectura actual se mantiene: funciona perfectamente para lo que fue diseñada. El problema no es que la iA falle; el problema es que cumple demasiado bien su función.

La salida no es moralizar el uso de las herramientas existentes, sino reconocer que la forma en que se construye el modelo determina su propósito. Mientras la métrica primaria siga siendo la predicción orientada a la retención, la máquina seguirá siendo, en esencia, ingeniería conductual. Cambiar la función exige cambiar el punto de partida.

Autor: Leo Utzinger

Asistentes de investigación: Gemma4, DeepSeek y Grok

Fuentes y Referencias Técnicas

Este análisis se nutre de la intersección entre la arquitectura de redes neuronales y la economía de la atención. Las bases técnicas se encuentran en los siguientes pilares:

1. Arquitectura y Predicción de Tokens:

• Attention Is All You Need (Vaswani et al.): El paper fundacional de la arquitectura Transformer que introdujo el mecanismo de Self-Attention, base de todos los LLM actuales. Leer en arXiv.

2. Fenómenos de Degradación y Context Rot:

• Lost in the Middle (Liu et al.): Estudio empírico que demuestra cómo los modelos pierden capacidad de recuperación de información cuando los datos críticos están en el centro de un contexto largo. Leer en arXiv.

• Long-Context Performance: Investigaciones sobre la entropía de la instrucción y la relación señal-ruido (SNR) en ventanas de contexto expandidas.

3. Soberanía Técnica y Edge Computing:

• Open-Weight Models: Análisis de la democratización técnica mediante modelos de pesos abiertos (como Llama o Mistral) frente a modelos cerrados (Closed-source).

4. Referencias Internas:

• CAPITANiA Pulso: Repositorio de editoriales sobre la brecha de responsabilidad, la muerte del clic y el surrealismo de la iA. capitania.org/pulso.