Vigilancia epistemológica de segundo orden

01 · El concepto

Tres cosas distintas que se llaman «vigilancia»

El concepto propuesto no sale de la nada: hereda una tradición precisa y se distingue de una homónima. Confundirlas es el primer error que la guía quiere evitar.

Clásica · Bachelard / Bourdieu

Vigilancia epistemológica

Disciplina metodológica e institucional contra el obstáculo del sentido común: ruptura, construcción, comprobación. Se ejerce sobre la relación investigador–objeto.

Cognitiva · Sperber et al. (2010)

Epistemic vigilance

Mecanismos psicológicos individuales para evaluar lo que otros nos comunican: confianza en la fuente, coherencia, detección de engaño. Espontánea, no metodológica.

Propuesta · este artículo

Vigilancia de segundo orden

Operaciones críticas institucionalizables aplicadas al conocimiento mediado por IA: a sus datos, sus condiciones de producción y sus efectos. Presupone la clásica y la extiende.

¿Por qué no basta la vigilancia cognitiva individual? Porque los sistemas generativos producen exactamente las señales —fluidez, coherencia superficial, tono asertivo— ante las cuales nuestras heurísticas de confianza rinden peor. Cuando la plausibilidad se industrializa, la respuesta tiene que ser metodológica e institucional.

Las cuatro operaciones

02 · Tres tensiones

Donde el concepto se pone a trabajar

Cada tensión tiene una formulación cómoda —la que halaga a las ciencias sociales— y una formulación exigente. El artículo adopta siempre la segunda. Despliega cada una.

El costo de producir texto con apariencia de conocimiento tiende a cero; el costo de evaluarlo críticamente sigue alto y humano. Un texto verificado y uno sin verificar pueden ser indistinguibles en superficie: el sistema acumula un pasivo invisible. La evidencia ya lo registra: ilusiones de comprensión y monocultivos científicos (Messeri y Crockett, 2024, Nature) y degradación de los modelos entrenados sobre sus propios productos (Shumailov et al., 2024, Nature).

Reformulación exigente: no se defiende la lentitud como virtud (romanticismo slow), sino la fricción epistémica selectiva: puntos de control obligatorios donde el costo del error es alto. Lo que debe desacelerarse no es la vida; es el tránsito entre el output y su aceptación como conocimiento.

El argumento clásico —los objetos sociales son sujetos que interpretan (Winch, Taylor, Geertz, Giddens)— invita a un dualismo que la técnica desborda: los sistemas generativos no son sujetos (carecen de relación reflexiva con el acto de conocer), pero tampoco objetos mudos (están hechos de interpretaciones humanas y devuelven clasificaciones que operan como interpretaciones).

Reformulación exigente: lo nuevo es el bucle hermenéutico algorítmico: interpretaciones humanas → entrenamiento → machine habitus (Airoldi, 2022) → clasificaciones devueltas al mundo → autointerpretación humana → nuevos datos. Estudiar ese bucle exige la caja de herramientas interpretativa y estructural de las ciencias sociales, sin el dualismo simple.

Quien vigila y a la vez milita puede contrabandear preferencias con autoridad de ciencia: la advertencia weberiana es seria. Pero la neutralidad tampoco es una opción autoejecutable (Daston y Galison, 2007).

Reformulación exigente: la salida es la explicitación reglada de la posición —objetividad fuerte (Harding), conocimiento situado (Haraway)—. Una auditoría de equidad algorítmica presupone una definición normativa de equidad: ocultarla es la «trampa de la abstracción» (Selbst et al., 2019); declararla es lo que la vuelve científica. Los fines se argumentan; los medios y efectos se miden. No confundirlos.

03 · Campos de prueba

La vigilancia en acto

Caso 1 — ¿Las redes causan cámaras de eco?

La prenoción más robusta del debate digital: las plataformas nos encierran con los nuestros y de ahí nace la hostilidad. Es intuitiva, mediáticamente exitosa y, en su versión fuerte, empíricamente frágil.

Prenoción (cómoda)Cámaras de eco → aislamiento informativo → polarización. Solución obvia: mezclar audiencias.

Objeto construido (vigilado)Las dietas informativas son más diversas de lo supuesto (Bruns, 2019); exponer al bando contrario puede aumentar la polarización (Bail et al., 2018, PNAS); el mecanismo es el sorting identitario a escala translocal (Törnberg, 2022, PNAS) y el «prisma» que distorsiona la percepción del otro (Bail, 2021).

La diferencia no es académica: si el problema fuera la cámara de eco, mezclar audiencias ayudaría; si es el sorting, puede agravar el daño. Diagnósticos equivocados producen regulaciones equivocadas.

Caso 2 — Modelos generativos dentro de la investigación social

El silicon sampling (Argyle et al., 2023) mostró que un modelo condicionado puede aproximar distribuciones de respuesta de subpoblaciones reales en ciertos dominios. La crítica fijó los límites: los datos generados heredan y ocultan sesgos, comprimen la varianza y fallan justo en las poblaciones subrepresentadas (Rossi et al., 2024).

Demarcación operativa: un output de modelo es un dato sobre la doxa registrada en su corpus —estudiable como tal—, nunca la voz de una población. Ningún uso serio sin objetivar el sistema (quién, con qué datos, qué alineamiento), sin criticar los conjuntos de evaluación y sin documentar qué se delegó y qué se verificó. Nada de esto prohíbe; todo esto demarca.

06 · Glosario

Diez términos de trabajo

Vigilancia epistemológica Bachelard · Bourdieu: Disciplina metodológica e institucional que impide aceptar como conocimiento lo que no ha pasado por ruptura, construcción y comprobación.
Obstáculo epistemológico Bachelard: Lo que se interpone entre la experiencia inmediata y el concepto científico: la opinión sedimentada, la imagen familiar, la generalización prematura.
Doxa automatizada este artículo: La opinión sedimentada en los corpus de entrenamiento, devuelta por los sistemas generativos con formato de respuesta experta. El obstáculo epistemológico vuelto infraestructura.
Vigilancia de segundo orden este artículo: Operaciones críticas institucionalizables sobre el conocimiento mediado por IA: ruptura con la doxa automatizada, objetivación de las condiciones de producción, crítica del dato, reflexividad recursiva.
Doble hermenéutica Giddens: Las ciencias sociales interpretan un mundo ya interpretado por sus agentes, y sus interpretaciones retornan a él, modificándolo.
Bucle hermenéutico algorítmico este artículo: Extensión del circuito: interpretaciones humanas → entrenamiento → clasificaciones máquina → autointerpretación humana → nuevos datos de entrenamiento.
Machine habitus Airoldi: Disposiciones culturales sedimentadas en los datos de entrenamiento que orientan, de modo práctico, el comportamiento clasificatorio de los sistemas.
Sorting partidista Törnberg · Iyengar: Alineamiento de identidades diversas en dos megabloques mutuamente hostiles; mecanismo de la polarización afectiva alternativo a la cámara de eco.
Monocultivo científico Messeri · Crockett: Situación en la que ciertas preguntas y métodos —los tratables por los instrumentos disponibles— desplazan a los demás, volviendo la ciencia menos innovadora y más frágil.
Objetividad fuerte Harding · Haraway: Declarar el punto de vista, lejos de contaminar el conocimiento, es condición de su control crítico. Alternativa reglada tanto a la neutralidad imposible como al decisionismo.

Vigilancia epistemológica de segundo orden
las ciencias sociales ante el conocimiento automatizado