Por qué importa ahora
La IA generativa ha modificado una condición básica del trabajo intelectual: es posible producir borradores, alternativas, explicaciones, imágenes, síntesis y análisis iniciales con mucha más rapidez que antes.
Eso multiplica capacidad.
También puede multiplicar dependencia.
Cuando una respuesta parece profesional, la necesidad de comprobarla puede sentirse menor. Cuando el sistema responde al instante, detenerse para verificar puede parecer una pérdida de eficiencia. Y cuando un output llega con tono seguro y estructura coherente, existe el riesgo de interpretar la calidad de la forma como calidad de la evidencia.
Por eso el desafío ya no es únicamente conseguir información. Es gobernar el juicio cuando la información y las respuestas son abundantes.
¿Quién decide qué pregunta merece hacerse? ¿Quién determina qué fuente es suficiente? ¿Quién detecta una condición que nunca entró en el prompt? ¿Quién decide qué riesgo es aceptable? ¿Quién responde cuando una recomendación se convierte en política, producto, intervención o acción?
La IA puede contribuir a todas estas etapas.
Pero contribuir no equivale a ser responsable.
Un uso competente necesita conservar una capa humana capaz de decir: esto está sustentado, esto es una inferencia, esto todavía no lo sabemos y esta decisión continúa siendo nuestra.
Qué significa Criterio humano (Human Judgment) cuando la IA participa
Criterio humano (Human Judgment) no debe confundirse con “intuición humana”, ni con la idea de que una persona siempre juzga mejor que un sistema.
Los humanos también cometen errores, tienen sesgos y pueden actuar con información insuficiente.
El concepto se refiere a otra cosa: la capacidad de evaluar información y alternativas dentro de un contexto, reconocer los límites del propio conocimiento, decidir qué nivel de evidencia permite actuar, integrar valores y consecuencias y mantener autoría sobre la elección.
Cuando existe IA en el proceso, el juicio humano incluye varios movimientos inseparables.
El primero es enmarcar el problema. Antes de cualquier respuesta hay que decidir cuál es la pregunta, qué objetivo se persigue y qué condiciones importan. Una herramienta puede optimizar perfectamente un objetivo mal definido.
El segundo es evaluar la base de conocimiento. ¿Qué está respaldado? ¿Qué es inferencia? ¿Qué dato falta? ¿Qué supuestos están siendo tratados como hechos?
El tercero es añadir contexto. Una recomendación correcta de forma general puede ser incorrecta en una institución, territorio, población o momento concretos.
El cuarto es ponderar trade-offs. Las decisiones reales combinan valores, costes, riesgos y restricciones que no siempre pueden maximizarse al mismo tiempo.
El quinto es responder por las consecuencias. Si una recomendación termina modificando la realidad, la responsabilidad no desaparece porque una parte de la cadena cognitiva haya sido automatizada.
La IA puede apoyar cualquiera de estos movimientos. El juicio consiste en gobernar cómo se relacionan.
| Asistencia por IA | Autoría humana |
|---|---|
| Buscar, generar, resumir, comparar y simular. | Enmarcar, verificar, contextualizar, juzgar, decidir y responder por las consecuencias. |
La frontera práctica: delegar operaciones sin abandonar autoría
Preguntar simplemente “¿debemos confiar en la IA?” es demasiado abstracto para orientar una práctica responsable.
Una pregunta más útil es qué estamos delegando exactamente.
La IA puede buscar patrones, resumir documentos, producir hipótesis, comparar alternativas, generar preguntas, redactar una primera versión, simular objeciones o detectar inconsistencias.
Estas capacidades pueden aumentar significativamente el alcance de una persona o un equipo.
Pero automatizar una operación no resuelve automáticamente otras preguntas.
¿El objetivo original era adecuado? ¿La fuente es pertinente? ¿La comparación utiliza los criterios correctos? ¿Falta una variable que cambiaría la conclusión? ¿Existe una limitación local que el modelo no conoce? ¿La recomendación respeta requisitos legales o éticos? ¿Qué riesgo se está trasladando a otras personas?
Ahí aparece el juicio.
Una regla conceptual útil es:
delegar procesamiento no es delegar decisión; delegar generación no es delegar validación; delegar análisis no es delegar responsabilidad.
Además, no todos los usos necesitan el mismo nivel de supervisión.
Pedir alternativas para un título tiene consecuencias reducidas y fácilmente reversibles. Utilizar IA en una decisión médica, jurídica, financiera, educativa o institucional puede exigir mucha más verificación, experiencia y trazabilidad.
La intensidad de la supervisión debería aumentar con la magnitud y la irreversibilidad de las consecuencias.
No basta, por tanto, con mantener nominalmente “un humano en el proceso”. Ese humano debe disponer de competencia, información y autoridad real para detener, cuestionar, corregir o rechazar la propuesta.
El conocimiento de dominio se convierte en capacidad de supervisión
La facilidad de acceso a explicaciones puede hacer pensar que ya no es necesario aprender profundamente.
Sin embargo, evaluar una respuesta exige disponer de alguna base independiente respecto a la cual evaluarla.
Quien conoce un campo puede detectar que una causalidad no es plausible, que una definición está mal utilizada, que una cifra no encaja o que una conclusión supera la evidencia presentada.
Sin esa base, la verificación puede volverse circular: preguntamos a la misma herramienta si su propia respuesta es correcta, recibimos otra explicación convincente y la interpretamos como confirmación.
Criterio humano (Human Judgment) requiere por ello dos tipos de conciencia.
La primera es conocimiento de dominio: suficiente comprensión para evaluar directamente aspectos relevantes de la respuesta.
La segunda es conocimiento del propio límite: saber cuándo ya no tenemos base suficiente para juzgar y debemos acudir a una fuente primaria, un especialista, otra disciplina o un procedimiento independiente de verificación.
Reconocer el límite no debilita el juicio. Lo fortalece.
Preparación para la vida real (Real-Life Readiness) formula esta idea de manera más amplia: una persona preparada sabe qué sabe, qué no sabe, qué está suponiendo y qué conocimiento falta para continuar.
La IA vuelve esta capacidad especialmente importante porque puede cubrir una laguna real de conocimiento con una superficie lingüística extremadamente convincente.
Plausibilidad no es evidencia
Un output puede resultar útil y estar bien escrito sin alcanzar el nivel de fiabilidad necesario para una decisión.
La diferencia entre plausibilidad y evidencia es una frontera esencial.
La fluidez genera confianza. La estructura produce sensación de coherencia. La velocidad reduce el tiempo disponible para la duda.
Por eso Human Judgment necesita saber introducir fricción deliberada cuando la consecuencia lo justifica.
¿Qué fuente sostiene esta afirmación? ¿Existe una fuente primaria? ¿El dato sigue vigente? ¿Estamos ante un hecho, una interpretación o una hipótesis? ¿Qué evidencia podría refutar la conclusión? ¿Qué grado de confianza sería razonable?
Verificar no significa comprobar cada palabra de cada uso de IA.
Significa calibrar diligencia y riesgo.
Una sesión creativa puede funcionar con resultados especulativos. Una cifra publicada externamente necesita otro nivel de control. Una decisión que afecta derechos, salud, recursos o reputación exige un estándar más alto.
El juicio responsable no necesita certeza absoluta para actuar.
Necesita que el nivel de confianza sea proporcional al impacto de equivocarse.
| Consecuencia potencial | Supervisión humana |
|---|---|
| Bajo impacto / reversible | Supervisión ligera |
| Impacto medio | Verificación explícita |
| Alto impacto / irreversible | Expertise, evidencia y responsabilidad reforzada |
El contexto ausente también forma parte de la decisión
Un sistema solo puede trabajar con el contexto al que tiene acceso, directa o indirectamente.
Puede desconocer relaciones personales, cultura institucional, historia local, restricciones políticas, capacidades reales de una organización, normas internas, datos recientes o efectos sobre grupos específicos.
Por eso una respuesta puede ser coherente en abstracto y equivocada en la realidad concreta donde se pretende utilizar.
Una función humana fundamental es identificar qué no entró en el sistema.
Esa capacidad suele necesitar colaboración.
Un perfil técnico puede detectar una restricción física. Derecho puede identificar una obligación regulatoria. Psicología puede anticipar una barrera de comportamiento. Una persona con conocimiento local puede reconocer una condición social invisible en los datos.
Diferentes formas de experiencia funcionan así como arquitectura de verificación.
La IA puede ayudar a conectarlas, organizarlas o compararlas.
Pero alguien debe reconocer que son necesarias y decidir cuánto deben pesar en la decisión.
De la recomendación a la responsabilidad
Existe un modelo simplificado de supervisión que afirma: la máquina recomienda y la persona aprueba.
Ese modelo puede ser solamente una formalidad.
Un clic no equivale a juicio.
Para que exista autoría real, la persona o institución debe poder explicar por qué aceptó una recomendación, qué evidencias consideró, qué alternativas descartó, qué incertidumbres reconoció y bajo qué condiciones cambiaría la decisión.
Aquí Human Judgment se encuentra con Capacidad de actuar con autonomía (Agency).
Capacidad de actuar con autonomía (Agency) añade algo que el análisis por sí solo no contiene: la transición desde el criterio hacia la elección, la acción y la responsabilidad.
Si una herramienta permite decidir y ejecutar más rápido, la necesidad de responsabilidad no disminuye. Aumenta, porque la capacidad de actuar también se amplifica.
La pregunta relevante no debería ser únicamente “¿lo hizo la IA o lo hizo una persona?”.
Debería ser:
¿existió una cadena de decisión en la que alguien competente pudo entender, cuestionar y asumir aquello que finalmente se convirtió en acción?
Un modelo operativo para utilizar IA manteniendo juicio
Para convertir el concepto en una herramienta explicativa, esta página propone siete movimientos. No constituyen una metodología oficial de Mars Challenge ni una norma regulatoria; son una síntesis editorial coherente con la evidencia y los conceptos disponibles.
1. FRAME — enmarcar. Definir el problema, objetivo, personas afectadas, restricciones y criterio de éxito.
2. GENERATE — ampliar. Utilizar IA para buscar, comparar, generar posibilidades, hipótesis o borradores.
3. VERIFY — verificar. Separar afirmaciones sustentadas de inferencias y acudir a fuentes, datos o expertise adicional cuando haga falta.
4. CONTEXTUALIZE — contextualizar. Añadir condiciones locales, humanas, institucionales, culturales y temporales que pueden faltar en el output.
5. JUDGE — juzgar. Evaluar incertidumbre, trade-offs, valores, riesgos y el nivel de confianza suficiente para avanzar.
6. DECIDE & ACT — decidir y actuar. Mantener explícita la autoría humana o institucional de la elección y actuar de forma proporcional a la confianza disponible.
7. REVIEW — revisar. Observar consecuencias, incorporar feedback y modificar la decisión cuando la realidad contradiga los supuestos.
La IA puede intervenir en cualquiera de los siete movimientos.
La diferencia es que su participación no elimina automáticamente la necesidad de supervisión humana.
- Enmarcar
- Generar
- Verificar
- Contextualizar
- Juzgar
- Decidir y actuar
- Revisar
Saber cuándo no estamos preparados para decidir
El juicio competente también incluye reconocer que todavía no estamos en condiciones de decidir.
La IA puede producir una peligrosa sensación de competencia prestada.
Una persona pregunta sobre un área que no domina, recibe una explicación sofisticada y pasa rápidamente de “no sé” a “suena correcto”.
Pero comprender el lenguaje de una respuesta no equivale a poder validarla.
Una práctica responsable puede implicar continuar porque el riesgo es reducido y reversible, buscar una verificación independiente o escalar la cuestión a una persona con conocimiento especializado.
Pedir expertise adicional no significa renunciar a Agency.
Es ejercer juicio sobre el límite de la propia capacidad.
El problema no está en apoyarse en otros. La inteligencia humana siempre ha sido distribuida.
El problema aparece cuando convertimos conocimiento que no podemos evaluar en una decisión que tratamos como propia.
La relación con Preparación para la vida real (Real-Life Readiness)
Human Judgment no existe en vacío.
Preparación para la vida real (Real-Life Readiness) lo sitúa dentro de una capacidad más amplia para llevar conocimiento a situaciones donde existe incertidumbre, interdependencia, límites y consecuencias.
Sus dimensiones ayudan a entender por qué el juicio con IA necesita más que verificación factual.
KNOW exige reconocer conocimiento, supuestos y límites propios.
CONNECT incorpora otras personas y formas de conocimiento cuando nuestra perspectiva no basta.
FACE obliga a trabajar con ambigüedad sin transformarla artificialmente en certeza.
DECIDE convierte evidencia incompleta en una elección explicable.
ACT lleva esa elección a la realidad.
CARE mantiene la responsabilidad sobre los efectos.
Human Judgment puede verse como una capacidad que atraviesa especialmente KNOW, FACE y DECIDE, pero solo se vuelve plenamente responsable cuando conecta con ACT y CARE.
La relación con Next Human Learning
Si la IA reduce el coste de producir respuestas, el aprendizaje humano necesita desplazar parte de su esfuerzo hacia aquello que permite gobernarlas.
Next Human Learning amplía esa respuesta mediante aprender, desaprender, reaprender, creatividad, conciencia ética, colaboración, resiliencia y capacidad de utilizar conocimiento con propósito.
Human Judgment explica por qué ese desplazamiento importa.
Una persona puede generar muchísimo más con IA y, sin embargo, estar menos preparada si no puede distinguir qué merece confianza, cuándo necesita más conocimiento o qué consecuencia está aceptando.
La herramienta amplifica capacidad.
La educación debe desarrollar la capacidad de gobernar la amplificación.
Qué nos dice la evidencia
La base disponible permite sostener la arquitectura conceptual, aunque no una escala validada de Human Judgment.
Real-Life Readiness: A Foundational Framework (2026) establece explícitamente que una respuesta plausible, sea humana o generada por un sistema, no elimina la necesidad de comprender fuente, supuestos, límites y relevancia. También plantea que la abundancia de respuestas desplaza el problema humano hacia el juicio en presencia de respuestas.
El documento referencia investigación de 2025 sobre IA generativa y pensamiento crítico que estudia esfuerzo cognitivo auto-reportado, confianza y relación con sistemas de IA. Esa investigación no debe transformarse en una afirmación simplista de deterioro cognitivo. Su valor aquí es mostrar que confianza, experiencia previa y delegación cognitiva son variables relevantes para comprender cómo se utilizan estas herramientas.
El trabajo sobre transferencia citado en el mismo framework refuerza la necesidad de poder movilizar conocimiento fuera del contexto donde fue aprendido.
El OECD Learning Compass, también utilizado como referencia, conecta agencia con capacidad de navegar situaciones desconocidas con valores y responsabilidad.
En conjunto, la evidencia favorece una lectura de la IA como ampliación que requiere supervisión competente. No ofrece una fórmula universal sobre qué porcentaje de una tarea debe realizar la máquina o el humano.
Lo que observamos en Mars Challenge
La documentación first-party de Mars Challenge es explícita en un punto: la responsabilidad no puede delegarse y Agency implica autoría bajo consecuencias.
El framework de Real-Life Readiness, desarrollado en el mismo ecosistema, aplica esa lógica directamente a entornos ricos en IA: los participantes pueden disponer de sistemas potentes, pero formular el problema, comprobar supuestos, integrar perspectivas, decidir entre alternativas y defender consecuencias continúa siendo una responsabilidad humana.
La Guía del Participante estructura además un proceso en el que las ideas deben investigarse, convertirse en decisiones, prototiparse, recibir feedback y revisarse.
Esto hace posible que la calidad del proceso humano siga siendo visible aunque se utilicen herramientas de IA.
La evidencia permite hablar de diseño coherente con Human Judgment.
No permite afirmar que Mars Challenge haya demostrado causalmente un aumento medible de esta capacidad. Esa pregunta pertenece a una futura agenda de investigación.
Qué significa para educadores e instituciones
Una política de IA basada únicamente en “permitido / prohibido” es demasiado pobre para desarrollar juicio.
La pregunta institucional más útil es qué parte del proceso debe seguir siendo comprensible, verificable y defendible por la persona.
En algunas tareas conviene limitar IA porque la finalidad es construir conocimiento interno que después permitirá supervisar herramientas.
En otras, utilizar IA puede formar parte del propio objetivo: evaluar si el estudiante o profesional sabe cuestionar outputs, verificar fuentes, añadir contexto, documentar decisiones y reconocer límites.
La evaluación también puede dejar de concentrarse únicamente en el producto final.
Puede pedir rastros del proceso: qué se preguntó, qué respuesta fue rechazada, qué se verificó, qué contexto se añadió, qué evidencia cambió la decisión y quién posee la autoridad final.
En contextos de mayor impacto, una institución puede necesitar gobernanza adicional: trazabilidad, revisión por expertos, definición de responsabilidades y posibilidad de detener automatizaciones.
El objetivo no es burocratizar todos los usos.
Es evitar que la comodidad de la automatización borre exactamente los puntos en los que debería existir juicio humano.
La competencia relevante no será simplemente “saber usar IA”.
Será saber cuándo aceptar, cuándo dudar, cuándo comprobar, cuándo escalar y cuándo negarse a convertir un output en acción.
Conceptos relacionados
- Capacidad de actuar con autonomía (Agency) — transforma criterio en elección, acción y responsabilidad.
- Preparación para la vida real (Real-Life Readiness) — capacidad de movilizar conocimiento cuando no existe una respuesta predeterminada.
- Next Human Learning — evolución de la forma humana de aprender en un entorno de IA y cambio continuo.
- Juicio epistémico — distinguir evidencia, inferencia, suposición y niveles de confianza.
- Human Oversight — supervisión competente de procesos donde sistemas automatizados influyen en decisiones.
Evidencia en la práctica
- Mars Challenge 2026 — Program Framework / Tierra: fuente first-party sobre Agency, responsabilidad y aprendizaje para decidir.
- Real-Life Readiness: A Foundational Framework (2026): fuente conceptual sobre juicio humano en un entorno rico en IA.
- Guia Participante Mars Challenge 2026 FINAL: evidencia de un proceso con decisiones, prototipado, feedback y revisión.
Estas fuentes muestran diseño y marco conceptual; no demuestran impacto causal sobre Human Judgment.
Preguntas frecuentes
¿Usar IA para tomar decisiones significa delegar juicio?
No necesariamente. Podemos utilizar IA para generar alternativas, analizar información o comparar escenarios y mantener la decisión bajo autoría humana. La delegación problemática aparece cuando el output determina la acción sin competencia suficiente para cuestionarlo, sin verificación proporcional al riesgo o sin una persona o institución que pueda explicar por qué la recomendación fue aceptada.
¿Hay que confiar menos en una IA que en una persona?
No existe una respuesta universal. Personas y sistemas pueden equivocarse. La confianza debe calibrarse según la tarea, la evidencia, el contexto, el impacto y la posibilidad de verificar. La cuestión no es quién produjo la afirmación, sino qué justifica creerla y qué ocurrirá si está equivocada.
¿La verificación elimina la eficiencia de la IA?
No, si se aplica con criterio. No es necesario repetir todo el trabajo manualmente. El objetivo es identificar qué afirmaciones, supuestos o decisiones pueden cambiar materialmente el resultado y concentrar allí la supervisión. A mayor consecuencia potencial, mayor diligencia.
¿Sigue siendo necesario aprender conocimiento de dominio?
Sí. El conocimiento interno permite reconocer anomalías, errores y contexto ausente. También ayuda a saber cuándo es necesario buscar una fuente o especialista externo. La IA amplía acceso, pero no garantiza que el usuario disponga de suficiente base para supervisar lo que recibe.
¿Quién es responsable si falla una decisión apoyada por IA?
Esta pieza no establece reglas jurídicas, que dependen de legislación y contexto. Conceptualmente, la responsabilidad no desaparece por utilizar una herramienta. Quien tiene autoridad para convertir una recomendación en acción necesita un proceso que permita justificar, revisar y asumir esa decisión.
¿Criterio humano (Human Judgment) es una postura contra la automatización?
No. Busca una relación más madura con ella. Automatizar puede aumentar capacidad, velocidad y calidad. El juicio humano determina cuándo esa capacidad es suficiente, cuándo necesita controles adicionales y cuándo una recomendación no debería convertirse en acción.
Referencias
Real-Life Readiness: A Foundational Framework Adelino Sousa / Mars Challenge / Virtual Educa 2026 Documento suministrado.
The Impact of Generative AI on Critical Thinking Lee, H.-P. H. et al. / Microsoft Research & Carnegie Mellon University 2025 Referencia identificada en el framework fundacional.
Education for Life and Work: Developing Transferable Knowledge and Skills in the 21st Century National Research Council / National Academies Press 2012 https://doi.org/10.17226/13398
OECD Learning Compass 2030 / Future of Education and Skills OECD Referencia institucional incluida en el framework fundacional.
Mars Challenge 2026 — Program Framework / Tierra Mars Challenge 2026 Documento suministrado.
Guia Participante Mars Challenge 2026 FINAL Mars Challenge 2026 Documento suministrado.
- Capacidad de actuar con autonomía (Agency)
- Decisión
- Preparación para la vida real (Real-Life Readiness)
- Contexto
- Next Human Learning
- Aprendizaje
- AI
- Capacidad amplificada
Cuándo aceptar, verificar, cuestionar o suspender una respuesta de IA
No todas las respuestas exigen el mismo nivel de comprobación. El juicio empieza al relacionar la decisión con el riesgo: una idea exploratoria tolera más incertidumbre que una recomendación que afecta seguridad, derechos, recursos o personas.
El estudiante debe poder explicar por qué confió, qué confirmó, qué alternativa consideró y qué información faltante impediría actuar. Suspender una decisión puede ser una respuesta responsable; no es falta de iniciativa.
| Situación | Acción responsable | Registro |
|---|---|---|
| Bajo riesgo y reversible | Usar como hipótesis y probar. | Prueba y resultado. |
| Fuente incierta | Comprobar en otra fuente adecuada. | Fuente y divergencia. |
| Consecuencia relevante | Cuestionar supuestos y consultar. | Riesgos y opiniones. |
| Evidencia insuficiente | Suspender y pedir datos. | Laguna y condición para avanzar. |
Ejemplo hipotético: una respuesta sugiere un material barato para un prototipo. El equipo acepta la idea para investigar, pero suspende su uso hasta confirmar seguridad y disponibilidad local.
Cómo documentar una decisión cuando la IA resulta convincente, pero la evidencia es incompleta
El juicio humano en la era de la IA (Human Judgment in the Age of AI) no se limita a aceptar o rechazar una respuesta. Exige valorar si la evidencia basta para una decisión concreta, qué riesgo existe y qué condición obliga a revisar la elección. Una respuesta plausible puede seguir siendo inadecuada para el contexto.
Proponemos un registro breve: pregunta, alternativas, evidencia, incertidumbre, responsable y condición de revisión. Complétalo antes de la presentación final para no reconstruir el razonamiento solo después de conocer el resultado. Conserva discrepancias y dudas en lugar de dar al relato una seguridad artificial.
La propuesta distingue juicio de autonomía: agency trata de la posibilidad de actuar; judgment, de la valoración situada. El registro no mide psicométricamente ninguna de ellas ni demuestra que la IA o el programa mejoraran decisiones. Utiliza la referencia UNESCO como marco, no como validación de esta práctica.
| Campo | Pregunta operativa | Ejemplo de registro |
|---|---|---|
| Evidencia | ¿Qué fuente puede cambiar esta decisión? | Prueba disponible; dato pendiente de confirmar. |
| Alternativas | ¿Por qué descartamos otra opción? | Límite de energía o mantenimiento identificado. |
| Revisión | ¿Cuándo debemos detenernos o cambiar? | Resultado por debajo del criterio acordado; nueva información relevante. |
Ejemplo hipotético: la IA recomienda un material ligero. El equipo mantiene una recomendación provisional, solicita una prueba de resistencia y designa a quien verifica. La decisión sigue indeterminada hasta reunir evidencia suficiente; la prudencia no es un fracaso de aprendizaje.
UNESCO · AI competency framework for students (2024; atualizado em 2026)
Explorar a continuación
- Capacidad de actuar con autonomía (Agency) — cómo el juicio se convierte en elección, acción y responsabilidad.
- Preparación para la vida real (Real-Life Readiness) — cómo conocimiento y juicio encuentran la realidad.
- Cuando la IA puede responder, ¿qué deberían aprender los humanos? — implicaciones educativas de la abundancia de respuestas.
Siguiente paso
Deepen:
Proof:
Action: