Cerrar el módulo 8: un protocolo que permita intervenir y explicar
SUP-001 debe permitir que otra persona entienda los límites del uso, disponga de información para revisar y sepa qué hacer ante una señal o un desacuerdo. Su coherencia importa tanto como la cumplimentación de sus campos.
Objetivo: integrar el protocolo de supervisión, la información al usuario y las pruebas didácticas, reconociendo carencias antes de atribuir eficacia a las medidas.
Reunir las seis piezas
| Lección | Elemento que incorporas a SUP-001 |
|---|---|
| 8.1 | Tareas, consecuencias, condiciones, límites y momento de revisión |
| 8.2 | Funciones, competencia, información, accesos, autoridad, capacidad y cobertura |
| 8.3 | Señales, intervención, escalado, seguimiento y alternativa de atención |
| 8.4 | Aviso inicial, mensajes contextuales y cauce para pedir ayuda |
| 8.5 | Explicación del resultado y registro proporcionado de la revisión |
| 8.6 | Reconsideración de desacuerdos y pruebas del protocolo |
Conserva la relación con USO-003 y FD-001. Si una fuente, un permiso o una condición está pendiente, identifica cómo afecta a las decisiones. El protocolo no convierte automáticamente ese pendiente en una autorización.
Detectar contradicciones antes de cerrar
Revisa estos ejemplos: el aviso promete revisión humana permanente, pero solo hay cobertura en un horario limitado; la regla exige comprobar una fuente, pero el revisor no puede consultarla; una tarea necesita autorización previa, pero la ausencia del titular permite aceptarla; el registro conserva toda la conversación, aunque FD-001 limita el contenido pertinente.
En cada contradicción ajusta la relación afectada y deja constancia de lo que necesita confirmación. No basta con cambiar una frase para hacerla menos exigente si el riesgo que justificaba el control sigue presente. Tampoco sirve añadir un responsable sin asegurar que puede desempeñar la tarea.
La corrección de un caso y la reanudación de una función son decisiones distintas. Comprueba que SUP-001 permite reconocerlas y enlazarlas con las autoridades del gobierno establecido.
Actividad integradora: preparar SUP-001
Redacta un protocolo breve que se pueda utilizar sin reconstruir las seis lecciones. Incluye: finalidad y uso; tareas y límites; modalidades de supervisión; funciones y recursos; reglas de actuación; alternativa de atención; mensajes; registro; pruebas; y pendientes relevantes.
Adjunta la explicación al usuario y el registro interno de la lección 8.5. Incorpora la tramitación del desacuerdo de 8.6. Distingue en cada elemento propuesta, dato confirmado en el ejercicio, observación de un ensayo ejecutado y pendiente.
Selecciona tres carencias prioritarias. Explica su efecto, la función que debería aclararlas y la evidencia esperada. Por ejemplo, si el revisor carece de autoridad para una intervención requerida, describe qué decisión no puede realizarse y cómo se mantiene la atención mientras se resuelve.
Si has ensayado las reglas con material sintético, registra resultados y límites. Si solo las has diseñado, conserva los resultados esperados y marca la ejecución como pendiente. En ninguno de los dos casos declararás por este ejercicio que los riesgos están aceptados o que un servicio real cumple todos sus requisitos.
Orientación para revisar el entregable
Consultar la orientación del entregable
Un protocolo defendible utiliza condiciones concretas y funciones reconocibles. Mantiene una revisión previa cuando el escenario la necesita y evita que la falta de cobertura se resuelva con una aceptación automática. Explica cómo se protege la continuidad de atención y cómo se recogen los desacuerdos.
La información al usuario es coherente con lo que el servicio puede ofrecer. El registro permite contrastar la decisión, conserva lo pertinente y enlaza con las fuentes y condiciones disponibles. Los resultados de prueba se interpretan dentro de las situaciones y recursos utilizados.
SUP-001 puede contener pendientes si son explícitos y tienen consecuencias identificadas. Un protocolo lleno de «se comprobará» sin responsables, criterios ni siguiente paso todavía necesita desarrollo. La claridad de sus límites ayuda a decidir qué puede proponerse y qué no está preparado.
Comprueba tu criterio: cinco situaciones finales
Responde primero y consulta después las orientaciones.
1. El chatbot informa sobre una vía de soporte y también propone un cambio de configuración. ¿Puede asignarse la misma modalidad de supervisión a ambas tareas solo porque pertenecen a la misma herramienta?
No por ese motivo. Describe sus efectos, condiciones y contexto. La información de soporte necesita un respaldo vigente; una propuesta de cambio puede requerir comprobaciones o autorización previa distintas. La modalidad se justifica por escenario, no por el nombre de la herramienta.
2. Un técnico con experiencia no puede consultar la fuente citada ni corregir la salida. ¿La designación de ese técnico demuestra supervisión suficiente?
No. La competencia es una de las condiciones. Faltan información y capacidad de intervención para la tarea diseñada. Deben resolverse o limitar el uso propuesto, manteniendo una alternativa de atención.
3. El aviso dice que las respuestas se revisan, pero el servicio solo revisa una muestra después de enviarlas. ¿Qué necesita cambiar?
La comunicación debe describir el funcionamiento confirmado. Además, hay que comprobar si la revisión posterior es adecuada para las tareas y riesgos afectados. Ajustar el aviso no elimina una carencia del diseño de supervisión.
4. El chatbot explica que usó una fuente vigente, pero no hay evidencia que permita reconstruir ese recorrido. ¿Qué se registra?
Se registra que esa afirmación forma parte de la salida, junto con la comprobación disponible y el pendiente. No se presenta como un hecho confirmado. La decisión de uso debe considerar esa limitación.
5. Se diseñan seis pruebas y todas tienen un resultado esperado favorable. ¿Se puede concluir que el control es eficaz?
No. Los resultados esperados describen el objetivo del ensayo. Para concluir sobre su funcionamiento se necesitan observaciones de pruebas ejecutadas y una interpretación limitada a sus condiciones. La eficacia real del servicio requiere evidencia pertinente adicional.
Glosario para utilizar el protocolo
Supervisión humana: organización de la observación, revisión y capacidad de intervención de personas sobre un uso de IA, según sus escenarios y condiciones.
Autonomía: margen que tiene una tarea del sistema para producir o aplicar resultados sin una decisión humana en ese momento. Debe describirse para el uso concreto.
Sesgo de automatización: tendencia a confiar o apoyarse excesivamente en una salida automatizada sin el contraste necesario.
Escalado: traslado coordinado del caso a una función con la competencia o autoridad necesarias, conservando seguimiento y atención.
Alternativa operativa: vía que permite mantener la atención cuando una respuesta, función o sistema no puede utilizarse como estaba previsto.
Trazabilidad: capacidad de relacionar los elementos pertinentes de un resultado, una comprobación y una decisión mediante referencias revisables.
Transparencia: información comprensible y pertinente que permite a cada destinatario entender el uso, sus condiciones y las vías para pedir aclaración o revisión.
Reversibilidad: posibilidad de corregir o deshacer efectos, atendiendo a las condiciones, los recursos y las consecuencias que puedan persistir.
Pendiente: información, decisión o comprobación no resuelta que se identifica con su efecto y siguiente paso.
SGIA: sistema de gestión de la inteligencia artificial; organiza políticas, responsabilidades, procesos y seguimiento relacionados con el uso de IA en la organización.
Referencias y alcance del material
Este módulo es un desarrollo didáctico original del curso de José Manuel Hernández Agudo. Las tareas, reglas y pruebas propuestas para Tech Server IIT Spain son ejercicios. No constituyen una clasificación jurídica del chatbot, una autorización de uso ni una evaluación completa de conformidad.
ISO/IEC 42001 ofrece un marco de gestión organizativo para desarrollar, proporcionar o utilizar IA responsablemente. Relaciona el protocolo con los riesgos, las responsabilidades y los controles seleccionados en tu expediente. La consulta pública de ISO no sustituye el cotejo detallado de requisitos y controles con el texto normativo disponible legítimamente.
El Reglamento de IA aporta una conexión que debe delimitarse. El artículo 14 trata la supervisión de sistemas de alto riesgo, incluida la comprensión de límites, el sesgo de automatización y la capacidad de intervenir. El artículo 26.2 aborda competencia, formación, autoridad y apoyo de las personas designadas por los responsables del despliegue de esos sistemas. No atribuimos automáticamente esa categoría al chatbot del caso.
El artículo 50 establece obligaciones para determinados sistemas y roles. Su apartado 1 contempla, con condiciones y excepciones, informar de la interacción directa con IA; el apartado 5 se refiere a la claridad, oportunidad y accesibilidad de la información. La aplicación al caso requiere identificar finalidad, contexto, papel de la organización y supuestos pertinentes. Una prioridad interna de riesgo no equivale a una clasificación legal de alto riesgo.
Fuentes públicas consultadas el 6 de octubre de 2026:
- ISO/IEC 42001:2023, ficha oficial de ISO: https://www.iso.org/standard/42001 (nueva pestaña)
- Comisión Europea, Reglamento de IA, artículo 14: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-14 (nueva pestaña)
- Comisión Europea, Reglamento de IA, artículo 26: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-26 (nueva pestaña)
- Comisión Europea, Reglamento de IA, artículo 50: https://ai-act-service-desk.ec.europa.eu/en/ai-act/article-50 (nueva pestaña)
La conexión jurídica de estas lecciones es introductoria. Las decisiones sobre obligaciones aplicables, autorizaciones y conformidad deben contrastarse para el caso y el marco vigente. Los enlaces y el contenido normativo necesitan revisión cuando cambien las referencias.
Preparar el siguiente paso
Conserva SUP-001, FD-001, los registros de revisión y los pendientes. El módulo 9 desarrollará proveedores y ciclo de vida: qué información pedir, cómo repartir responsabilidades y qué revisar cuando cambien fuentes, configuración o condiciones del servicio.
Por ahora, el cierre te permite explicar quién puede detectar una señal, con qué información y capacidad, cómo interviene y cómo sigue siendo atendida la persona afectada. Esa relación deberá mantenerse cuando el sistema cambie.