Gobernar la IA
Para gobernar la inteligencia artificial necesitamos saber quién puede decidir, con qué información y bajo qué condiciones.
Organizar
Poner responsables a las decisiones
En la lección anterior distinguimos el sistema de IA de su sistema de gestión (SGIA). Ahora damos un paso más: concretar quién autoriza el uso, quién acepta sus límites, quién supervisa los resultados y quién puede detener una actuación.
Contratar un proveedor no resuelve por sí solo estas preguntas. La organización debe comprender sus propias decisiones y dependencias. Si falta información, conviene registrar la limitación, pedir aclaraciones y valorar cómo afecta al uso previsto.
Un reparto posible en TechServe IT
Esta es una propuesta para el caso ficticio. Los cargos y el reparto deben adaptarse a cada organización.
| Función | Qué puede aportar |
|---|---|
| Dirección | Fijar prioridades y límites, aportar recursos y decidir sobre asuntos que excedan la autoridad del servicio. |
| Responsable del servicio | Concretar el uso previsto, coordinar el seguimiento y organizar cómo se autorizan o escalan las decisiones. |
| Equipo técnico | Realizar pruebas y cambios, comprobar las propuestas y comunicar incidencias o limitaciones. |
| Especialistas | Aportar criterios de datos, seguridad o privacidad cuando el uso lo requiera. |
Concretar ayuda: «lo revisa el equipo» deja preguntas abiertas. Necesitamos identificar la función responsable, cuándo revisa, qué comprueba y a quién acude si no puede resolver.
Poder intervenir
Supervisar exige algo más que estar asignado
Una persona puede figurar como supervisora y no tener condiciones para ejercer esa función. Para que la revisión sea útil, necesita:
Conocimientos
Comprender la tarea, sus consecuencias y las limitaciones del sistema que debe revisar.
Tiempo
Disponer de una carga de trabajo compatible con la revisión. Cientos de propuestas sin tiempo suficiente pueden vaciar de contenido el control.
Información
Acceder a la propuesta, el contexto, los criterios de servicio y los resultados de las pruebas necesarias.
Autoridad
Poder corregir, frenar o escalar una actuación y utilizar una alternativa cuando corresponda.
Ejemplo · Copiloto técnico
Una propuesta de comando para una operación crítica
El copiloto sugiere un comando de red. TechServe IT podría acordar que una persona competente lo revise y que se pruebe en un entorno adecuado antes de autorizar su ejecución.
- Antes de actuar: comprobar la propuesta, el contexto y las consecuencias previstas.
- Si faltan garantías: frenar la ejecución y escalar la duda según el circuito acordado.
- Dejar constancia: relacionar la propuesta, la revisión, la decisión y el resultado.
Es un ejemplo de control para una operación crítica. La supervisión debe adaptarse al uso; no es un diseño obligatorio para cualquier sistema de IA.
Decidir con información
Una explicación debe ayudar a actuar
El clasificador asigna una prioridad baja a una incidencia importante. Para revisarla, el responsable necesita información útil: las entradas utilizadas, la versión, los criterios del servicio y las limitaciones conocidas.
La explicabilidad y la interpretabilidad ayudan a comprender el funcionamiento y el significado de las salidas. La información necesaria dependerá de quién deba utilizarla y para qué decisión.
Una explicación convincente no garantiza que sea fiel al proceso que produjo el resultado. Tampoco asegura que podamos localizar el dato de entrenamiento exacto que causó cada respuesta.
¿Qué haríamos en el caso del clasificador?
Contrastaríamos la prioridad con los criterios del servicio y la situación real. La persona responsable debería poder corregirla o escalar la incidencia si la información no basta. Después investigaríamos lo ocurrido, sin atribuir la causa de antemano.
Mirar también a las personas afectadas
Una mala prioridad puede dejar a alguien sin la atención que necesita. Por eso debemos preguntar quién puede resultar afectado y qué consecuencias puede sufrir, además de revisar los indicadores del servicio. La evaluación detallada de riesgos e impactos se trabajará en módulos posteriores.
Lo que está previsto
El procedimiento establece que las propuestas críticas del copiloto deben revisarse antes de ejecutarse.
Lo que podemos comprobar
Un registro muestra qué propuesta se revisó, qué se comprobó, qué se decidió y qué resultado tuvo la intervención.
Procedimiento y evidencia se complementan. El primero explica lo acordado. Los registros y los resultados ayudan a comprobar si se aplica y si funciona.
Repasar
Seis preguntas para empezar a gobernar
y las seis preguntas
- ¿Qué IA utilizamos? Inventario.
- ¿Para qué y dentro de qué límites? Finalidad y alcance.
- ¿Quién responde de su uso? Responsabilidades.
- ¿Qué puede salir mal y a quién afectar? Riesgos e impactos.
- ¿Cómo prevenimos y detectamos problemas? Controles técnicos, organizativos y humanos.
- ¿Cómo sabemos si funciona y qué debemos mejorar? Seguimiento y evidencias.
Pódcast 002
Tramo orientativo: 08:31–12:43.
Escucha con esta pregunta: ¿quién revisa una propuesta crítica y con qué capacidad de intervención?
Consultar el punto de escucha del episodio 002 ↗ (nueva pestaña)El tiempo procede de la transcripción. Mantén estos matices: la supervisión se adapta al uso y una explicación no siempre permite reconstruir la causa exacta de una salida.
Este episodio tiene su punto de escucha en los recursos del módulo 1. Si ya lo has escuchado, utiliza estas notas para repasar; no hace falta repetir el audio completo.
Practicar
Diseña una revisión que se pueda realizar
El copiloto de TechServe IT propone un comando para una operación crítica. El procedimiento dice «el técnico debe revisar», pero no concreta quién autoriza la ejecución ni qué hacer cuando existen dudas.
Propón cómo completarías ese circuito. Señala los responsables como una propuesta, sin dar por hecho que ya están asignados.
La respuesta no se guarda automáticamente. Descárgala antes de salir si quieres conservarla.
Consultar una solución orientativa
Responsables propuestos: una persona técnica competente revisa la propuesta. La función autorizada para cambios críticos decide sobre su ejecución. Si la duda excede su capacidad o autoridad, se escala al responsable definido en el procedimiento de cambios del servicio.
Condiciones: acceso al contexto y a los resultados de pruebas, tiempo suficiente y autoridad para impedir la ejecución mientras no se resuelvan las dudas. La revisión debe asignarse a quien tenga la competencia adecuada.
Evidencia: registro de la propuesta y su versión, comprobaciones realizadas, decisión y responsable de adoptarla, intervención ejecutada y resultado observado.
No existe una única respuesta válida. Lo esencial es que otra persona pueda comprender quién actúa, cuándo debe detenerse y cómo comprobar lo ocurrido.
Comprobar
¿La responsabilidad se puede ejercer?
Elige una respuesta por pregunta y consulta después la explicación.
Lo que te llevas
- Gobernar exige concretar decisiones, responsables y límites.
- La supervisión necesita conocimientos, tiempo, información y autoridad.
- Las explicaciones deben ayudar a revisar y actuar, con sus límites claros.
- Las evidencias conectan lo acordado con lo que realmente se realiza y sus resultados.