Sistema de IA y sistema de gestión
La herramienta produce un resultado. La organización decide para qué se utiliza, quién lo supervisa y qué hacer cuando algo falla.
Comprender
Tres niveles que se complementan
El componente
Modelo de IA
Representa relaciones o patrones que permiten producir determinadas salidas. Muchos modelos se obtienen mediante entrenamiento con datos.
En el chatbot: el modelo que genera la respuesta.
Para prestar el servicio necesita integrarse con otros componentes.
El sistema en funcionamiento
Sistema de IA
Procesa entradas y produce resultados, como contenido, recomendaciones, predicciones o clasificaciones.
En el chatbot: modelo, aplicación, configuración, fuentes y conexiones.
Ese conjunto permite recibir una consulta y presentar una respuesta.
La gestión de la organización
SGIA
Organiza las políticas, objetivos, responsabilidades y procesos para dirigir y mejorar el desarrollo, la provisión o el uso de la IA.
En el chatbot: quién autoriza su uso, qué se comprueba y cómo se actúa.
Incluye personas, procesos y tecnología.
La relación: el modelo forma parte del sistema de IA. La organización establece cómo se utiliza y gestiona ese sistema. El SGIA puede abarcar varios sistemas y usos de IA dentro de su alcance.
Aplicar
TechServe IT quiere mejorar su chatbot
El chatbot está dando algunas respuestas inadecuadas. El equipo propone cambiar su configuración. Esa intervención técnica y las decisiones que la rodean se necesitan mutuamente.
Intervenir en el sistema de IA
- Revisar las fuentes consultadas.
- Ajustar la configuración.
- Ejecutar pruebas con consultas representativas.
Estas actuaciones modifican o comprueban el comportamiento técnico.
Gestionar la intervención
- Definir quién autoriza el cambio.
- Acordar los criterios que deben cumplir las pruebas.
- Conservar sus resultados y decidir si se despliega.
- Comprobar después si la mejora funciona.
Estas decisiones organizan el trabajo y permiten revisarlo.
Atención: una prueba técnica también puede aportar evidencia al SGIA. No estamos separando dos trabajos aislados; estamos distinguiendo el funcionamiento del sistema de las decisiones que lo dirigen.
Comprar una aplicación para registrar riesgos puede facilitar la gestión. Por sí sola, no demuestra que los riesgos se hayan evaluado con información suficiente ni que las medidas acordadas funcionen.
Afinar el criterio
El sistema puede cambiar de varias formas
No toda IA aprende durante su uso. Antes de afirmar que «la IA ha cambiado», necesitamos identificar qué ha ocurrido en este sistema concreto.
El proveedor sustituye el modelo
Ha cambiado un componente del sistema. Conviene identificar la nueva versión, revisar sus efectos y aplicar el proceso de autorización y pruebas que corresponda.
Se actualizan los documentos que consulta el chatbot
Pueden cambiar las respuestas aunque el modelo mantenga sus parámetros. La revisión debe atender a las fuentes, sus versiones y su adecuación para las consultas del servicio.
Los clientes empiezan a preguntar por equipos nuevos
Ha cambiado el tipo de consultas. El modelo puede seguir siendo el mismo y recibir entradas distintas de las utilizadas al evaluarlo.
La deriva de datos describe cambios en la distribución de los datos respecto de una referencia. Una alerta ayuda a investigar; no demuestra por sí sola que el sistema haya perdido precisión. Hay que comprobar también los resultados y sus efectos.
Pregunta clave: si mañana cambiamos el modelo, ¿desaparecen las responsabilidades del servicio? No. La organización tendrá que revisar el cambio y sus consecuencias.
Conectar
Apoyos para fijar la diferencia
Sistema de IA frente a SGIA
En una incidencia, el sistema analiza la información y recomienda una prioridad. La organización define quién autoriza ese uso, cuándo se revisa la recomendación y cómo se actúa ante errores.
Descargar la infografíaPódcast 001
Tramo orientativo: 02:27–04:36.
Escucha la distinción entre el sistema y su gestión.
Este episodio tiene su punto de escucha en los recursos del módulo 1. Si ya lo has escuchado, utiliza estas notas para repasar; no hace falta repetir el audio completo.
Pódcast 002
Tramo orientativo: 07:09–08:30.
Relaciona la herramienta con las decisiones de la organización.
Este episodio tiene su punto de escucha en los recursos del módulo 1. Si ya lo has escuchado, utiliza estas notas para repasar; no hace falta repetir el audio completo.
Los tiempos proceden de las transcripciones. Recuerda el matiz de esta lección: el sistema no se reduce al modelo y la gestión también puede apoyarse en controles técnicos.
Practicar
Dos actuaciones para el mismo cambio
El proveedor anuncia una nueva versión del modelo del chatbot de TechServe IT. Propón una actuación técnica y una decisión de gestión. Explica cómo se conectan y qué evidencia conservarías.
La respuesta permanece en esta página mientras esté abierta. Descárgala antes de salir si quieres conservarla.
Consultar una solución orientativa
Actuación técnica: probar la nueva versión con consultas representativas y comparar los resultados con la versión actual, incluyendo casos problemáticos.
Decisión de gestión: proponer que el responsable del servicio coordine la aceptación con el equipo técnico, acuerde los criterios de las pruebas y valore los resultados antes del despliegue.
Conexión y evidencia: los criterios orientan las pruebas; sus resultados fundamentan la decisión. Conservaríamos la versión probada, los criterios, los resultados y la decisión adoptada. Es una propuesta didáctica que debe adaptarse al contexto.
Comprobar
¿Distingues los tres niveles?
Elige una respuesta por pregunta. Después podrás consultar la explicación y repetir el repaso.
Lo que te llevas
- El modelo es un componente; el sistema integra lo necesario para producir y utilizar resultados.
- El SGIA organiza las decisiones, responsabilidades y prácticas de gestión.
- Las medidas técnicas y la gestión se conectan mediante criterios y evidencias.
- Un cambio de resultados no significa necesariamente que el modelo haya aprendido.