Glosario del SGIA y la inteligencia artificial, en palabras claras

Si una palabra te frena, párate aquí un momento. La idea es que entiendas qué significa, para qué sirve y cómo se lleva a la práctica.

No hace falta aprenderse estas definiciones de memoria. Utiliza el glosario cuando lo necesites y vuelve después a la lección con la idea más clara.

Cómo leer cada término: primero encontrarás una explicación sencilla; después, un ejemplo y una aclaración para evitar confusiones.

Los ejemplos plantean situaciones del caso ficticio Tech Server IIT Spain. Son ayudas para aprender, no hechos de una empresa real. Las definiciones son explicaciones didácticas propias; para consultar requisitos concretos, acude al texto normativo correspondiente.

Si empiezas, empieza aquí: diez ideas para orientarte

Lee estos conceptos en este orden. No necesitas dominarlos todos hoy: busca primero qué papel tiene cada uno en el conjunto.

  1. Sistema de IA
    La solución que utilizamos para prestar una función.
  2. SGIA · Sistema de gestión de la inteligencia artificial
    Cómo organizamos la gestión de esa IA.
  3. Gobierno o gobernanza de la IA
    Quién decide, con qué criterios y ante quién responde.
  4. Alcance del SGIA
    Qué actividades y límites abarca nuestro sistema de gestión.
  5. Uso de IA
    Para qué utilizamos la IA en una situación concreta.
  6. Riesgo
    Qué podría afectar a nuestros objetivos y en qué condiciones.
  7. Impacto de la IA
    Cómo puede afectar ese uso a las personas y a su entorno.
  8. Control
    Qué medida aplicamos para modificar el riesgo o cumplir una condición.
  9. Evidencia
    Con qué información comprobamos lo que afirmamos.
  10. Mejora continua
    Qué aprendemos y qué cambiamos para hacerlo mejor.

Cada enlace abre la definición completa. Después puedes seguir consultando por palabras o volver a la lección que estabas leyendo.

No confundas…: cuatro diferencias que ayudan a trabajar mejor

Riesgo e impacto

El impacto describe una consecuencia o un efecto sobre las personas y su entorno. El análisis de riesgos relaciona escenarios, incertidumbre, probabilidad y consecuencias con los objetivos que queremos proteger.

Ejemplo del caso: Si el clasificador resta prioridad a una incidencia urgente, una persona puede sufrir una demora en la atención: ese es un posible impacto. El análisis del riesgo estudia en qué condiciones puede ocurrir, con qué consecuencias y qué haremos al respecto.

Consulta las definiciones: Riesgo · Impacto de la IA.

Corrección y acción correctiva

La corrección resuelve una no conformidad detectada. La acción correctiva actúa sobre su causa para evitar que vuelva a ocurrir; después hay que comprobar su eficacia.

Ejemplo del caso: Retirar una respuesta equivocada del chatbot corrige ese caso. Si el fallo se debe a una fuente desactualizada, revisar cómo se publican y caducan las fuentes puede formar parte de la acción correctiva.

Consulta las definiciones: Corrección · Acción correctiva.

Verificación y validación

La verificación comprueba requisitos especificados. La validación comprueba si la solución sirve para el uso previsto y en las condiciones en las que se utilizará. Ambas necesitan evidencias.

Ejemplo del caso: Comprobar que el chatbot conserva las referencias exigidas es una verificación. Probar con consultas representativas que permite atender el servicio y derivar los casos que no debe resolver forma parte de la validación.

Consulta las definiciones: Verificación · Validación.

Certificación y acreditación

La certificación se refiere al cumplimiento de unos requisitos dentro de un alcance definido. La acreditación reconoce la competencia del organismo que realiza determinadas actividades de evaluación de la conformidad.

Ejemplo del caso: Una organización puede tener certificado su SGIA. Por separado, se comprueba si el organismo que emite ese certificado está acreditado para esa actividad y alcance. Son comprobaciones distintas.

Consulta las definiciones: Certificación · Acreditación.

A

Acción correctiva

También lo verás como: corrective action eliminar causa.

Actuación dirigida a eliminar una causa de una no conformidad para evitar que vuelva a producirse. Requiere investigar y comprobar su eficacia.

Ejemplo del caso: Tras investigar, se cambia una regla de revisión y se comprueba si evita nuevos casos similares.

Ojo con esto: La acción debe responder a una causa comprobada; impartir formación por defecto puede no resolverla.

Lo trabajamos en el curso →

Aceptación del riesgo

También lo verás como: risk acceptance aceptar riesgo.

Decisión informada de asumir un riesgo concreto, tomada por una función con autoridad y bajo condiciones identificadas.

Ejemplo del caso: La función competente valora si permite temporalmente un uso, con límites y una fecha de revisión.

Ojo con esto: «No hacer nada» no equivale automáticamente a una aceptación autorizada.

Lo trabajamos en el curso →

Acreditación

También lo verás como: accreditation organismo acreditado.

Reconocimiento de la competencia de un organismo para realizar unas actividades de evaluación de la conformidad concretas. Importa comprobar qué actividades abarca.

Ejemplo del caso: Se revisa si una acreditación cubre la actividad de certificación que se está considerando.

Ojo con esto: Certificación de una organización y acreditación del organismo que la evalúa son conceptos distintos.

Lo trabajamos en el curso →

AI Act · Reglamento de Inteligencia Artificial

También lo verás como: Reglamento UE 2024/1689 ley europea IA.

Reglamento de la Unión Europea que establece obligaciones en materia de IA según el sistema, el uso y el papel de cada actor.

Ejemplo del caso: Antes de completar la matriz del monográfico se identifica qué sistema se analiza y qué papel tiene cada organización.

Ojo con esto: Implantar un SGIA puede ayudar a gestionar obligaciones, pero no sustituye el análisis legal del caso.

Lo trabajamos en el curso →

Alcance del SGIA

También lo verás como: scope limites ambito.

Delimitación de las actividades y relaciones que se gestionan dentro del SGIA. Permite saber qué estamos incluyendo y dónde situamos los límites.

Ejemplo del caso: El alcance identifica qué servicio y usos del chatbot se están gestionando.

Ojo con esto: Un elemento fuera de la organización puede seguir siendo una dependencia que debemos controlar.

Lo trabajamos en el curso →

Alfabetización en IA

También lo verás como: AI literacy alfabetizacion inteligencia artificial.

Preparación para comprender y utilizar la IA con criterio, reconociendo sus posibilidades, límites y consecuencias según la función de cada persona.

Ejemplo del caso: Quien utiliza el chatbot aprende a reconocer una respuesta dudosa y a pedir revisión humana.

Ojo con esto: La preparación debe ajustarse al trabajo; no todas las personas necesitan el mismo contenido.

Lo trabajamos en el curso →

Alucinación

También lo verás como: confabulacion hallucination.

Salida de una IA generativa que parece creíble, pero incluye información falsa o sin apoyo suficiente en las fuentes y el contexto.

Ejemplo del caso: El chatbot propone un paso de un procedimiento que no aparece en la guía aplicable.

Ojo con esto: Una respuesta puede incluir una referencia y seguir siendo incorrecta.

Lo trabajamos en el curso →

API · Interfaz de programación de aplicaciones

También lo verás como: application programming interface integracion API.

Conexión definida para que una aplicación solicite funciones o intercambie datos con otra. Ayuda a integrar servicios, pero necesita condiciones y accesos controlados.

Ejemplo del caso: La aplicación del copiloto envía una petición al servicio del modelo mediante su API.

Ojo con esto: Disponer de una API no demuestra que se pueda enviar cualquier dato ni ejecutar cualquier operación.

Lo trabajamos en el curso →

Aprendizaje automático

También lo verás como: machine learning ML.

Conjunto de técnicas que permiten ajustar un modelo utilizando datos, en lugar de programar manualmente cada relación que debe aplicar.

Ejemplo del caso: Se utilizan tickets previamente clasificados para ajustar un modelo que proponga categorías.

Ojo con esto: Aprender patrones del pasado no garantiza que funcionen igual en un contexto nuevo.

Lo trabajamos en el curso →

Auditoría interna

También lo verás como: internal audit auditoria SGIA.

Examen organizado de evidencias frente a criterios, realizado con la objetividad e imparcialidad necesarias para revisar el sistema de gestión.

Ejemplo del caso: AUD-001 prepara el alcance y la muestra; AUD-002 relaciona evidencias y hallazgos.

Ojo con esto: Una muestra parcial no acredita la conformidad de todo el SGIA.

Lo trabajamos en el curso →

Automatización y autonomía

También lo verás como: automation autonomy automatico.

La automatización ejecuta tareas mediante un sistema; la autonomía expresa cuánto puede actuar sin intervención humana en un contexto. Hay que concretar sus límites.

Ejemplo del caso: Un clasificador puede limitarse a sugerir una prioridad o aplicarla directamente, según su configuración.

Ojo con esto: La etiqueta de la herramienta no permite deducir qué puede ejecutar realmente.

Lo trabajamos en el curso →

B

Borrador y propuesta

También lo verás como: draft propuesta pendiente aprobacion.

Documento o planteamiento que está en elaboración, contraste o pendiente de decisión. Su estado debe quedar claro para quien lo consulte.

Ejemplo del caso: Una ficha propone responsables y fechas que todavía debe confirmar la función competente.

Ojo con esto: Una propuesta bien redactada no es un acuerdo aprobado.

Lo trabajamos en el curso →

C

Calidad de los datos

También lo verás como: data quality adecuacion datos.

Grado en que los datos sirven para la finalidad prevista. Interesan, según el caso, su exactitud, integridad, vigencia, representatividad y otras condiciones relevantes.

Ejemplo del caso: Una guía correcta para una versión antigua puede ser inadecuada para responder sobre la actual.

Ojo con esto: Más datos no significa necesariamente mejores datos para ese uso.

Lo trabajamos en el curso →

Causa raíz

También lo verás como: root cause causa.

Causa o conjunto de causas que explica un problema y sobre el que conviene actuar para evitar su repetición. Debe investigarse con evidencia.

Ejemplo del caso: Se estudia por qué una derivación quedó sin receptor y qué condiciones permitieron que ocurriera.

Ojo con esto: «Error humano» suele describir una parte del hecho, pero no explica por sí solo el funcionamiento que lo permitió.

Lo trabajamos en el curso →

Certificación

También lo verás como: certification certificado sistema persona.

Atestación de un tercero sobre el cumplimiento de unos requisitos dentro de un alcance definido. Hay que distinguir la certificación de un sistema de gestión de una credencial personal.

Ejemplo del caso: Un certificado del SGIA y una credencial de auditor describen objetos y alcances diferentes.

Ojo con esto: Completar las lecciones del curso no otorga por sí solo una certificación profesional ni del SGIA.

Lo trabajamos en el curso →

Chatbot

También lo verás como: bot conversacional asistente conversacional.

Aplicación que interactúa mediante una conversación. Su utilidad depende de la finalidad, las fuentes, los límites y la forma de continuar la atención.

Ejemplo del caso: USO-003 atiende consultas iniciales de soporte.

Ojo con esto: Conversar con fluidez no equivale a poder resolver cualquier incidencia.

Lo trabajamos en el curso →

Ciclo de vida de la IA

También lo verás como: AI lifecycle etapas.

Etapas por las que pasa un sistema o uso: necesidad, diseño, desarrollo o adquisición, pruebas, despliegue, operación, cambios y retirada, según corresponda.

Ejemplo del caso: El chatbot necesita decisiones antes de utilizarse, durante su operación y al preparar su salida.

Ojo con esto: La gestión no termina cuando la herramienta empieza a funcionar.

Lo trabajamos en el curso →

Cierre de una acción

También lo verás como: closure cierre autorizado.

Decisión de dar una actuación por finalizada cuando se cumplen las condiciones previstas y existe la autoridad necesaria.

Ejemplo del caso: MEJ-001 conserva qué se hizo, qué se comprobó y quién puede autorizar el cierre.

Ojo con esto: Propuesta, implantación, verificación de eficacia y cierre pueden ocurrir en momentos distintos.

Lo trabajamos en el curso →

Clasificador

También lo verás como: clasificacion de tickets.

Sistema que asigna o propone una categoría a una entrada, según los criterios y el funcionamiento definidos.

Ejemplo del caso: El clasificador propone criticidad y equipo de destino para una incidencia.

Ojo con esto: La categoría propuesta no debe confundirse con una decisión validada del servicio.

Lo trabajamos en el curso →

Códigos del expediente del caso

También lo verás como: SYS USO R-001 IMP-001 FD-001 SUP-001 PROV-001 CAM-001 RET-001 MON-001 INC-001 AUD-001 AUD-002 REV-001 MEJ-001.

Identificadores didácticos que permiten relacionar sistemas, usos, fichas y registros del curso. Ayudan a seguir una misma cuestión a través del expediente.

Ejemplo del caso: USO-003 identifica el chatbot; FD-001 organiza sus datos y SUP-001 su supervisión.

Ojo con esto: Estos códigos y nombres de archivo no son formularios obligatorios establecidos por ISO.

Lo trabajamos en el curso →

Competencia

También lo verás como: competence capacidades.

Capacidad para aplicar conocimientos y habilidades y realizar una tarea con el resultado esperado.

Ejemplo del caso: Una persona demuestra que puede revisar una propuesta técnica del copiloto mediante una práctica adecuada.

Ojo con esto: Asistir a un curso aporta formación; comprobar competencia exige valorar la tarea concreta.

Lo trabajamos en el curso →

Concienciación

También lo verás como: awareness sensibilizacion.

Comprender por qué una cuestión importa, qué se espera de cada persona y qué consecuencias puede tener su actuación.

Ejemplo del caso: Un técnico reconoce cuándo debe escalar una respuesta de IA que no puede verificar.

Ojo con esto: Conocer una norma no implica saber aplicarla en todas las situaciones.

Lo trabajamos en el curso →

Confidencialidad

También lo verás como: confidentiality secreto acceso.

Protección frente al acceso o divulgación de información a personas o sistemas que no deben recibirla.

Ejemplo del caso: Una conversación de soporte no se envía a un proveedor sin comprobar las condiciones y autorizaciones pertinentes.

Ojo con esto: Que una herramienta esté dentro de la empresa no demuestra que todos sus accesos sean adecuados.

Lo trabajamos en el curso →

Conformidad

También lo verás como: conformity cumplimiento de un requisito.

Situación en la que se cumple un requisito concreto. Para afirmarlo necesitamos saber qué se exigía y qué evidencia demuestra su cumplimiento.

Ejemplo del caso: Se comprueba que la revisión de fuentes se realizó antes de publicar, con el alcance y las condiciones establecidos.

Ojo con esto: Cumplir un requisito no demuestra que se cumplan todos los demás ni equivale por sí solo a obtener una certificación.

Lo trabajamos en el curso →

Conservación y retención de datos

También lo verás como: retencion retention plazo borrado.

Decisión sobre qué información se mantiene, para qué, durante cuánto tiempo y cómo se retira cuando deja de ser necesaria, considerando las obligaciones aplicables.

Ejemplo del caso: Se propone cuánto conservar los registros necesarios para revisar una respuesta y quién controla sus copias.

Ojo con esto: Guardar todo indefinidamente puede aumentar la exposición y dificultar la gestión.

Lo trabajamos en el curso →

Contexto de la organización

También lo verás como: context cuestiones internas externas.

Circunstancias internas y externas que influyen en lo que la organización necesita hacer y puede conseguir.

Ejemplo del caso: Las obligaciones del servicio, los recursos disponibles y la dependencia de un proveedor condicionan el uso de IA.

Ojo con esto: El contexto necesita información útil para decidir, no una lista genérica de tendencias.

Lo trabajamos en el curso →

Continuidad del servicio

También lo verás como: business continuity continuidad.

Capacidad de mantener o recuperar las actividades necesarias ante una interrupción, con prioridades y alternativas preparadas.

Ejemplo del caso: Si el chatbot falla, las consultas siguen un canal humano previsto.

Ojo con esto: Una copia de seguridad no sustituye, por sí sola, un plan de continuidad del servicio.

Lo trabajamos en el curso →

Control

También lo verás como: medida control organizativo tecnico.

Medida que ayuda a gestionar un riesgo o atender una necesidad aplicable. Puede actuar sobre tecnología, personas, procesos o relaciones con terceros.

Ejemplo del caso: Una revisión humana con reglas de escalado pretende evitar que una propuesta dudosa se aplique sin contraste.

Ojo con esto: La existencia del control y su eficacia son cuestiones diferentes.

Lo trabajamos en el curso →

Copiloto

También lo verás como: asistente IA.

Nombre habitual para una herramienta que ayuda a realizar tareas, como redactar o proponer código. Hay que concretar qué puede hacer y qué necesita revisión.

Ejemplo del caso: Un técnico recibe una propuesta de respuesta y decide si puede utilizarla.

Ojo con esto: La palabra «copiloto» no garantiza que exista supervisión efectiva.

Lo trabajamos en el curso →

Corrección

También lo verás como: correction subsanar.

Actuación para resolver una situación o incumplimiento detectado. Atiende el problema concreto que tenemos delante.

Ejemplo del caso: Se corrige la prioridad de un ticket que había quedado mal clasificado.

Ojo con esto: Arreglar ese ticket no elimina necesariamente la causa que puede repetir el problema.

Lo trabajamos en el curso →

Criterio

También lo verás como: criteria criterio de riesgo aceptacion auditoria.

Referencia que utilizamos para valorar o decidir. Debe estar identificada: de dónde procede, a qué caso se aplica y qué condición establece.

Ejemplo del caso: Para valorar una demora se utiliza el compromiso de atención que corresponda a ese servicio.

Ojo con esto: Un resultado no es bueno o malo solo por parecer alto o bajo; hay que compararlo con un criterio adecuado.

Lo trabajamos en el curso →

Criterio de aceptación

También lo verás como: acceptance criteria condición de aceptación.

Regla acordada antes de decidir que una entrega, una prueba o un cambio es aceptable. Debe ser suficientemente clara para que otra persona pueda aplicar la misma comprobación.

Ejemplo del caso: Antes de cambiar el chatbot se acuerda que los casos de prueba identificados deben conservar sus referencias y activar la derivación humana cuando corresponda.

Ojo con esto: El criterio establece qué se considerará aceptable; el resultado de la prueba dice qué ha ocurrido. No cambies el criterio después solo para dar por bueno el resultado.

Lo trabajamos en el curso →

D

Dato personal

También lo verás como: datos personales identificacion persona.

Información relacionada con una persona identificada o que puede ser identificada. Puede aparecer en textos, registros y combinaciones de datos.

Ejemplo del caso: Un ticket puede contener el nombre de una persona y una descripción que permita reconocerla.

Ojo con esto: Quitar el nombre no garantiza por sí solo que resulte imposible identificar a la persona.

Lo trabajamos en el curso →

Declaración de aplicabilidad (SoA)

También lo verás como: statement of applicability aplicabilidad controles.

Documento que permite entender qué controles son necesarios y las razones de inclusión o exclusión, en relación con el alcance y los riesgos.

Ejemplo del caso: La SoA relaciona las medidas seleccionadas para el clasificador con las necesidades que las justifican.

Ojo con esto: Marcar todas las casillas no demuestra que los controles estén implantados o funcionen.

Lo trabajamos en el curso →

Dependencia

También lo verás como: dependency tercero componente.

Elemento, servicio o actividad que se necesita para funcionar, aunque lo gestione otra función u organización.

Ejemplo del caso: El chatbot depende de un modelo contratado, de sus fuentes y del canal de atención humana.

Ojo con esto: Estar fuera de la empresa no elimina la necesidad de gestionar esa relación.

Lo trabajamos en el curso →

Deriva de datos

También lo verás como: data drift distribution shift.

Cambio en las características o distribución de los datos respecto a una referencia. Puede hacer necesario revisar las pruebas y los resultados del sistema.

Ejemplo del caso: Empiezan a llegar incidencias de un servicio nuevo, con vocabulario que apenas aparecía en los datos de referencia.

Ojo con esto: Detectar un cambio en los datos no demuestra automáticamente que el desempeño haya empeorado.

Lo trabajamos en el curso →

Deriva de infraestructura

También lo verás como: infrastructure drift terraform drift.

Diferencia entre la configuración esperada y la situación de la infraestructura, por ejemplo tras un cambio realizado fuera del flujo previsto.

Ejemplo del caso: Una modificación manual deja un recurso distinto de lo que describe el código de referencia.

Ojo con esto: No es lo mismo que deriva de datos de un modelo; aquí estamos comparando infraestructura y configuración.

Lo trabajamos en el curso →

Disponibilidad

También lo verás como: availability acceso servicio.

Posibilidad de acceder a la información o al servicio cuando se necesita, según las condiciones requeridas.

Ejemplo del caso: Si el chatbot no está disponible, el servicio mantiene una vía de atención alternativa prevista.

Ojo con esto: Estar encendido no basta si las personas autorizadas no pueden utilizarlo cuando hace falta.

Lo trabajamos en el curso →

E

Eficacia

También lo verás como: effectiveness resultado esperado.

Grado en que se consigue lo que se pretendía. Para comprobarla necesitamos un resultado esperado y una verificación adecuada.

Ejemplo del caso: La revisión implantada detecta y corrige los casos para los que se había diseñado.

Ojo con esto: Una acción ejecutada no equivale automáticamente a una acción eficaz.

Lo trabajamos en el curso →

Eficiencia

También lo verás como: efficiency recursos.

Relación entre los resultados obtenidos y los recursos utilizados. Ayuda a valorar cómo conseguimos el resultado.

Ejemplo del caso: Dos formas de revisión alcanzan la eficacia necesaria, pero una consume menos tiempo de trabajo.

Ojo con esto: Hacer algo rápido o barato no compensa que no consiga el resultado necesario.

Lo trabajamos en el curso →

EN 18286

También lo verás como: EN18286 gestion calidad IA articulo 17.

Norma europea de gestión de la calidad para fines regulatorios del AI Act. Se relaciona con los requisitos de calidad del artículo 17 y con el ciclo de vida del sistema.

Ejemplo del caso: El monográfico conecta responsabilidades, pruebas, proveedores y seguimiento con procesos de calidad.

Ojo con esto: Su efecto de presunción de conformidad se limita a los requisitos cubiertos y las condiciones de la cita oficial.

Lo trabajamos en el curso →

ENS · Esquema Nacional de Seguridad

También lo verás como: Esquema Nacional Seguridad RD 311/2022.

Marco español de principios, requisitos y medidas para proteger la información y los servicios de los sistemas incluidos en su ámbito.

Ejemplo del caso: Al integrar un uso de IA en un servicio del sector público se revisa su relación con las medidas y responsabilidades existentes.

Ojo con esto: Un sistema con controles de seguridad sigue necesitando las comprobaciones específicas que correspondan a la IA.

Lo trabajamos en el curso →

Entrenamiento

También lo verás como: training.

Proceso en el que se ajusta un modelo con datos y un método de aprendizaje. Hay que conocer qué datos se utilizan y cómo se comprueba el resultado.

Ejemplo del caso: Un equipo ajusta el clasificador con una colección de incidencias etiquetadas.

Ojo con esto: Utilizar un modelo ya entrenado no significa que cada consulta vuelva a entrenarlo.

Lo trabajamos en el curso →

Escenario de riesgo

También lo verás como: risk scenario escenario.

Descripción razonada de qué podría ocurrir, bajo qué condiciones y con qué consecuencias. Conecta el análisis con un uso concreto.

Ejemplo del caso: Una descripción ambigua lleva a proponer baja prioridad y la incidencia urgente no se revisa a tiempo.

Ojo con esto: «La IA puede fallar» es demasiado general para seleccionar una medida útil.

Lo trabajamos en el curso →

Estado de infraestructura

También lo verás como: terraform state estado recursos.

Información que una herramienta utiliza para relacionar los recursos que gestiona con su configuración y seguir sus atributos. Es parte del control técnico y necesita protección.

Ejemplo del caso: Al revisar una importación se comprueba qué recurso existente se incorpora a la gestión y cómo queda relacionado.

Ojo con esto: El archivo de estado no es una copia de seguridad completa de toda la infraestructura.

Lo trabajamos en el curso →

Evaluación de impactos de IA

También lo verás como: AI impact assessment evaluacion impactos.

Análisis de cómo un sistema de IA puede afectar a personas, grupos y sociedad en su contexto de uso. Ayuda a prevenir o gestionar consecuencias relevantes.

Ejemplo del caso: Se examina quién puede verse perjudicado si determinadas incidencias reciben una prioridad insuficiente.

Ojo con esto: Se relaciona con la evaluación de riesgos, pero una no sustituye automáticamente a la otra.

Lo trabajamos en el curso →

Evaluación de riesgos

También lo verás como: risk assessment analisis valoracion.

Trabajo de identificar, analizar y valorar riesgos para decidir cuáles necesitan actuación, utilizando criterios definidos.

Ejemplo del caso: Se examina el escenario del clasificador, sus condiciones y las consecuencias antes de priorizar medidas.

Ojo con esto: La valoración debe conservar la información que falta y los límites del análisis.

Lo trabajamos en el curso →

Evidencia

También lo verás como: evidence evidencia objetiva prueba documental.

Información pertinente que respalda una observación o una conclusión. Su valor depende de la pregunta, su fiabilidad y lo que realmente permite demostrar.

Ejemplo del caso: Un registro de recepción ayuda a comprobar que una derivación llegó al canal previsto.

Ojo con esto: Una captura aislada puede orientar, pero quizá no baste para sostener una conclusión sobre todo el servicio.

Lo trabajamos en el curso →

Exactitud global

También lo verás como: accuracy acierto global.

Proporción de clasificaciones correctas sobre el total de casos evaluados. Resume el conjunto, pero puede ocultar problemas en una categoría importante.

Ejemplo del caso: De 100 tickets, 86 están bien clasificados: la exactitud global es del 86 %.

Ojo con esto: Un buen valor global puede convivir con fallos importantes en los tickets urgentes.

Lo trabajamos en el curso →

Explicabilidad

También lo verás como: explainability explicacion de resultados.

Capacidad de ofrecer información comprensible sobre el funcionamiento o los resultados, adecuada a quien necesita entenderlos.

Ejemplo del caso: Un técnico necesita conocer qué información sustenta una prioridad y qué límites tiene esa propuesta.

Ojo con esto: La explicación que redacta una IA no es automáticamente una descripción fiel de cómo se produjo su salida.

Lo trabajamos en el curso →

F

Falso negativo

También lo verás como: false negative FN.

Resultado que no detecta una condición que sí está presente según la referencia utilizada.

Ejemplo del caso: El filtro deja pasar un contenido que la revisión de referencia considera problemático.

Ojo con esto: Un número bajo de alertas puede ocultar casos que el sistema no está detectando.

Lo trabajamos en el curso →

Falso positivo

También lo verás como: false positive FP.

Resultado que señala una condición cuando, según la referencia utilizada, esa condición no está presente.

Ejemplo del caso: El filtro bloquea como problemático un contenido que la revisión de referencia considera permitido.

Ojo con esto: Además de contar errores, valora el coste de bloquear una actuación legítima.

Lo trabajamos en el curso →

G

Gestión de cambios

También lo verás como: change management CAM-001.

Forma de valorar y controlar una modificación, sus dependencias, pruebas, autorizaciones y seguimiento.

Ejemplo del caso: CAM-001 permite preparar el cambio de una versión del clasificador y definir cómo comprobarlo.

Ojo con esto: Una prueba favorable no sustituye la autorización del cambio cuando esta es necesaria.

Lo trabajamos en el curso →

Gobierno o gobernanza de la IA

También lo verás como: AI governance gobierno de IA.

Manera de orientar, decidir, supervisar y revisar el uso de la IA. Aclara quién responde y con qué criterios puede autorizar, limitar o detener una actuación.

Ejemplo del caso: Se define qué función puede suspender el chatbot si se supera un límite relevante.

Ojo con esto: Publicar una política ayuda, pero el gobierno necesita decisiones y capacidad para ejecutarlas.

Lo trabajamos en el curso →

Gravedad de las consecuencias

También lo verás como: severidad severity consecuencias.

Valoración de la importancia de lo que podría pasar. Depende de las personas afectadas, del servicio y de los criterios utilizados.

Ejemplo del caso: La misma demora puede tener consecuencias distintas según el trabajo que interrumpa.

Ojo con esto: No equivale a la probabilidad: algo poco frecuente puede tener consecuencias importantes.

Lo trabajamos en el curso →

H

Hallazgo de auditoría

También lo verás como: audit finding hallazgo.

Resultado de comparar la evidencia revisada con los criterios aplicables. Hay que poder explicar qué se observó y qué significa frente al criterio.

Ejemplo del caso: La muestra permite identificar que determinadas derivaciones no tienen la evidencia exigida por el procedimiento.

Ojo con esto: Un hallazgo no es necesariamente una no conformidad; depende de la comparación y de su resultado.

Lo trabajamos en el curso →

I

IA generativa

También lo verás como: inteligencia artificial generativa generative AI.

IA que produce contenido, como texto, imágenes o código, a partir de patrones aprendidos y de la información disponible en la petición.

Ejemplo del caso: El copiloto prepara un borrador de respuesta para que lo revise un técnico.

Ojo con esto: Un texto convincente puede contener errores. La calidad de redacción no acredita la veracidad.

Lo trabajamos en el curso →

Impacto de la IA

También lo verás como: impact efectos consecuencias.

Consecuencia que el desarrollo o uso de IA puede tener sobre personas, grupos, organizaciones o sociedad. Puede ser favorable o desfavorable.

Ejemplo del caso: Una demora de soporte puede prolongar la interrupción del trabajo de la persona afectada.

Ojo con esto: Contar errores técnicos no basta para comprender sus consecuencias sobre las personas.

Lo trabajamos en el curso →

Incidente de IA

También lo verás como: incident INC-001.

Suceso relacionado con un sistema o uso de IA que necesita atención y gestión por sus efectos reales o posibles, según los criterios aplicables.

Ejemplo del caso: Una respuesta problemática del chatbot se registra y se investiga conservando hechos y actuaciones.

Ojo con esto: No todo incidente implica una brecha de datos ni una obligación de notificación externa.

Lo trabajamos en el curso →

Indicador

También lo verás como: metric metrica medida.

Medida elegida para observar una característica o un resultado. Necesita una definición, una fuente, un periodo y un método de cálculo claros.

Ejemplo del caso: Se mide cuántas derivaciones tienen recepción humana confirmada sobre el total que correspondía atender.

Ojo con esto: Un porcentaje sin denominador ni periodo resulta difícil de interpretar.

Lo trabajamos en el curso →

Inferencia

También lo verás como: inference.

Momento en el que se utiliza el modelo para obtener una salida a partir de una entrada. Es lo que ocurre cuando se le pide una predicción o una respuesta.

Ejemplo del caso: Llega un ticket nuevo y el clasificador propone una prioridad.

Ojo con esto: Generar una salida y autorizar su aplicación son pasos diferentes.

Lo trabajamos en el curso →

Información documentada

También lo verás como: documented information documentos registros.

Información que la organización mantiene o conserva y controla para que resulte utilizable. Puede incluir documentos, registros y referencias en distintas herramientas.

Ejemplo del caso: La política, una ficha de datos y un registro de cambios forman parte de la información del expediente.

Ojo con esto: No tiene por qué estar toda en Word ni repetida en varios archivos.

Lo trabajamos en el curso →

Infraestructura como código (IaC)

También lo verás como: infrastructure as code terraform.

Forma de describir infraestructura mediante archivos de configuración que permiten revisar y gestionar cambios con herramientas específicas.

Ejemplo del caso: Una propuesta de Kumoss se revisa como cambios de configuración antes de aplicarse a la infraestructura.

Ojo con esto: Que el código sea válido no demuestra que el cambio sea adecuado o esté autorizado.

Lo trabajamos en el curso →

Integridad

También lo verás como: integrity alteracion datos.

Protección de la exactitud y completitud de la información y de sus cambios frente a alteraciones indebidas.

Ejemplo del caso: Se comprueba que la guía aprobada no se haya modificado sin control antes de utilizarla como fuente.

Ojo con esto: Integridad no significa que nunca se pueda cambiar un documento: los cambios deben estar controlados.

Lo trabajamos en el curso →

Inteligencia artificial (IA)

También lo verás como: AI artificial intelligence.

Conjunto de técnicas con las que construimos sistemas que generan predicciones, recomendaciones, contenidos u otras salidas a partir de la información que reciben.

Ejemplo del caso: El clasificador propone a qué equipo enviar una incidencia y con qué prioridad.

Ojo con esto: El nombre «IA» no demuestra que la herramienta sea adecuada para cualquier tarea.

Lo trabajamos en el curso →

Inventario de IA

También lo verás como: AI inventory sistemas usos.

Relación organizada de sistemas y usos de IA, con la información necesaria para entenderlos y gestionarlos.

Ejemplo del caso: Las fichas relacionan SYS-003 con USO-004, sus datos, responsables y dependencias.

Ojo con esto: Una lista de nombres de productos puede dejar sin explicar cómo se utilizan realmente.

Lo trabajamos en el curso →

Inyección de instrucciones

También lo verás como: prompt injection inyección de prompts instrucciones maliciosas indirect prompt injection.

Intento de desviar el comportamiento de una IA introduciendo órdenes que no deberían tener autoridad. Puede llegar en una petición directa o escondido en información que el sistema consulta, como un documento o una página.

Ejemplo del caso: El chatbot recupera una guía de soporte que incluye texto destinado a cambiar sus reglas y provocar una respuesta ajena a la consulta. El contenido de esa guía debe tratarse como información que analizar, no como una autorización para actuar.

Ojo con esto: No es lo mismo que una alucinación: aquí se intenta dirigir al sistema mediante instrucciones. Un filtro aislado no demuestra que todas las vías de entrada estén protegidas.

Lo trabajamos en el curso →

ISO/IEC 42001

También lo verás como: ISO 42001 ISO42001 norma SGIA.

Norma internacional que establece requisitos para organizar, implantar, mantener y mejorar un SGIA. Ayuda a conectar gobierno, riesgos, operación y evaluación.

Ejemplo del caso: El curso utiliza sus requisitos para ordenar responsabilidades, controles y evidencias del caso.

Ojo con esto: Es una norma de sistema de gestión; no certifica por sí sola que cada salida de la IA sea correcta.

Lo trabajamos en el curso →

K

KPI · Indicador clave de desempeño

También lo verás como: key performance indicator.

Indicador seleccionado porque ayuda a valorar un objetivo importante. Es «clave» por la decisión que apoya, no por tener un nombre llamativo.

Ejemplo del caso: La dirección utiliza la proporción de derivaciones atendidas según el criterio del servicio para revisar una prioridad.

Ojo con esto: No toda métrica técnica necesita convertirse en un KPI de dirección.

Lo trabajamos en el curso →

L

Latencia

También lo verás como: latency tiempo respuesta.

Tiempo que transcurre entre un punto de entrada y un resultado, medido con límites definidos. Hay que aclarar qué partes del recorrido incluye.

Ejemplo del caso: Se mide cuánto tarda el filtro en devolver un veredicto a la aplicación.

Ojo con esto: El tiempo de una pieza no equivale necesariamente al tiempo completo de atención al usuario.

Lo trabajamos en el curso →

Linaje de los datos

También lo verás como: data lineage recorrido transformaciones.

Posibilidad de seguir el recorrido de los datos y las transformaciones que han experimentado.

Ejemplo del caso: Se relaciona la guía original con el fragmento preparado e incorporado a las fuentes del chatbot.

Ojo con esto: Conocer el origen no explica por sí solo qué cambios ha sufrido la información.

Lo trabajamos en el curso →

LLM · Modelo de lenguaje de gran tamaño

También lo verás como: large language model modelo grande de lenguaje.

Modelo preparado para procesar y generar lenguaje. Puede ayudar a redactar o analizar textos, pero sus capacidades y límites dependen del modelo y de cómo se utilice.

Ejemplo del caso: El chatbot utiliza un modelo de lenguaje para preparar una respuesta de soporte.

Ojo con esto: No es una base de datos que garantice recuperar siempre un hecho verdadero.

Lo trabajamos en el curso →

M

Matriz RACI

También lo verás como: responsible accountable consulted informed.

Tabla que ayuda a distinguir quién realiza una tarea, quién responde por ella, a quién se consulta y a quién se informa.

Ejemplo del caso: Se aclaran las funciones de soporte, seguridad y dirección en la gestión de un incidente.

Ojo con esto: La matriz debe reflejar una organización viable, con autoridad y coordinación reales.

Lo trabajamos en el curso →

Mejora continua

También lo verás como: continual improvement mejora.

Actividad sostenida para mejorar el desempeño y la gestión utilizando resultados, experiencia y cambios del contexto.

Ejemplo del caso: Se revisa lo aprendido de los incidentes y se ajustan controles, objetivos o formas de trabajo.

Ojo con esto: Puede incluir mejoras proactivas, aunque no exista una no conformidad previa.

Lo trabajamos en el curso →

Minimización de datos

También lo verás como: minimizacion data minimization.

Utilizar los datos adecuados y necesarios para una finalidad concreta, evitando incorporar información que no hace falta.

Ejemplo del caso: Para una prueba del chatbot se preparan consultas sintéticas en lugar de copiar conversaciones personales completas.

Ojo con esto: Guardar menos no consiste en eliminar a ciegas información necesaria para una obligación o una comprobación.

Lo trabajamos en el curso →

Modelo de IA

También lo verás como: AI model.

Componente que representa patrones o relaciones y los utiliza para generar una salida. Muchos modelos se obtienen mediante entrenamiento con datos.

Ejemplo del caso: Un modelo propone la categoría de un ticket a partir de su descripción.

Ojo con esto: Cambiar de modelo puede alterar los resultados aunque la pantalla siga siendo igual.

Lo trabajamos en el curso →

Muestreo de auditoría

También lo verás como: sampling muestra.

Selección de una parte de los casos para examinarlos con una finalidad y un método definidos. Permite trabajar con un volumen manejable y conservar sus límites.

Ejemplo del caso: Se eligen derivaciones de distintos momentos y condiciones para contrastar el funcionamiento de SUP-001.

Ojo con esto: Revisar solo los casos más cómodos puede dejar fuera las situaciones que más interesa comprobar.

Lo trabajamos en el curso →

N

NIS2

También lo verás como: SRI 2 Directiva UE 2022/2555.

Directiva europea que establece un marco de ciberseguridad, con medidas de gestión de riesgos y obligaciones para las entidades comprendidas en su ámbito.

Ejemplo del caso: El análisis empieza por comprobar si la organización y el servicio están incluidos y con qué condiciones.

Ojo con esto: No se aplica a una empresa únicamente por utilizar IA; deben comprobarse el ámbito y el marco nacional aplicable.

Lo trabajamos en el curso →

NIST AI RMF

También lo verás como: artificial intelligence risk management framework marco NIST IA.

Marco del NIST para organizar la gestión de riesgos de IA. Sus funciones Govern, Map, Measure y Manage ayudan a gobernar, comprender, medir y gestionar los riesgos.

Ejemplo del caso: Se utiliza como apoyo para formular preguntas sobre contexto, personas afectadas y comprobaciones del chatbot.

Ojo con esto: Es un marco complementario; sus recomendaciones no son, por sí mismas, requisitos de ISO/IEC 42001.

Lo trabajamos en el curso →

NIST CSF 2.0

También lo verás como: cybersecurity framework CSF.

Marco de ciberseguridad del NIST organizado en seis funciones: gobernar, identificar, proteger, detectar, responder y recuperar.

Ejemplo del caso: El monográfico lo utiliza para conectar el servicio de IA con proveedores, vigilancia, incidentes y continuidad.

Ojo con esto: Las funciones se coordinan; no son una lista que se ejecuta una sola vez de principio a fin.

Lo trabajamos en el curso →

No conformidad

También lo verás como: nonconformity incumplimiento.

Incumplimiento de un requisito aplicable, sustentado en hechos y en un criterio identificado.

Ejemplo del caso: El procedimiento exige una revisión previa y la evidencia demuestra que una actuación concreta se ejecutó sin ella.

Ojo con esto: «No lo he encontrado todavía» requiere aclaración; no demuestra automáticamente que nunca haya existido.

Lo trabajamos en el curso →

O

Objetivo

También lo verás como: objetivos resultado meta.

Resultado que se pretende alcanzar. Para gestionarlo conviene concretar cómo se evaluará, quién lo impulsa y con qué medios.

Ejemplo del caso: Se propone reducir las derivaciones del chatbot que quedan sin atención humana confirmada.

Ojo con esto: «Mejorar la IA» necesita concretarse para poder comprobar un avance.

Lo trabajamos en el curso →

P

Parte interesada

También lo verás como: stakeholder partes interesadas.

Persona, grupo u organización que puede influir en una actividad, verse afectada o considerar que le afecta. Sus necesidades ayudan a orientar la gestión.

Ejemplo del caso: Usuarios, técnicos, cliente y proveedor pueden tener necesidades distintas sobre el chatbot.

Ojo con esto: No todas las expectativas se convierten automáticamente en requisitos exigibles.

Lo trabajamos en el curso →

PHVA · Planificar, Hacer, Verificar y Actuar

También lo verás como: PDCA plan do check act ciclo de mejora.

Ciclo para organizar la mejora: decidir qué se hará, llevarlo a la práctica, comprobar los resultados y actuar a partir de lo aprendido.

Ejemplo del caso: Se planifica una prueba de supervisión, se realiza, se revisa lo ocurrido y se ajusta el protocolo.

Ojo con esto: Repetir actividades sin utilizar los resultados para decidir deja el ciclo incompleto.

Lo trabajamos en el curso →

Plan de infraestructura

También lo verás como: terraform plan previsualizacion cambios.

Vista de los cambios que una herramienta de infraestructura prevé realizar a partir de la configuración y de la información que consulta.

Ejemplo del caso: El equipo revisa qué recursos se crearían, modificarían o retirarían antes de aplicar la propuesta.

Ojo con esto: Un plan revisado no equivale a un cambio aplicado ni garantiza que el entorno no haya cambiado después.

Lo trabajamos en el curso →

Política de IA

También lo verás como: AI policy compromisos.

Orientación y compromisos de la organización respecto a la IA. Sirve como referencia para decidir cómo actuar.

Ejemplo del caso: Se propone que los usos de IA mantengan responsabilidades y vías de intervención humana definidas.

Ojo con esto: Una política aprobada no demuestra, por sí sola, que se esté aplicando.

Lo trabajamos en el curso →

Precisión de las alertas

También lo verás como: precision valor predictivo positivo PPV.

Proporción de casos realmente positivos entre los que el sistema ha señalado como positivos. Responde a «de lo que alerta, ¿cuánto acierta?».

Ejemplo del caso: De 10 alertas de urgencia, 8 son correctas: la precisión de esas alertas es del 80 %.

Ojo con esto: En esta métrica, precisión y exactitud global utilizan denominadores diferentes.

Lo trabajamos en el curso →

Probabilidad

También lo verás como: likelihood posibilidad.

Valoración de lo posible o frecuente que podría ser un suceso, con un método y unas condiciones identificados.

Ejemplo del caso: Se revisan casos comparables para estimar con qué frecuencia podría fallar una clasificación.

Ojo con esto: Poner un número sin datos ni justificación no convierte una suposición en una estimación sólida.

Lo trabajamos en el curso →

Procedencia de los datos

También lo verás como: data provenance origen fuentes.

Información que permite conocer de dónde vienen los datos y en qué condiciones se obtuvieron.

Ejemplo del caso: FD-001 identifica la guía de soporte, su responsable y las condiciones para utilizarla.

Ojo con esto: Encontrar un documento en una carpeta no acredita que se pueda utilizar para cualquier finalidad.

Lo trabajamos en el curso →

Procedimiento

También lo verás como: procedure instrucciones de trabajo.

Forma establecida de realizar una actividad. Explica cómo se debe trabajar en unas condiciones determinadas.

Ejemplo del caso: Un procedimiento indica cómo revisar una propuesta crítica del copiloto y cómo registrar el resultado.

Ojo con esto: Tener instrucciones no demuestra que se hayan seguido en un caso concreto.

Lo trabajamos en el curso →

Proceso

También lo verás como: process.

Conjunto de actividades relacionadas que transforma unas entradas en unos resultados. Ayuda a entender cómo fluye el trabajo.

Ejemplo del caso: La gestión de cambios recibe una propuesta y produce una decisión y, cuando procede, un cambio controlado.

Ojo con esto: Un proceso no se reduce al documento que lo describe.

Lo trabajamos en el curso →

Prompt · Instrucción o petición a una IA

También lo verás como: prompts instrucciones contexto.

Información con la que se orienta una interacción: tarea, pregunta, contexto, restricciones y formato esperado.

Ejemplo del caso: «Prepara un borrador usando esta guía vigente; si falta información, indícalo».

Ojo con esto: Dar una instrucción no demuestra que el sistema la haya cumplido.

Lo trabajamos en el curso →

Proveedor de un servicio de IA

También lo verás como: proveedor comercial vendor terceros.

Organización que suministra una herramienta, componente o servicio relacionado con la IA. Su relación debe evaluarse según lo que aporta y las dependencias que crea.

Ejemplo del caso: PROV-001 organiza las comprobaciones sobre el servicio que utiliza el chatbot.

Ojo con esto: Ser proveedor comercial no determina por sí solo el papel jurídico que le corresponde en el AI Act.

Lo trabajamos en el curso →

Proveedor en el AI Act

También lo verás como: AI Act provider proveedor legal.

Actor que desarrolla o encarga desarrollar un sistema o modelo de IA y lo introduce en el mercado o pone el sistema en servicio bajo su nombre o marca, según el Reglamento.

Ejemplo del caso: Se analiza quién ofrece el sistema bajo su marca antes de asignar obligaciones.

Ojo con esto: No se deduce este papel solo de quién factura una licencia.

Lo trabajamos en el curso →

R

RAG · Generación apoyada en recuperación de información

También lo verás como: retrieval augmented generation recuperacion aumentada.

Técnica que recupera información de unas fuentes y la incorpora al contexto que utiliza el modelo para responder. Ayuda a conectar la respuesta con documentos concretos.

Ejemplo del caso: Antes de redactar, el chatbot recupera fragmentos de una guía de soporte autorizada.

Ojo con esto: Recuperar una fuente no garantiza que sea vigente ni que el modelo la interprete bien.

Lo trabajamos en el curso →

Registro

También lo verás como: record log registros.

Información conservada sobre una actividad, un hecho o un resultado. Permite dejar constancia de algo y puede formar parte de una evidencia.

Ejemplo del caso: INC-001 conserva la cronología y las actuaciones declaradas de un incidente.

Ojo con esto: Que un registro muestre «derivado» no acredita por sí solo recepción y actuación humanas.

Lo trabajamos en el curso →

Rendición de cuentas

También lo verás como: accountability responder por decisiones.

Capacidad y obligación de explicar las decisiones y sus resultados ante quien corresponda. Requiere responsabilidades y evidencias localizables.

Ejemplo del caso: La función autorizadora explica por qué se permitió un cambio y qué pruebas se tuvieron en cuenta.

Ojo con esto: Delegar una tarea no elimina automáticamente la responsabilidad de quien debe responder por ella.

Lo trabajamos en el curso →

Requisito

También lo verás como: requirement exigencia condición requerida.

Condición que debe cumplirse. Puede proceder de una norma, una ley, un contrato o una decisión de la organización; conviene identificar su origen y qué evidencia permitirá comprobarla.

Ejemplo del caso: El procedimiento exige revisar las fuentes del chatbot antes de autorizar su publicación. La revisión y su resultado deben quedar identificados.

Ojo con esto: Una recomendación o una preferencia no se convierte automáticamente en requisito. Comprueba qué es exigible en el contexto que estás evaluando.

Lo trabajamos en el curso →

Responsabilidad y autoridad

También lo verás como: roles funciones accountable responsible.

La responsabilidad indica de qué debe hacerse cargo una función. La autoridad indica qué decisiones o actuaciones tiene capacidad para adoptar.

Ejemplo del caso: Un supervisor necesita saber qué revisa y si puede detener una respuesta o escalar el caso.

Ojo con esto: Encargar una tarea sin tiempo, información o autoridad puede dejarla sin capacidad real de ejecución.

Lo trabajamos en el curso →

Responsable del despliegue en el AI Act

También lo verás como: deployer usuario profesional organizacion usuaria.

Actor que utiliza un sistema de IA bajo su propia autoridad, en el sentido del Reglamento, fuera del uso personal no profesional.

Ejemplo del caso: La organización que utiliza un sistema en su servicio debe analizar si ocupa este papel.

Ojo con esto: No se refiere simplemente al técnico que instala la aplicación.

Lo trabajamos en el curso →

Retirada

También lo verás como: retirement decommissioning RET-001.

Salida controlada de un sistema o uso. Considera atención alternativa, datos, accesos, contratos y dependencias que deben resolverse.

Ejemplo del caso: RET-001 prepara cómo dejar de utilizar el chatbot manteniendo la atención del servicio.

Ojo con esto: Apagar una pantalla no resuelve necesariamente las copias de datos o los accesos que permanecen activos.

Lo trabajamos en el curso →

Revisión por la dirección

También lo verás como: management review REV-001.

Revisión del sistema de gestión por la dirección para valorar su adecuación y funcionamiento y adoptar decisiones sobre cambios, recursos y mejora.

Ejemplo del caso: REV-001 reúne entradas y decisiones que después se siguen mediante MEJ-001.

Ojo con esto: No se sustituye por una auditoría ni por enviar un informe sin decisiones y seguimiento.

Lo trabajamos en el curso →

Riesgo

También lo verás como: risk incertidumbre objetivos.

Forma de considerar cómo la incertidumbre puede afectar a los objetivos. En el curso lo analizamos mediante escenarios, consecuencias y criterios para decidir.

Ejemplo del caso: Si una prioridad insuficiente del clasificador se aplica sin revisión eficaz, podría demorarse la atención.

Ojo con esto: La definición y los criterios dependen del marco; una escala interna no determina la categoría legal del AI Act.

Lo trabajamos en el curso →

Riesgo inherente

También lo verás como: inherent risk riesgo antes del tratamiento.

Estimación del riesgo antes de considerar las medidas de tratamiento definidas en el análisis. Sirve para compararlo con el riesgo que se espera que quede después, siempre que se mantengan criterios y supuestos coherentes.

Ejemplo del caso: Se valora el escenario de que el chatbot divulgue información sin considerar todavía las restricciones de acceso y la revisión propuestas. Después se analiza cuánto podrían reducirlo esas medidas.

Ojo con esto: La referencia «antes de los controles» depende del método: documenta qué medidas estás considerando y cuáles excluyes. No es una cifra universal ni necesariamente un riesgo observado.

Lo trabajamos en el curso →

Riesgo residual

También lo verás como: residual risk riesgo restante.

Riesgo que permanece después del tratamiento considerado. Nos ayuda a decidir si las condiciones resultantes son aceptables o requieren más actuaciones.

Ejemplo del caso: Tras introducir una revisión, todavía se analiza qué ocurre si el revisor no responde a tiempo.

Ojo con esto: Si las medidas están propuestas y no comprobadas, no presentes el riesgo residual previsto como un resultado observado.

Lo trabajamos en el curso →

S

Seguimiento

También lo verás como: monitoring monitorizacion.

Observación organizada del funcionamiento y sus señales a lo largo del tiempo. Permite detectar cambios y decidir cuándo revisar o intervenir.

Ejemplo del caso: MON-001 relaciona indicadores, fuentes, periodos y responsables de revisión.

Ojo con esto: Recoger datos sin revisarlos ni actuar ante señales relevantes deja el seguimiento incompleto.

Lo trabajamos en el curso →

Sensibilidad o exhaustividad

También lo verás como: recall true positive rate TPR.

Proporción de casos positivos reales que el sistema consigue detectar. Responde a «de lo que tenía que encontrar, ¿cuánto encontró?».

Ejemplo del caso: Había 20 tickets urgentes y detectó 8: la sensibilidad es del 40 %.

Ojo con esto: Puede haber alertas bastante precisas y, aun así, quedar muchos casos importantes sin detectar.

Lo trabajamos en el curso →

Sesgo

También lo verás como: bias sesgo perjudicial.

Tendencia sistemática que influye en resultados o decisiones. Hay que estudiar cuándo produce efectos perjudiciales y si procede de datos, diseño, reglas o prácticas humanas.

Ejemplo del caso: Se investiga por qué los tickets redactados de cierta manera reciben prioridades diferentes.

Ojo con esto: Una diferencia de resultados merece análisis; no demuestra por sí sola una causa concreta.

Lo trabajamos en el curso →

SGIA · Sistema de gestión de la inteligencia artificial

También lo verás como: AIMS artificial intelligence management system.

Forma de organizar políticas, objetivos, personas y procesos para gobernar la IA y mejorar su gestión. Explica cómo decide y trabaja la organización.

Ejemplo del caso: Se establece quién autoriza un cambio del chatbot, con qué pruebas y cómo se revisará después.

Ojo con esto: El SGIA gestiona la IA; no es el modelo ni la aplicación que genera respuestas.

Lo trabajamos en el curso →

Shadow AI · IA fuera de los circuitos establecidos

También lo verás como: IA en la sombra shadow IT.

Uso de IA fuera de la visibilidad o de las autorizaciones que la organización ha establecido para gestionarla.

Ejemplo del caso: Un equipo utiliza una herramienta de IA para tareas del servicio sin pasar por la revisión prevista.

Ojo con esto: Detectarla requiere comprender el uso y sus condiciones, no limitarse a buscar nombres de productos.

Lo trabajamos en el curso →

Sistema de alto riesgo en el AI Act

También lo verás como: high risk clasificacion legal.

Categoría jurídica que depende de las condiciones y usos contemplados en el Reglamento. Debe justificarse con los criterios aplicables.

Ejemplo del caso: La ficha de uso reúne la finalidad y el contexto antes de razonar la clasificación.

Ojo con esto: Una puntuación alta en la matriz interna de riesgos no convierte automáticamente el sistema en «alto riesgo» jurídico.

Lo trabajamos en el curso →

Sistema de IA

También lo verás como: AI system.

Es la solución que se utiliza para una finalidad: puede incluir un modelo, datos, reglas, conexiones e interfaces. Para gestionarla necesitamos comprender el conjunto.

Ejemplo del caso: El chatbot necesita el modelo, las fuentes de soporte, la aplicación y el canal de atención humana.

Ojo con esto: El modelo es una pieza; el sistema que presta el servicio incluye más elementos.

Lo trabajamos en el curso →

SLA · Acuerdo de nivel de servicio

También lo verás como: service level agreement acuerdo nivel servicio.

Acuerdo que recoge compromisos sobre la prestación del servicio. Puede concretar tiempos, disponibilidad u otras condiciones.

Ejemplo del caso: El servicio identifica el compromiso de atención que corresponde a una incidencia urgente.

Ojo con esto: Un objetivo interno no es automáticamente un compromiso acordado con el cliente.

Lo trabajamos en el curso →

SLI · Indicador de nivel de servicio

También lo verás como: service level indicator.

Medida utilizada para observar un aspecto del servicio, con una regla de cálculo definida.

Ejemplo del caso: Se mide el tiempo entre la recepción de una consulta y su atención humana confirmada.

Ojo con esto: El SLI es la medida; el objetivo o compromiso indica qué valor se pretende o se exige.

Lo trabajamos en el curso →

SLO · Objetivo de nivel de servicio

También lo verás como: service level objective.

Valor o condición que se pretende alcanzar para una medida del servicio. Conviene distinguirlo de los compromisos que se hayan acordado formalmente.

Ejemplo del caso: El equipo fija un objetivo interno para el tiempo de revisión de una derivación.

Ojo con esto: Un objetivo necesita condiciones de cálculo y un periodo para poder comprobarse.

Lo trabajamos en el curso →

Supervisión humana

También lo verás como: human oversight revision humana.

Organización de la intervención de personas para revisar, corregir, limitar o detener actuaciones. Requiere información, competencia, tiempo y autoridad adecuados.

Ejemplo del caso: SUP-001 define cuándo se deriva una consulta y qué debe poder hacer quien la recibe.

Ojo con esto: Mostrar un botón de revisión no acredita que alguien reciba y atienda el caso.

Lo trabajamos en el curso →

T

Transparencia

También lo verás como: transparency informacion al usuario.

Proporcionar información comprensible y pertinente para que las personas sepan cómo se utiliza la IA, qué pueden esperar y cómo actuar.

Ejemplo del caso: Se informa de que la respuesta procede de un chatbot, sus límites y la vía para pedir atención humana.

Ojo con esto: Un aviso genérico puede resultar insuficiente si no ayuda a tomar una decisión útil.

Lo trabajamos en el curso →

Tratamiento del riesgo

También lo verás como: risk treatment mitigacion.

Decisión y actuaciones para modificar un riesgo. Puede implicar cambiar el uso, reducirlo, evitarlo o adoptar otras respuestas justificadas.

Ejemplo del caso: Se propone impedir que una prioridad del clasificador se aplique sin una revisión prevista.

Ojo con esto: Seleccionar medidas es el comienzo; después hay que implantarlas y comprobar su resultado.

Lo trabajamos en el curso →

Trazabilidad

También lo verás como: traceability rastrear decisiones.

Posibilidad de relacionar una actuación o resultado con sus fuentes, versiones, responsables y decisiones pertinentes.

Ejemplo del caso: Se conecta una respuesta del chatbot con la fuente utilizada, su versión y la revisión posterior.

Ojo con esto: Tener muchos registros no garantiza poder reconstruir la cadena que interesa.

Lo trabajamos en el curso →

U

Umbral de decisión o alerta

También lo verás como: threshold limite puntuacion corte.

Valor o condición que determina cuándo se clasifica un resultado, se genera una alerta o se activa una actuación.

Ejemplo del caso: Una puntuación de un filtro supera el límite definido y solicita revisión humana.

Ojo con esto: Cambiar el umbral puede reducir unos errores y aumentar otros; hay que revisar el equilibrio.

Lo trabajamos en el curso →

Uso de IA

También lo verás como: use case caso de uso finalidad.

Aplicación concreta de un sistema a una tarea, con una finalidad y unas condiciones. Un mismo sistema puede tener varios usos que requieren valoraciones distintas.

Ejemplo del caso: Un mismo copiloto ayuda a redactar respuestas y a proponer código.

Ojo con esto: Autorizar un producto no equivale necesariamente a autorizar todos sus usos.

Lo trabajamos en el curso →

V

Validación

También lo verás como: validation validar.

Comprobación de que una solución sirve para el uso previsto, con evidencias adecuadas a ese contexto.

Ejemplo del caso: Se prueba el clasificador con casos representativos del servicio para valorar si sus propuestas son utilizables.

Ojo con esto: Funcionar en un ensayo cómodo no demuestra que sirva para las condiciones reales previstas.

Lo trabajamos en el curso →

Verificación

También lo verás como: verification verificar.

Comprobación de que se cumplen unas condiciones o requisitos especificados. La pregunta es si el resultado coincide con lo que se había definido.

Ejemplo del caso: Se comprueba que la configuración bloquea una acción que debía estar prohibida.

Ojo con esto: Superar esa comprobación no demuestra todavía que la solución sea adecuada para todos sus usos previstos.

Lo trabajamos en el curso →

Versión

También lo verás como: version control vigencia.

Identificación de un estado concreto de un documento, configuración, modelo o conjunto de datos. Permite saber qué se utilizó y si sigue vigente.

Ejemplo del caso: La respuesta del chatbot se relaciona con la versión de la guía consultada.

Ojo con esto: La fecha en que descargaste un archivo no sustituye necesariamente a su versión o fecha de aprobación.

Lo trabajamos en el curso →

Referencias para ampliar

Si quieres profundizar en el vocabulario y en su contexto, estas son algunas de las fuentes de referencia del curso.