Glosario de Uso y Aplicaciones de la IA

Porcentaje del volumen que efectivamente pasa por el sistema. Detecta el fracaso silencioso: que funcione, nadie se queje y casi nadie lo use.

Tendencia a dar la razón a la hipótesis contenida en la pregunta. Es el sesgo más peligroso de todos porque se siente como una validación independiente.

Sistema en el que el modelo decide qué pasos dar en cada ejecución. Se justifica cuando la secuencia depende de lo que se vaya encontrando; se paga en coste, latencia y falta de control.

Reentrenar parcialmente un modelo con ejemplos propios. Sirve para fijar comportamiento —formato, estilo, criterio—, no para aportar hechos que cambian.

Segunda fase: se enseña con ejemplos a responder peticiones en lugar de limitarse a continuar el texto.

Obligación del artículo 4 del Reglamento: que el personal tenga conocimiento suficiente sobre los sistemas que usa, adecuado a su formación y contexto.

Afirmación falsa producida con alta fluidez. Nombre desafortunado: no es una avería, es el resultado esperable de un sistema que optimiza plausibilidad y no veracidad.

Lista de usos de alto riesgo del Reglamento europeo de IA: empleo y selección de personal, educación, acceso a servicios esenciales, crédito y otros.

Incluir en el propio contexto unos pocos ejemplos resueltos de la tarea. Ajusta el comportamiento sin reentrenar nada, y se paga en tokens en cada llamada.

Mecanismo por el que cada token pondera a todos los demás del contexto para decidir de cuáles depende. Su coste crece con el cuadrado de la longitud, y de ahí que el contexto largo sea caro y lento.

Práctica de incorporar al conjunto de prueba cada error real que llega a un cliente, de modo que el incidente de este mes garantice que no se repite.

Combinación de recuperación semántica y búsqueda léxica clásica (BM25). La léxica clava identificadores y citas literales; la semántica, el parecido de sentido.

Descuento que aplican los proveedores al reutilizar un prefijo idéntico entre llamadas. Rentable a volumen alto; a escala pequeña, el ahorro puede ser inferior al trabajo de implantarlo.

Pedir al modelo que escriba los pasos intermedios antes de la respuesta. Mejora tareas de varios pasos porque cada paso se convierte en contexto del siguiente; no sirve como traza de auditoría.

Lista de usos candidatos con su valor mensual, su esfuerzo en horas y su nivel de riesgo, ordenada por euros al mes por hora invertida.

Datos de salud, ideología, biometría y otros (artículo 9 del RGPD). Su tratamiento está prohibido salvo excepción tasada, y "para ir más rápido" no es ninguna.

Degradación observada cuando se entrena repetidamente sobre datos generados por modelos: se pierde la cola de la distribución y todo converge hacia lo genérico.

Se compra lo genérico que no te diferencia y se construye lo que toca tus datos y tu proceso. Regla resumida: compra el modelo, construye el criterio.

Colección de casos reales, representativos y etiquetados a mano con la respuesta correcta. Es el activo más valioso de un sistema: sobrevive al cambio de modelo, de proveedor y de la persona que lo montó.

Unidad de medida propuesta en este máster: euros de consumo dividido por horas de trabajo que el sistema evita. Sitúa el gasto en tokens en su escala real.

Regla para situar la intervención humana: se automatiza lo que se puede deshacer y se pide confirmación para lo que no.

Paso más lento de un proceso encadenado: el único que determina el ritmo. Se mueve en cuanto lo tocas, así que la siguiente inversión rara vez va donde iba la anterior.

Acumulación de reglas añadidas incidente a incidente hasta que nadie recuerda por qué está cada una. Se contiene anotando la fecha y el motivo junto a cada regla.

Vector de números que representa el significado de un texto, de forma que los textos parecidos quedan cerca. Maneja mal la negación y los identificadores exactos.

Quien trata datos personales por cuenta del responsable. Exige contrato (artículo 28 del RGPD) con instrucciones, seguridad y régimen de subencargados.

Medida en bits de la indecisión del modelo en un punto concreto. Cero es certeza; con ocho candidatos, tres bits es no tener ni idea.

Pérdida de habilidad por falta de práctica cuando la asistencia automática cubre siempre la tarea. Documentada en aviación y aplicable aquí.

Comparar dos versiones sobre exactamente los mismos casos, de modo que solo cuentan aquellos donde una acierta y la otra falla. Reduce mucho el número de casos necesario.

Proporción de lo relevante existente que se ha recuperado. "No se me escapa nada". Es la métrica que de verdad decide, porque un fragmento que no llega garantiza el error.

Convención de este curso: obligar al modelo a marcar explícitamente los huecos en vez de rellenarlos con lo más plausible. Es el ejemplo canónico de convertir un fallo silencioso en uno ruidoso.

Momento en que termina el entrenamiento. El modelo desconoce todo lo posterior y no avisa de ello, lo que en cualquier trabajo con normativa cambiante es una trampa silenciosa.

La probabilidad de éxito de una cadena de N pasos independientes es p elevado a N. Seis pasos al 95% dan un 73,5%.

Secuencia de pasos fija, escrita por ti, que llama al modelo donde hace falta lenguaje. Más barato, más rápido y depurable. La mayoría de lo que se vende como agente debería ser esto.

Límite entre lo que un sistema hace bien y lo que hace mal, que no coincide con la intuición humana de dificultad. Dentro se mejora mucho; fuera se empeora respecto a no usarlo.

Función que el modelo puede invocar —calculadora, consulta a datos, validador—. El modelo decide y escribe la llamada; tu código la ejecuta. Devuelve exactitud y deja registro auditable.

Uso de herramientas no aprobadas por parte del equipo. Es el riesgo dominante en la práctica, y prohibirlo lo vuelve invisible en vez de eliminarlo.

Error en que la respuesta contradice el documento aportado. Es detectable comparando — y casi nadie compara, que es justo el problema.

Rango de valores compatibles con lo observado. Con 3 aciertos de 3, va aproximadamente del 44% al 100%: por eso tres ejemplos no demuestran nada.

Método de intervalo para proporciones que se comporta bien con muestras pequeñas, a diferencia de la aproximación normal.

Ataque en que un contenido externo que el sistema lee contiene órdenes que el modelo obedece. Sin solución completa hoy; se mitiga rompiendo la combinación de datos privados, contenido no fiable y salida al exterior.

La aceleración de un proceso es 1 dividido por [(1−f) + f/s], donde f es la fracción acelerada. Su techo es 1/(1−f), por buena que sea la herramienta.

Medición del proceso antes de tocarlo. Sin ella no se puede demostrar ninguna mejora, y un equipo que no puede demostrar mejoras pierde el presupuesto siguiente.

Puntuación sin normalizar que la red asigna a cada posible token siguiente, antes de convertirla en probabilidad con la función softmax.

Regla de decisión de dos ejes: lo que cuesta el error y lo que cuesta comprobar el resultado. Las tareas con error caro y verificación difícil no se automatizan.

Tabla que enseña qué se confunde con qué en una clasificación. Imprescindible cuando las clases están desequilibradas y la exactitud agregada miente.

Parte estable de la instrucción —papel, restricciones, formato— separada de los datos variables de cada caso. Se reutiliza igual, se versiona mejor y suele beneficiarse de descuento por caché.

Uso automatizado de obras para extraer información. La Directiva (UE) 2019/790 la ampara con excepciones, con posibilidad de reserva del titular para usos comerciales.

Principio del RGPD: solo los datos adecuados y limitados a lo necesario. En la práctica, no mandar al modelo lo que no hace falta para la tarea.

Usar un modelo para evaluar las salidas de otro. Barato y útil, con sesgos conocidos de longitud, posición y estilo propio. Debe validarse antes contra casos etiquetados a mano.

Artículo 50 del Reglamento europeo de IA: informar de que se interactúa con un sistema de IA e identificar el contenido sintético como tal.

Tiempo que tarda el ahorro mensual en devolver el coste de construir el sistema. En el caso del máster, catorce días.

Proporción de lo recuperado que era relevante. "No me traigo basura".

Primera fase: predecir el siguiente token sobre una cantidad enorme de texto. De aquí salen el conocimiento general, el estilo, los sesgos del corpus y la fecha de corte.

La instrucción completa que recibe el modelo. En un proceso que se ejecuta miles de veces al mes no es un mensaje: es un procedimiento escrito, con versión y con pruebas.

Arquitectura que busca los fragmentos relevantes de tus documentos y se los pone delante al modelo. Convierte una pregunta abierta en una de comprensión lectora.

Tercera fase: personas puntúan respuestas y el modelo se optimiza para sacar buena nota. Explica el tono servicial, las negativas y, sin pretenderlo, la adulación.

Modelo que compara pregunta y fragmento uno a uno para elegir los mejores de un conjunto amplio. Permite la exhaustividad de 30 candidatos al coste de contexto de 8.

Tendencia documentada a vigilar menos un sistema automático cuanto más fiable parece. Implica que un modelo mejor puede producir más errores que llegan al cliente si la mejora se la come la relajación del revisor.

Sustituir identificadores por marcadores antes de enviar el texto y deshacer la sustitución al recibirlo. Reduce mucho la superficie del riesgo; no exime del RGPD.

Medida de proximidad entre dos vectores: el coseno del ángulo que forman. Vale 1 si apuntan igual y 0 si son perpendiculares.

Función que convierte un vector de puntuaciones en probabilidades que suman 1, exponenciando cada una y dividiendo por la suma. Con temperatura T se divide antes cada puntuación por T.

Número de casos necesario para distinguir dos versiones. Crece con el inverso del cuadrado de la diferencia: detectar 3 puntos cuesta más de diez veces que detectar 10.

Proporción de lo generado que acaba sirviendo. Es el parámetro que decide si automatizar contenido compensa: con tasas bajas, generar más empeora las cosas porque el coste está en leer y descartar.

Probabilidad de que el revisor humano encuentre un error, sabiendo que existe. No es una constante: cae con la fluidez del texto y con la fiabilidad percibida del sistema.

Parámetro que afila (T menor que 1) o aplana (T mayor que 1) la distribución de probabilidad. Es un mando de variabilidad, no de calidad: subirla hace elegir más a menudo opciones que el propio modelo consideraba peores.

Tiempo transcurrido de principio a fin, esperas incluidas, frente al tiempo de trabajo, que solo cuenta minutos de persona. Reducir uno no reduce necesariamente el otro.

Retardo entre la petición y la primera palabra generada. Depende sobre todo de procesar la entrada, así que crece con la longitud del contexto.

Trozo de texto de tamaño variable —parte de palabra, palabra o signo— que es la unidad con la que trabaja y se factura un modelo. En castellano, aproximadamente 1,4 tokens por palabra.

Se descarta la cola de candidatos y solo se sortea entre los que hacen falta para acumular una probabilidad p. A diferencia de top-k, el número de candidatos se adapta a lo seguro que esté el modelo.

Arquitectura introducida por Vaswani y otros en 2017 sobre la que se construyen prácticamente todos estos modelos. Su pieza central es el mecanismo de atención.

Partir los documentos en fragmentos indexables. Hacerlo por estructura y con solape, en vez de cada N caracteres, es el paso menos vistoso y el que más resultados da.

Cantidad máxima de tokens que el modelo puede mirar en una sola llamada: instrucciones, documentos aportados y lo que lleva generado. Fuera de ella no hay memoria de ningún tipo.