Glosario

Seguridad de la IA / AI safety: Prevenir daños y mantener fiabilidad y control adecuados.
Protección de la IA frente a ataques / AI security: Proteger sistemas y recursos frente a accesos no autorizados e interferencias maliciosas.
Gobernanza / governance: Instituciones, reglas, autoridad y rendición de cuentas que orientan decisiones sobre IA.
IA de uso general / general-purpose AI: Sistemas utilizables en muchas tareas.
IAG / AGI: IA hipotética de capacidad amplia; las definiciones y umbrales varían.
Superinteligencia / superintelligence: Capacidad muy superior a la humana en numerosos ámbitos relevantes.
Alineación / alignment: Lograr que el comportamiento sirva a objetivos y restricciones previstos.
Agente / agent: Sistema que realiza secuencias de acciones para cumplir tareas, a menudo con herramientas.
Entrenamiento / training: Actualizar parámetros del modelo con datos y cómputo.
Inferencia / inference: Usar un modelo entrenado para producir resultados.
Cómputo / compute: Recursos computacionales usados para entrenar u operar.
Prueba de referencia / benchmark: Conjunto definido de tareas y reglas de puntuación.
Evaluación / evaluation: Examen estructurado de capacidades, comportamiento o riesgos.
Alucinación / hallucination: Contenido generado falso o sin respaldo, no necesariamente deliberado.
Indicador sustituto / proxy: Medida que representa un objetivo y puede separarse de él.
Aprovechamiento de fallas en la especificación / specification gaming: Cumplir una métrica o regla sin satisfacer el objetivo real.
Uso malicioso / misuse: Uso deliberadamente dañino por una persona.
Modelo de amenazas / threat model: Descripción de actores, capacidades, accesos y vías de daño.
Vía causal / causal pathway: Pasos conectados que explican cómo podría surgir un resultado.
Pérdida de control / loss of control: Situación en que las personas no pueden dirigir eficazmente un sistema ni recuperar su control.
Defensa en profundidad / defense in depth: Varias salvaguardas para impedir que un fallo produzca daño.
Fallo correlacionado / correlated failure: Fallos que comparten una causa o dependencia.
Mínimo privilegio / least privilege: Otorgar solo los permisos necesarios para una tarea delimitada.
Monitoreo / monitoring: Observar señales que puedan exigir intervención.
Alternativa de respaldo / fallback: Proceso utilizable cuando el principal falla o deja de ser adecuado.
Apelación / appeal: Vía para cuestionar una decisión y obtener revisión.
Predicción / forecast: Afirmación sobre el futuro con supuestos e incertidumbre.
Calibración / calibration: Relación entre confianza declarada y aciertos en muchos juicios.

Los términos sirven para aclarar. Explica el mecanismo antes de nombrarlo. Safety y security pueden traducirse como «seguridad»; precisa qué sentido usas.