Gobernanza de agentes de IA

Qué debe incluir un registro de auditoría de agentes de IA

Un agente de IA puede buscar, llamar APIs internas, modificar datos y enviar mensajes antes de mostrar la respuesta final. El registro debe reconstruir esa ejecución sin convertir prompts, secretos y documentos de negocio en un archivo sin control.

Actualizado

Puntos clave

  • Conecte identidad, autoridad, modelo, decisiones de política, herramientas, aprobaciones y efectos externos mediante una ejecución común.
  • Conserve campos canónicos para verificar y minimice o redacte los datos sensibles.
  • Exporte hashes, secuencias y metadatos de revisión para comprobar la integridad fuera de la aplicación de origen.

Comience con una identidad de ejecución y límites de autoridad

Asigne un identificador estable antes de la primera llamada al modelo. Planificación, búsqueda, herramientas, aprobaciones, reintentos y acciones finales deben llevar ese identificador junto con el tenant, el usuario o servicio solicitante y el rol delegado.

Distinga lo que pidió el usuario, lo que propuso el agente, lo que permitió la política y lo que aceptó el sistema externo. Así una sugerencia del modelo no aparece después como una acción de negocio completada.

  • Actor, tenant, rol delegado y contexto de autenticación.
  • Versiones de agente, modelo, plantilla, política y catálogo de herramientas.
  • Identificadores de ejecución, solicitud, ejecución superior y transacción externa.
  • Tiempo, región, entorno y servicio emisor de cada evento.

Registre decisiones y herramientas en el límite de ejecución

La conversación final no muestra el momento en que una intención generada se convierte en entrada ejecutable. Para cada herramienta registre nombre y versión, argumentos normalizados o su hash, controles de política, aprobación, inicio, resultado, error y objeto externo afectado.

Cada reintento necesita número de intento y motivo. De otro modo no se puede distinguir una segunda decisión de una repetición causada por timeout.

Reduzca datos sensibles sin perder capacidad de verificación

Una auditoría no justifica copiar contraseñas, tokens, datos personales o documentos completos. Mantenga identificadores y hashes y elimine credenciales, campos regulados y contexto innecesario según reglas por campo.

Registre la política de redacción aplicada. Si un investigador autorizado puede consultar el origen protegido, guarde la referencia y la decisión de acceso en lugar de duplicar el contenido.

Prepare revisión independiente y conservación desde el inicio

Permita consultas por tenant, ejecución, actor, herramienta, estado y periodo. Los archivos exportados necesitan esquema, versión, checksum, secuencia e instrucciones de verificación. La eliminación debe incluir índices, exportaciones, copias de seguridad y versiones recuperables.

Los materiales AI RMF de NIST destacan medición, documentación, historial y revisión independiente. Los controles concretos dependen de la institución, la normativa y las consecuencias de cada acción.

Referencias y fuentes de revisión

Diseñe la auditoría con un flujo real

Indique modelos, herramientas, aprobaciones, sistemas externos y conservación. Identificaremos los eventos que deben capturarse y verificarse.

Revisar el flujo