i

Please enable JavaScript to view this site.

Documentación 9.4

Establece las restricciones cuantitativas, de consumo y de tiempo orientadas a controlar los costos derivados del uso de proveedores de IA y a prevenir bucles infinitos, saturación de la plataforma o consumo desmedido de recursos.

 

Esta configuración permite mantener un techo financiero estricto y salvaguardar el rendimiento técnico de la plataforma.

 

 

APG-LimitesyOperativos-001

Propiedades

 

Máximo de tokens de entrada

Limita la cantidad máxima de tokens que se pueden enviar al proveedor de IA dentro de una misma solicitud (prompt inicial y contexto).

 

Máximo de tokens de salida

Restringe la longitud máxima de respuesta generada por el modelo expresada en tokens.

 

Máximo de tokens diarios

Fija una cuota o cupo diario de consumo total acumulado por la política.

 

Máximo de invocaciones a herramientas

Restringe la cantidad de veces que un agente puede llamar a herramientas durante el procesamiento de una sola solicitud.

 

Máximo de reintentos a herramientas

Define cuántas veces se reintenta ejecutar una herramienta en caso de que falle o devuelva un error.

 

Máximo de interacciones

Acota el número total de turnos o intercambios conversacionales permitidos en un mismo flujo de trabajo o ejecución.

 

Timeout total

Establece el tiempo máximo de espera global, en segundos, para la resolución completa del requerimiento antes de abortar la ejecución.

 

Timeout del modelo

Fija el tiempo máximo de espera para la respuesta del modelo o proveedor de IA antes de declarar un timeout.

 

Timeout de herramientas

Define el tiempo límite permitido para que una herramienta externa o función procese y devuelva su respuesta.

 

Máximo de ejecuciones concurrentes

Limita la cantidad de peticiones o instancias del agente ejecutándose de manera simultánea.

 

Rate limit por agente

Restringe la tasa de solicitudes, es decir peticiones por minuto o por hora, que un mismo agente puede procesar.

 

Rate limit por usuario

Acota la frecuencia o cantidad de peticiones que un usuario individual puede realizar hacia la IA en un periodo determinado.

 

Máximo de archivos recuperados

Delimita el número máximo de documentos que la plataforma puede extraer en búsquedas de conocimiento.

 

Máximo de fragmentos RAG

Define la cantidad máxima de bloques o fragmentos de texto (chunks) devueltos por el motor RAG (Retrieval-Augmented Generation) para contextualizar la consulta del agente.

 

Acción al alcanzar el límite

Selector que determina la conducta que toma la plataforma al sobrepasar alguno de los límites parametrizados, por ejemplo bloquear nuevas ejecuciones.

Envianos tu comentario
Compartir en X Compartir en Linkedin Enviar por Email Imprimir