Modelos
Configura un endpoint compatible con OpenAI o Anthropic usando la URL base y, si hace falta, una clave API. Prueba la conexión. Un servidor local debe estar en ejecución; las herramientas remotas pueden enviar datos por separado.
Producto
Funciones del programa · Admisión por cubeta de tokens
01
Reúne marcas de llegada y costes de solicitudes para revisar la recarga limitada y la admisión como una transición de estado explícita.
Proyecto
Selecciona una carpeta y pide al asistente que lea los archivos relevantes antes de editarlos. Mantén el objetivo y los límites de la tarea en la conversación.
Cambios
Revisa las modificaciones y la salida de los comandos. Ejecuta las comprobaciones de tu proyecto antes de aceptar el resultado; el código generado no está probado por defecto.
Admisión por cubeta de tokens
● ● ●TokenCoppice●
Flujos de trabajo · Admisión por cubeta de tokens ×
from math import isfinite
def admit(tokens, last, now, capacity, rate, cost):
values = (tokens, last, now, capacity, rate, cost)
if not all(type(x) in (int, float) and isfinite(x) for x in values):
raise ValueError("finite numbers required")
if not (capacity > 0 and rate > 0 and 0 < cost <= capacity
and 0 <= tokens <= capacity and now >= last):
raise ValueError("invalid bucket state")
refill = min(capacity, tokens + (now - last) * rate)
allowed = refill >= cost
return (refill - cost if allowed else refill, now), allowed✳Decide la admisión de una cubeta de tokens con una marca temporal explícita y devuelve el nuevo estado.
✓ CambiosRevisa antes de aplicar ↗
Vista ilustrativa