Admisión por cubeta de tokens
Decide la admisión de una cubeta de tokens con una marca temporal explícita y devuelve el nuevo estado.
from math import isfinite
def admit(tokens, last, now, capacity, rate, cost):
values = (tokens, last, now, capacity, rate, cost)
if not all(type(x) in (int, float) and isfinite(x) for x in values):
raise ValueError("finite numbers required")
if not (capacity > 0 and rate > 0 and 0 < cost <= capacity
and 0 <= tokens <= capacity and now >= last):
raise ValueError("invalid bucket state")
refill = min(capacity, tokens + (now - last) * rate)
allowed = refill >= cost
return (refill - cost if allowed else refill, now), allowed| Proyecto | Comprueba el agotamiento exacto y la recarga limitada, rechazando tiempo regresivo, costes inválidos y valores no finitos. |
|---|---|
| Revisa antes de aplicar | Compara el comportamiento real con el resultado esperado. Si una prueba falla, investiga la causa antes de hacer más cambios. |
| Modelos | Configura un endpoint compatible con OpenAI o Anthropic usando la URL base y, si hace falta, una clave API. Prueba la conexión. Un servidor local debe estar en ejecución; las herramientas remotas pueden enviar datos por separado. |
from math import isfinite
def admit(tokens, last, now, capacity, rate, cost):
values = (tokens, last, now, capacity, rate, cost)
if not all(type(x) in (int, float) and isfinite(x) for x in values):
raise ValueError("finite numbers required")
if not (capacity > 0 and rate > 0 and 0 < cost <= capacity
and 0 <= tokens <= capacity and now >= last):
raise ValueError("invalid bucket state")
refill = min(capacity, tokens + (now - last) * rate)
allowed = refill >= cost
return (refill - cost if allowed else refill, now), allowedDescribe la transición de estado antes de cambiar la política
TokenCoppice es un entorno de programación para Windows donde examinar código de aplicación con estado mediante un modelo de IA. Empieza por registrar el estado anterior a una operación y el resultado esperado después. Así, la conversación tiene un contrato observable y resulta más fácil ver si un cambio propuesto aborda la política o solo reorganiza su aritmética.
Una función de admisión mediante cubo de tokens proporciona una tarea de ejemplo. Incluye en el análisis tus reglas actuales de capacidad, recarga y coste de solicitud, y pide al asistente que inspeccione el estado devuelto tras aceptar o rechazar una solicitud. El ejemplo ayuda a encuadrar la revisión del código; operar un servicio de limitación de solicitudes sigue siendo responsabilidad de tu aplicación e infraestructura.
Revisa la transición propuesta prestando atención a los supuestos temporales y al estado almacenado para la siguiente solicitud. Prueba límites como un saldo igual al coste exacto y una solicitud que llega sin que transcurra tiempo. Ejecuta esas comprobaciones en tu proyecto e inspecciona el código que llama a la función antes de suponer que una función auxiliar correcta localmente establece el comportamiento entre solicitudes concurrentes.
Puedes elegir modelos descritos como sin filtros mediante un servicio compatible con OpenAI o Anthropic admitido que los ofrezca. Configura las credenciales necesarias y verifica las herramientas y el contexto disponibles. Siguen aplicándose el comportamiento y los límites del modelo del servicio, mientras que tus criterios de aceptación se basan en la política declarada de la aplicación y en los resultados de las pruebas.
Preguntas sobre cambios en políticas con estado
¿Qué debe incluir una solicitud sobre una política de admisión?
Proporciona el estado inicial, el coste de la solicitud, los valores de tiempo y la decisión esperada. Indica qué valores actualizados deben almacenarse después. Esto permite al asistente razonar sobre una transición completa en lugar de deducir la política de una sola expresión aritmética.
¿Una función auxiliar correcta garantiza la limitación de solicitudes concurrentes?
No. Inspecciona cómo lee y escribe tu aplicación el estado compartido y qué garantías de concurrencia proporciona ese almacenamiento. Una función probada de forma aislada no demuestra que las solicitudes simultáneas no puedan consumir el mismo saldo disponible.
¿Cómo deben afectar las solicitudes rechazadas al estado almacenado?
Defínelo explícitamente para tu política, incluida cualquier recarga por tiempo transcurrido y actualización de marca temporal. Pide al modelo que explique la transición propuesta y prueba solicitudes sucesivas, ya que una llamada rechazada aparentemente inocua puede afectar a la siguiente decisión.
¿Puedo experimentar sin cambiar las reglas de admisión en producción?
Usa casos de prueba y una instancia de desarrollo de tu aplicación para comparar transiciones antes de aplicar un cambio de política. TokenCoppice facilita la conversación de programación; las decisiones de revisión y despliegue operativo siguen el proceso existente de tu proyecto.
TokenCoppice · Actualizado 2026-10-25