Modele
Dodaj endpoint zgodny z OpenAI lub Anthropic, podając bazowy URL i klucz API, jeśli jest wymagany. Sprawdź połączenie. Lokalny serwer modelu musi działać; zdalne narzędzia mogą przesyłać dane oddzielnie.
Produkt
Funkcje programu · Dopuszczanie przez kubełek tokenów
01
Rozpatruj czasy przybycia i koszty żądań wspólnie, aby ograniczone uzupełnianie i przyjęcie korzystały z jawnego przejścia stanu.
Projekt
Wybierz folder i poproś asystenta o przeczytanie odpowiednich plików przed ich zmianą. Określ cel oraz granice zadania.
Zmiany
Sprawdzaj zmiany i wyniki poleceń. Uruchom testy projektu przed zaakceptowaniem rezultatu; wygenerowany kod nie jest automatycznie przetestowany.
Dopuszczanie przez kubełek tokenów
● ● ●TokenCoppice●
Sposoby pracy · Dopuszczanie przez kubełek tokenów ×
from math import isfinite
def admit(tokens, last, now, capacity, rate, cost):
values = (tokens, last, now, capacity, rate, cost)
if not all(type(x) in (int, float) and isfinite(x) for x in values):
raise ValueError("finite numbers required")
if not (capacity > 0 and rate > 0 and 0 < cost <= capacity
and 0 <= tokens <= capacity and now >= last):
raise ValueError("invalid bucket state")
refill = min(capacity, tokens + (now - last) * rate)
allowed = refill >= cost
return (refill - cost if allowed else refill, now), allowed✳Wyznacz dopuszczenie przez kubełek tokenów z jawnego czasu i zwróć kolejny stan.
✓ ZmianySprawdź przed zastosowaniem ↗
Ilustracja środowiska