inference Semaphore
Gemeinsames Semaphor, das gleichzeitige lokale KI-Schlussfolgerungen über alle Module hinweg begrenzt (LLAMA, Tesserakt, Flüstern). Konfiguriert über „AI_LLAMA_ENGINE_MaxConcurrent“ (Standard 2).
Gemeinsames Semaphor, das gleichzeitige lokale KI-Schlussfolgerungen über alle Module hinweg begrenzt (LLAMA, Tesserakt, Flüstern). Konfiguriert über „AI_LLAMA_ENGINE_MaxConcurrent“ (Standard 2).