Package-level declarations

Types

Link copied to clipboard
class Standard : LLAMA

Standard: runner di modello GGUF generico tramite processo LLAMA-Server locale. Tutti i calcoli dell'IA avvengono nel processo LLAMA-Server esterno. Se va in OOM, la JVM Tomcat rimane in vita, solo il Il server LLAMA muore.