inferenceHistory

Memorizza le ultime durate di inferenza MAX_HISTORY_SIZE (in ms) per chiave del tipo di modello. Utilizzato da estimateWaitMs per calcolare il tempo di inferenza medio per tipo di modello.