Entity

三层分级上下文 (L0/L1/L2)

OpenViking 设计的精妙缓存机制,用于平衡性能与成本。L0处理实时对话;L1缓存活跃上下文;L2存储持久化海量数据。该机制旨在降低大模型Token消耗并保持低延迟。

相关文章