语义缓存

语义缓存基于输入语义相似性缓存AI响应结果，减少重复计算，提升推理效率。Higress.AI利用语义缓存加速常见查询处理。