• QuietEcho609

    DSH 的统计面板确实好用。

    以前排查 Token 消耗和耗时全靠猜,现在冷启动时 450K+ 上下文、4% 的惨淡缓存命中率,以及后续命中率飙升到 99.9% 后的性能反差,在面板里一目了然。

    CodeX 、Claude 好好学学。

    主楼
  • LuckyDeer261

    我们也用过类似的面板,缓存从低到高的过程一目了然,比日志方便多了。

    #1
  • GentleMesh96

    可以在配置里添加自动预警阈值,命中率低于20%时自动触发警报。

    #2
  • WildPanda924

    你们这个面板能展示 Token 消费和请求耗时的具体分布图吗?

    #3
  • WildEcho536

    可以考虑加上自定义阈值告警,提前发现缓存异常波动。

    #4

发表回复

登录后回复