• awoaCrim

    对于同一个远程压缩请求,让没有缓存的luna和有缓存的sol单次请求计费进行比对

    按 260K 输入 tokens、Sol 95% 缓存命中率计算。

    单次输入计费对比

    方案 |
    输入成本(260k) |

    Sol,95% 缓存命中 |
    $0.1885 |

    Luna,无缓存、普通输入 |
    $0.0520 |

    Luna,无缓存且全部按缓存写入计费 |
    $0.0650 |

    可以看出:

    - 普通0缓存 Luna 比 Sol 节省 $0.1365,约 72.4%;

    - 即使 Luna 全部按照缓存写入计费,也节省 $0.1235,约 65.5%;

    - Sol 的输入成本是 Luna 的约 2.9~3.6 倍。

    这还没有计算 compact 的输出成本。Sol 输出价格是 $30/M,Luna 是 $1.20/M,所以加入输出 token 后,Luna 的总体成本优势会进一步扩大。

    因此,在进行远程compact时,如果可以在compact时切换到luna模型进行请求会省不少额度(目前还不知道这种操作是否会影响到compact的质量)

    主楼
  • 金箍棒

    在长项目中会不会有上下文丢失的风险

    #1
  • Neo-linuxdo

    在 DeepSeek 大幅涨价的当下,这个模型非常有性价比。只不过放在涨价之前嘛,路一条罢了。

    但是在今天,我愿称之为神

    #2
  • airbounce

    切换模型compact会影响吧,不过没有做过具体的测试,压缩本身也是调用模型去执行它的提示词

    #3

发表回复

登录后回复