• 刘作老虎

    用dsh的自定义供应商接了自己的newapi,发现模型没办法调整推理等级,就拉下来代码让ai分析了一下

    结论就是编辑 ~/.dsh/settings.yaml,在供应商模型下加:```
    models:
    - id: deepseek-v4-flash
    reasoningEfforts:
    off: # off = 关思考
    max: max
    #这里支持 off minimal low medium high xhigh max
    ```保存即生效,不用重启,效果是这样的

    图片

    然后发现推理等级还有一个Default,看着多余

    在供应商那里加上 reasoning: max //默认的推理强度,Default就没有了

    还有就是设置模型支持多模态```
    models:
    - id: kimi-k3
    input:
    - text
    - image
    ``汇总一下``
    providers:
    newapi:
    displayName: newapi
    reasoning: max
    apiKeyEnv: NEWAPI_API_KEY
    api: openai-completions
    baseURL: https://api.newapi.ai/v1
    models:
    - id: deepseek-v4-flash
    contextWindow: 1000000
    maxTokens: 384000
    reasoningEfforts:
    max: max
    - id: kimi-k3
    contextWindow: 1048576
    maxTokens: 131072
    input:
    - text
    - image
    reasoningEfforts:
    high: high
    max: max
    ``用过 pi 的佬友应该发现了,这怎么和 pi 的配置差不多,dsh 的这套自定义供应商llm-pi-ai是基于pi-ai 做的,pi`的一些其他配置理论上也支持

    主楼
  • 九翅金乌

    感谢佬友分享经验,但你v4flash的maxtokens设置的是三百八十四万。。。

    #1
  • 潜伏神经元

    老姐一定是认认真真的看帖子了。^-^

    #2

发表回复

登录后回复