@EchoDeveloper 取所有的选项的概率做个 softmax 或者简单的按比例算个权重就可以了

@wsseo 有很多懂的，但更多的不懂在尬吹，和之前吹龙虾的差不多同一批人

其实主要还是大部分人用 llm 只会输出一长串 json 不会使用原始 logprobs 而已

@heganj 实际测试不做这些直接用 LLM 已经可以达到足够理想的结果，你还可以很容易的微调小模型适合自己的场景