• 彩虹

    ^-^

    主楼
  • Mofeng

    不是普通的LLM 大模型 而且不支持多模态,也不是拿来做聊天的通用型人工智能

    他只做最简单的三件事:选择 判断和打分

    你可以把它简单理解成一个选择器 会根据不同的事件和内容做评估 给你方向和分数 它返回的参数很有限 你可以把它当做执行模型任务调度过程中的选择器去做优化

    比如你写代码的时候 可以让这个模型判断哪些上下文是比较有用的 哪些上下文是比较无用的 就可以让这个模型去给这些上下文打分 把低分的上下文就可以直接从你的模型记录里面删除 这样的话就可以节约你的上下文空间 日志其实也是一样的方式

    它主打的就是低延迟 也就是快

    #1
  • rocs

    正解

    #2
  • rocs

    测完我发现对英语判断比较好,对中文准确不行。

    #3
  • Mofeng

    本来也就是拿老外的资料做训练的肯定会稍微好一点

    #4

发表回复

登录后回复