• baigeiwu

    公司有一个网页可以和AI聊天但是只能纯文本交流,我现在写了一个程序用来模拟我是一个大模型把opencode的消息封装一下分发给网页的API 但是几经尝试网页提供的API只认message agent tools 各种都不识别。各位巨佬有什么方案可以让我这个小程序 能实现更多功能吗?

    主楼
  • Rory

    描述的很难懂

    据我理解,就是希望将网页的只能聊天的 api 接到 opencode 去使用?

    遇到的问题就是 tools 调用等不支持。

    其实工具调用就是利用模型输出工具的调用参数格式,再经过本地程序执行,执行后回调的信息再交由模型处理,多轮调用就会有多轮这样的循环。

    根据这个思路,你的程序需要可以建立起来这个工具调用循环,让这个只支持 message的 api 在生成文本时能生成格式化的工具参数,经由 opencode 的能力来执行。

    #1
  • superlu

    不太明白你的意思,如果是想将现在的聊天对话改成agent可以使用一些现有的框架langchain agentscope等

    #2
  • null

    网关大概率做了参数清洗。别折腾API字段了,试试纯文本的ReAct模式:靠提示词约定输出格式,让你的本地程序去解析执行。最后提醒,注意控制请求频率,当心公司网关的内网审计

    #3
  • baigeiwu

    嗯 大概是这个想法 只能本地程序来实现 但是没有具体思路 比如我程序如何准确告诉模型 我都有哪些tool 并且从他消息中获取我该去调opencode的tool 之前简单问了ai 比如让他回复什么之类的 但是没整出来。

    #4

发表回复

登录后回复