联系我们
官方QQ群:
759727312
在线客服:
客服一
客服二
官网地址: www.hxyjxsb.com

欢喜冤家

 找回密码
 立即注册
搜索
查看: 1|回复: 0

搭建gptagent的重排序模型部署实践

[复制链接]

3451

主题

3451

帖子

320

积分

初级外链

积分
320
发表于 1 小时前 | 显示全部楼层 |阅读模式
  "最近在搭建面向企业客服的gptagent时遇到了一个常见的痛点:从内部知识库中检索到的相关条目数量较多,其中混杂了不少关联度较低的内容,会让模型在生成回复时被干扰,出现答非所问或者冗余信息过多的情况,反复调整基础检索的关键词阈值也没能彻底解决这个问题。

  后来尝试通过添加重排序模型来优化检索链路,先通过基础检索获取候选条目,再用重排序模型筛选出匹配度更高的内容。可以借助开源工具FastGPT快速完成这套流程的搭建,具体的配置步骤可以参考FastGPT 部署文档,按照文档指引接入bge重排序模型,就能顺利将其整合到gptagent的工作流程中。

  需要注意的是,不同业务的知识库内容差异较大,建议先使用少量业务样本测试调整重排序的匹配阈值,找到最适配当前场景的参数,避免参数不合适导致检索效果反而下降。"




上一篇:用FastGPT搭建飞书知识库AI助手的实践
下一篇:解决跨部门信息差:用开源工具优化企业管理的尝试
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

快速回复 返回顶部 返回列表