dify agent 智能体疑问

109 天前
 hmxxmh

想请问一下大家,在做智能体的时候,怎么进行意图识别优化的? 实测发现,在单轮对话或者多轮对话用户输入意图明确的时候,意图识别非常准确 但是遇到 多轮对话,用户输入: 嗯 ok 这样吧 等一下模糊词语的时候,意图识别就不准了 我的尝试:

2220 次点击
所在节点    程序员
13 条回复
OPjAM00kwaAD68B5
109 天前
能详细说一下你要怎么做意图识别吗?
是从对话上下文归纳到几个选项上吗?
aaronlam
109 天前
最近也在做相关场景的应用,所想到的解决方法和楼主也很相似。。。
但是效果都差强人意,而且如果按第 1 种,对于大模型的 token 消耗也是很可观的量。
rexyan
109 天前
23 结合起来,超过窗口的部分进行总结
wyntalgeer
109 天前
embedding 模型对意图识别的能力非常有限,还是要从文档内容上下功夫,把意图判断这一块加到文档里
ChristopherY
109 天前
memory bank 以及后续的一系列技术应该就是用来解决这类问题的
ChristopherY
109 天前
memory bank 以及后续的一系列技术应该就是用来解决这类问题的
leehaoze98
109 天前
2 ,3 结合,其实不一定需要用大模型提炼总结,可以结合你具体的业务场景,将历史对话信息沉淀到一个结构化的数据结构里存储起来,每次调用大模型给他最近几轮对话,以及这个数据结构就可以。

举个例子,用户对话中提选择了某某方式,大模型输出时调用一个工具,将这个信息沉淀到你的数据结构里,后续对话大模型也记得这个选择。
conn457567
109 天前
mem0 之类的组件就是用来处理长短期记忆的
conn457567
109 天前
基本就是 2 3 的思路,短期记忆只保留之后 3 轮,多余的都通过 AI 压缩到第一轮里面,然后如果要回忆更久之前的记忆就需要搜索长期记忆,长期记忆其实就是一个向量库
hmxxmh
108 天前
@shyr0ck 对,通过提示词,给大模型设定好角色,然后告诉他有哪些类别,每个类别提供一段描述和示例
hmxxmh
108 天前
@rexyan 怎么总结也是一门学问,现在提炼了发现效果不明显,大模型还是会理解不了,可能是我的提示词有问题
hmxxmh
108 天前
@ChristopherY 谢谢,我学习一下
hmxxmh
108 天前
@conn457567 长期记忆和向量库怎么结合,是要把历史信息存到向量库里面,再进行检索召回吗
VtoEXL
108 天前
我们也有个类似的需求,一步步引导用户完成一个最终操作,整个流程都是顺序过来的,用 dify 还没有很好的思路

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://ex.noerr.eu.org/t/1125628

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX