我们平台软件想接入 AI 大模型，请问下各位大佬着手点

需求 2-3: langchain 和 chromadb 应该就够了

故障智能诊断 做做梦就好了 这玩意是最恶心的 常规的故障你连数据都拿不到 也就是说那种光靠检测数据异常就能报警的值你都搞不定 还想搞 AI 诊断

AI 最大的问题是不懂物理规律，还是个不可观测的东西，但凡有物理规律了，就不用 AI ，小单片机都能搞定

先验证行不行呗，手工把日志扔给 llm 看是否能诊断出来问题，然后验证是不是正确呗，或者说准确率有多少。
其他的东西，简单的搜一下就可以知道了吧。

AI 搞的那个东西不叫故障诊断，叫故障预测，比如你这个挖机再开 10 个小时就要趴窝，提醒你赶快检修

电力系统的一直想搞，但是最后都是停留在无人机拍照就不了了之了

故障诊断堆传感器就可以解决，飞机不就是么，哪个部件有故障给你报的明明白白的

@murmur #4 我们正常为了降本不可能加那么多传感器的，所以想排障只能考两种办法：1. 拆机逐项检查； 2. 靠人工经验。

另外，这个挖机是打比方，实际产品不是挖机

@unt 现在大模型和以前简单的判断不就是 AI 可以处理更多、更复杂的参数，让 AI 去试图理解人类发现不了的关系，到头来还是传感器堆料

容易上手可以看看 Dify

1 的解法，传统机器学习算法里的决策树，或者 K 近邻算法都可以尝试。如果已知样本（已知故障类型），对于未知样本（当前故障）属于哪种类型，本质上就是分类。和 LLM 有个蛋关系？

2 这种随便一个小型（有个 2 张 3060 的显卡的 pc 足矣）的 ragflow 就能搞定。

3 才是最难的。得具体问题具体分析，没有什么标准解。

AI 的优势是比人类更强的上下文处理能力。所以他擅长的是，繁复数据中挖掘人类未能发现的统计学规律。

你的需求 1 ，并不是这个领域的问题。AI 要的是尽可能多的数据来覆盖所有的可能性，然后挖掘统计学规律。不是根据局部数据反推全部。所以你目前人不能判断，AI 还是不能判断。因为故障点判断困难的本质原因是信息缺失。

需求 2 和 3 确实可以，但是需要精度不高的场景。精度高的场景是不能容忍幻觉的。现阶段还不能保证大语言模型不产生幻觉。


至于扣子，其实就是针对目前大语言模型的能力有限（上下文容量、hops 数量），从而提出的中间态解决方案。业界叫 agent 。
既由人来编写脚本，通过脚本链条串联一个或以上的大模型能力，从而达到单次大模型交互达不到的效果。

比如，“今天天气怎么样？” -> 大模型语义理解 -> 调用 windy.com 的 API -> 处理返回值 -> 提示词处理 -> 喂给大模型做口语化 -> 输出。

1. 不了解，大概你需要把所有故障文字化，然后提示词里给它足够的异常 case
2. 不用知识库，1w 字很少直接喂进系统提示词都够
3. 扣子最容易上手

你需要的是 找个做过数学建模的大学生 帮你做 系统建模. 而不是 ai 特别是 llm

除非你的日志里面已经写好哪些情况是故障问题, 然后你已知哪些故障特征组合 是某些问题, 那么这样 LLM 是可以用的. 如果是一堆数字 那还是机器学习或者数学建模把

大模型不是万能的 但些机器学习脚本 dashboard 这些还是好用的

最近我们公司也是想接 AI 能力，但是我觉的很费劲呀，特别是对接现有业务数据和固有数据（公司的商品，员工，仓库）让大模型理解不胡说八道很麻烦，或者我对相关的知识储备不足导致那么费力。
我现在是用 Dify 在弄相关的流程。

关键领导要的最终效果特别理想化，例如：想根据聊天内容，分析出来都干了下，做记录总结，最好能做到智能回复。

唉，最近被这玩意折腾的有点累

1 你就别拿 AI 来算了。。误报率得气死你。属于薛定谔的故障。故障预测是有很多模型的，你让 AI 协助你做这样的系统都比直接用他来强

增加一个 AI 按钮，点击后提示：功能开发中，敬请期待。

(实际永远不要上线)

故障诊断是在机器学习领域一个常见的业务范畴，AI 大模型并不适合。
你需要对你的数据打好标签，使用机器学习算法做训练。

我最近在弄 aiops （智能化运维），现在是做到了故障告警这一块。
我说下我们现在告警的流程：
1. 采集监控数据
2. 多指标融合检测
3. 检测出故障之后，结合日志进行根因分析
到根因分析这一步才用到 ai 大模型，检测阶段更多的是机器学习。
这个流程是需要很多前置条件，监控采集就需要打通很多环节

首先，不少人说使用 llm 来做这事不现实，我不这么认为。llm 能不能判断好，其实和人的先验知识关系很大，比如人是如何判断的，那么可以通过提示词让 llm 也如此判断。这需要了解业务。
其次，现阶段，llm 能不能发挥大作用，工程化很重要，比如数据对接、这一块可能大多数的编排平台没有现成的，需要配合业务平台开发才行。

你就多招几个大学生帮你做，也算是人工的智能了。