我们平台软件想接入 AI 大模型，请问下各位大佬着手点

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

• 请不要在回答技术问题时复制粘贴 AI 生成的内容

需求 1：故障智能诊断
比如我有一台挖掘机，可能的故障点有很多（ 30 种以上），现在需要自动诊断出准确的故障，依据是：1.设备历史运行数据，存放在日志数据库； 2.设备当前状态，存放在另外一个数据库； 3. 和设备相关联的一些设备/服务状态；
请问我该如何选型，怎么难度最低，后续如何渐进式学习。

需求 2：简单知识问答库
知识体量很小很小，估计就 1W 字左右。但是需要把它们融会贯通。至少目前飞书的知识问答有时候感觉就很差。

需求 3：智能客服
现在最简单最容易上手的框架是啥，有没有现成能用的。

另外问下：字节的扣子是个啥，能否满足基本 AI 需求。

大模型

智能诊断

18 条回复 • 2025-07-08 18:25:02 +08:00

donaldturinglee

5 小时 5 分钟前 via Android

需求 2-3: langchain 和 chromadb 应该就够了

murmur

5 小时 4 分钟前

故障智能诊断做做梦就好了这玩意是最恶心的常规的故障你连数据都拿不到也就是说那种光靠检测数据异常就能报警的值你都搞不定还想搞 AI 诊断

AI 最大的问题是不懂物理规律，还是个不可观测的东西，但凡有物理规律了，就不用 AI ，小单片机都能搞定

ZSeptember

5 小时 3 分钟前

先验证行不行呗，手工把日志扔给 llm 看是否能诊断出来问题，然后验证是不是正确呗，或者说准确率有多少。
其他的东西，简单的搜一下就可以知道了吧。

murmur

5 小时 2 分钟前

AI 搞的那个东西不叫故障诊断，叫故障预测，比如你这个挖机再开 10 个小时就要趴窝，提醒你赶快检修

电力系统的一直想搞，但是最后都是停留在无人机拍照就不了了之了

故障诊断堆传感器就可以解决，飞机不就是么，哪个部件有故障给你报的明明白白的

unt

4 小时 42 分钟前

@murmur #4 我们正常为了降本不可能加那么多传感器的，所以想排障只能考两种办法：1. 拆机逐项检查； 2. 靠人工经验。

另外，这个挖机是打比方，实际产品不是挖机

murmur

4 小时 36 分钟前

@unt 现在大模型和以前简单的判断不就是 AI 可以处理更多、更复杂的参数，让 AI 去试图理解人类发现不了的关系，到头来还是传感器堆料

gxy2825

4 小时 18 分钟前

容易上手可以看看 Dify

coefuqin

3 小时 37 分钟前

1 的解法，传统机器学习算法里的决策树，或者 K 近邻算法都可以尝试。如果已知样本（已知故障类型），对于未知样本（当前故障）属于哪种类型，本质上就是分类。和 LLM 有个蛋关系？

2 这种随便一个小型（有个 2 张 3060 的显卡的 pc 足矣）的 ragflow 就能搞定。

3 才是最难的。得具体问题具体分析，没有什么标准解。

sentinelK

3 小时 35 分钟前

AI 的优势是比人类更强的上下文处理能力。所以他擅长的是，繁复数据中挖掘人类未能发现的统计学规律。

你的需求 1 ，并不是这个领域的问题。AI 要的是尽可能多的数据来覆盖所有的可能性，然后挖掘统计学规律。不是根据局部数据反推全部。所以你目前人不能判断，AI 还是不能判断。因为故障点判断困难的本质原因是信息缺失。

需求 2 和 3 确实可以，但是需要精度不高的场景。精度高的场景是不能容忍幻觉的。现阶段还不能保证大语言模型不产生幻觉。

至于扣子，其实就是针对目前大语言模型的能力有限（上下文容量、hops 数量），从而提出的中间态解决方案。业界叫 agent 。
既由人来编写脚本，通过脚本链条串联一个或以上的大模型能力，从而达到单次大模型交互达不到的效果。

比如，“今天天气怎么样？” -> 大模型语义理解 -> 调用 windy.com 的 API -> 处理返回值 -> 提示词处理 -> 喂给大模型做口语化 -> 输出。

chairuosen

3 小时 35 分钟前

1. 不了解，大概你需要把所有故障文字化，然后提示词里给它足够的异常 case
2. 不用知识库，1w 字很少直接喂进系统提示词都够
3. 扣子最容易上手

clemente

3 小时 32 分钟前

你需要的是找个做过数学建模的大学生帮你做系统建模. 而不是 ai 特别是 llm

clemente

3 小时 30 分钟前

除非你的日志里面已经写好哪些情况是故障问题, 然后你已知哪些故障特征组合是某些问题, 那么这样 LLM 是可以用的. 如果是一堆数字那还是机器学习或者数学建模把

大模型不是万能的但些机器学习脚本 dashboard 这些还是好用的

cBlank

3 小时 20 分钟前

最近我们公司也是想接 AI 能力，但是我觉的很费劲呀，特别是对接现有业务数据和固有数据（公司的商品，员工，仓库）让大模型理解不胡说八道很麻烦，或者我对相关的知识储备不足导致那么费力。
我现在是用 Dify 在弄相关的流程。

关键领导要的最终效果特别理想化，例如：想根据聊天内容，分析出来都干了下，做记录总结，最好能做到智能回复。

唉，最近被这玩意折腾的有点累

sampeng

2 小时 58 分钟前

1 你就别拿 AI 来算了。。误报率得气死你。属于薛定谔的故障。故障预测是有很多模型的，你让 AI 协助你做这样的系统都比直接用他来强

lingex

2 小时 48 分钟前

增加一个 AI 按钮，点击后提示：功能开发中，敬请期待。

(实际永远不要上线)

winv87

2 小时 39 分钟前

故障诊断是在机器学习领域一个常见的业务范畴，AI 大模型并不适合。
你需要对你的数据打好标签，使用机器学习算法做训练。

bianYuX

2 小时 37 分钟前

我最近在弄 aiops （智能化运维），现在是做到了故障告警这一块。
我说下我们现在告警的流程：
1. 采集监控数据
2. 多指标融合检测
3. 检测出故障之后，结合日志进行根因分析
到根因分析这一步才用到 ai 大模型，检测阶段更多的是机器学习。
这个流程是需要很多前置条件，监控采集就需要打通很多环节

woscaizi

2 小时 5 分钟前

首先，不少人说使用 llm 来做这事不现实，我不这么认为。llm 能不能判断好，其实和人的先验知识关系很大，比如人是如何判断的，那么可以通过提示词让 llm 也如此判断。这需要了解业务。
其次，现阶段，llm 能不能发挥大作用，工程化很重要，比如数据对接、这一块可能大多数的编排平台没有现成的，需要配合业务平台开发才行。