WithoutSugarMiao 最近的时间轴更新 WithoutSugarMiao 最近的时间轴更新 |
WithoutSugarMiaoV2EX 第 637956 号会员，加入于 2023-07-11 10:54:39 +08:00 |
WithoutSugarMiao 最近回复了
5 天前 回复了 RIckV2 创建的主题 › 生活 › 遇到这样的孩子怎么办？ |
33 楼 给你正解了，父母和孩子 一起去看心理医生。
5 天前 回复了 Caaaat 创建的主题 › 问与答 › 红米王腾是怎么回事，有没有大佬知道啥内幕 |
内部斗争呗，做到王腾这个级别，能随随便便去泄能被辞退的密？换句话说 能被辞退的泄密，多半要上升到送局子了。
5 天前 回复了 dssxzuxc 创建的主题 › 咖啡 › 每周末咖啡短暂戒断怎么有效缓解？ |
5 天前 回复了 fzdoudou 创建的主题 › 职场话题 › 下班时间兼职送外卖月入五千挑战 |
虽然很钦佩兄弟的毅力 以及行动力。但是我觉得你的努力方向是不是错了啊，作为程序员，你工资提升无望，不是应该提高自己的能力吗？现在 AI 这么发达，学习门槛显著下降，你有这种毅力，我觉得用到学习上，完全也可以提升工资吧。每天刷两道算法题，自己弄弄开源项目。跑外卖只是即时来钱快，身体累垮了，更严重啊。
5 天前 回复了 dssxzuxc 创建的主题 › 咖啡 › 每周末咖啡短暂戒断怎么有效缓解？ |
还有这种情况吗？我是一周七天 每天都喝，但是偶尔不喝 也没出现什么戒断反应啊。但是我不是为了工作日提神，就是觉得冰美式好喝。
6 天前 回复了 jrlee1204 创建的主题 › 程序员 › 大模型学习路径求大佬指导！ |
https://ex.noerr.eu.org/t/1150043 看看这个帖子呢 哥们
模型能力问题。
1. 如果现在 Zero-shot ，就换成 Few-shot ，看看效果；
2. 如果只是很少的情况会这样，那就重试一下就可以了。或者直接把 json 部分丢到 小模型里，让他纠错。
3. 实在不行就换模型呗。
1. 如果现在 Zero-shot ，就换成 Few-shot ，看看效果；
2. 如果只是很少的情况会这样，那就重试一下就可以了。或者直接把 json 部分丢到 小模型里，让他纠错。
3. 实在不行就换模型呗。
6 天前 回复了 pureGirl 创建的主题 › 程序员 › 现在开源的向量数据库能做到支持千万级的数据吗 |
千万级其实都没必要特意问一下，常用的两个 pgvector 、milvus 随随便便做到。
6 天前 回复了 inbox 创建的主题 › 程序员 › 请问下现在训练一个 AI 业务类智能体大概多少费用啊 |
我现在的公司就是专门帮其他公司做智能体的。我目前负责的两个项目，一个是面向央企的，总招标千万级别，一个是和化工企业共建的，价值也在百万左右，但是我们做的都是完整的解决方案，如果光是训练模型，可能便宜不少。
但你如果是技术，还是推荐你自己做的。看你的数据是什么类型的，如果是文档型的，和大家说的一样，可以直接用 RAG 。如果非常细的业务场景可以直接微调，几万条的数据已经能有非常好的效果了。
可以参考下这个例子（ https://www.aliyun.com/solution/tech-solution-deploy/2925027 ）。从一句话中提取结构化信息，用 1000 条左右的数据，就把 0.6B 模型的准确率从 14% 提升到了百分之 98%。
至于什么时候用 RAG ，什么时候微调，其实一般都是结合使用的。比如那个化工项目，甲方提供了 产品对应的化学原料（例如：塑料的原料可能有聚氯乙烯 PVC 、聚乳酸 PLA 、色母粒等），用这些数据训练产品原料预测模型，输入是产品名称，输出就是预测需要的化学原料。然后还有一些文档，比如某些产品的原料使用标准、基础化工原料介绍，这种就放在 RAG 里，执行任务的时候检索。
价格的话，我自己训练模型一般用这个 https://www.autodl.com/ 里面的机器比常用云会便宜点。比如阿里云 80G 显存 一小时 50 多，这个服务 13 块钱一小时。 你训练的时候可以按照小时买，估计几千块钱 就能支持你训练好模型，部署的时候可以转包年包月。
但你如果是技术，还是推荐你自己做的。看你的数据是什么类型的，如果是文档型的，和大家说的一样，可以直接用 RAG 。如果非常细的业务场景可以直接微调，几万条的数据已经能有非常好的效果了。
可以参考下这个例子（ https://www.aliyun.com/solution/tech-solution-deploy/2925027 ）。从一句话中提取结构化信息，用 1000 条左右的数据，就把 0.6B 模型的准确率从 14% 提升到了百分之 98%。
至于什么时候用 RAG ，什么时候微调，其实一般都是结合使用的。比如那个化工项目，甲方提供了 产品对应的化学原料（例如：塑料的原料可能有聚氯乙烯 PVC 、聚乳酸 PLA 、色母粒等），用这些数据训练产品原料预测模型，输入是产品名称，输出就是预测需要的化学原料。然后还有一些文档，比如某些产品的原料使用标准、基础化工原料介绍，这种就放在 RAG 里，执行任务的时候检索。
价格的话，我自己训练模型一般用这个 https://www.autodl.com/ 里面的机器比常用云会便宜点。比如阿里云 80G 显存 一小时 50 多，这个服务 13 块钱一小时。 你训练的时候可以按照小时买，估计几千块钱 就能支持你训练好模型，部署的时候可以转包年包月。
Select Language