V2EX › maolon 的所有回复 › 第 7 页 / 共 9 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

1 2 3 4 5 6 7 8 9

❮

❯

2024-05-17 09:39:10 +08:00

回复了 teli 创建的主题 › 程序员 › 瞎扯大模型，文心一言和 kimi，应该押注哪一个？

kimi 跟随人类指令的能力相当差，优势只在超长上下文。文心没怎么用不评价。
国内外一起算的话 qwen 应该是国产最强模型。yi 就一魔改 llama ，没啥前景。
deepseek 还有待进一步观察他那个 MHL 是否在回答质量上优于 MHA

2024-05-16 17:04:37 +08:00

回复了 Hamao 创建的主题 › 程序员 › 咨询一个意图识别(向量检索)方面的问题

这场景不是更适合 sqlretriever 么，你的问题转化 sql 然后查询数据库。vector db 更适合搞知识库(比如问答 qa)查询。
当然你硬要这么搞也行，调整存到数据库的 a 的字段，尽量把信息搞的精简比如类似 json 的那种格式 “商品名: acd, 价格: xxx, 生产公司: xxx,” 然后多余信息一点都不要给。
我之前做过一个查询工作的也是上面类似的思路

2024-05-16 12:13:42 +08:00

回复了 duix 创建的主题 › Apple › 怎么 vision pro 没啥讨论度了

本来就是苹果在公开卖开发机，怎么可能很火

2024-05-14 22:32:15 +08:00

回复了 wencan 创建的主题 › 机器学习 › 有没有专门智能解析 PDF 的开源模型？

提取块的: qanything, ragflow 但是是把整篇文章分块，你要求的段落在里面，然后 llm 问答，可以在管理界面查看管理提取过的段落
普通低配能跑: 这两都不怎么行
最后开源模型: qwen 1.5 的 7 或者 14 应该能满足你需求

2024-05-09 22:26:45 +08:00

回复了 idblife 创建的主题 › MacBook Pro › 想整台 macbook pro 跑 llama3 70b，请问用啥配置合适？ M3 max 128G？

接近是接近，推理和跟随用户指令上来说还是差点意思，中文能力更差点意思，另外用 groq 就可以了，个人用直接免费那一档不会超限制。

2024-05-09 21:43:34 +08:00

回复了 dilidilid 创建的主题 › Apple › 为啥这么多人都觉得苹果会很快上马可用度很高的本地 LLM？

苹果的模型倾向就跟现在主流模型不同，
第一特别小 0.27b 0.35b 1b 和 3b 可以跑哪怕 4g 的内存里，其次他有自己的推理框架和压缩算法，这点上比安卓这边是个优势。
第二他估计是要搞 large action model ，也就是说只要能识别用户意图并操作用户手机执行操作就行了，不是我们一般意义上 all purpose 的 llm 大模型。传统功能的大模型应该他会放云端，也就是跟百度和谷歌合作那个

2024-05-08 14:02:55 +08:00

回复了 devzhaoyou 创建的主题 › React › React 中添加、删除、变更子组件疑问

对你这个要求直接拿 ref 搞是正确做法，实际上 react 对上 canvas 场景基本都是各种 anti-pattern 的 ref 乱飞搞定的

2024-05-08 01:40:35 +08:00

回复了 serafin 创建的主题 › Apple › 买 M4 iPad 1TB 以下建议等 6 月 WWDC 后再决定

你要是关注过的话就会发现苹果的模型是超小型模型，之前开源的模型是 0.27b 0.45b 1b 和 3b ，不量化都能在 8g 里跑, 更何况还有量化+llm in a flash 技术，把 cache 存到储存里。
苹果的目标显然是连 4g 设备都能一并支持的模型。

2024-05-05 19:14:01 +08:00

回复了 leviyuan 创建的主题 › 推广 › AI 独立开发，如何避免错误的产品方向

@maolon 才发现是给课程引流的，先不说是不是发错板块，好歹你付费课程就别 ai 机翻了，机翻了好歹手动修一下...

2024-05-05 19:06:08 +08:00

回复了 leviyuan 创建的主题 › 推广 › AI 独立开发，如何避免错误的产品方向

翻译的部分真的很粗糙，很多地方看不懂，还不如直接放原文链接出来算了，你文章直接 tldr

2024-05-05 05:51:09 +08:00

回复了 netty 创建的主题 › OpenAI › OpenAI 最近都更新了啥？免费 API 真的香吗？

3.5 确实现在远远不如主流的开源和闭源模型了，我现在在逐步把以前老的调用 3.5 的 agent 都切换到 groq 的 llama3 上去

2024-04-30 15:47:09 +08:00

回复了 UIXX 创建的主题 › 问与答 › 2024 年中买什么平板好

提醒一句所有用 m 系列的 ipad 续航都很 emmmm(pro 和 air)。问题主要出在那个屏幕功耗太高上。注重续航要么等新双层 oled 降低功耗改进版的 pro 要么就买到 a 系列的 ipad

2024-04-29 11:34:08 +08:00

回复了 luckyzd 创建的主题 › 问与答 › 有没有这么一种 AI 工具，可以自动把每天看的视频、文章总结归纳成知识库

目前没有，大多数都是有一部分的功能但是没有整个流程，比如总结导入 notion 的有，根据视频总结的有，但是整个流程加你的 preference 的，没有。
我觉得你可以写一个，保守 1000star 起步

2024-04-26 15:00:50 +08:00

回复了 superfa 创建的主题 › 分享创造 › 分享一个目前正在做的一个产品： ai 心灵伴侣

@qianckjuan hmmmm 那不就是 neuron 了么...

2024-04-25 10:43:42 +08:00

回复了 ProxyXAI 创建的主题 › OpenAI › 体验 llama3 系列的速度吧

是 groq 快不是 llama3 快吧...用其他方式 host 速度跟其他模型差不多

2024-04-23 16:38:43 +08:00

回复了 lstz 创建的主题 › OpenAI › 用贵的国产大模型 API 是否效果堪比 GPT4？

@hellofreckles 这个不是，是因为 qwen 的中文语料只占 15%，当然这也是 qwen 的国际排名比较高的原因，因为语料还是以英语为主。不过 qwen 和 llama 的架构很像且 qwen 的 embeding 做的比 llama 好，有 16 万条，刚出的 llama3 改进了 embedding 也才 13 万

1 2 3 4 5 6 7 8 9

❮

❯