V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  rogerer  ›  全部回复第 3 页 / 共 6 页
回复总数  110
1  2  3  4  5  6  
是的,自购硬件绝对是不划算的。服务商能跑满 GPU ,基本上不留空闲,个人很难做得到。
163 天前
回复了 qsnow6 创建的主题 Visual Studio Code 为什么 VScode 的 copilot 这么慢?
@Loocor cursor 做到这件事情应该是先做检索,找到需要修改的片段。这里的难点是,检索出来的内容不一定是唯一需要修改的,所以 copilot 直接做全量 edit 。
163 天前
回复了 dbskcnc 创建的主题 Visual Studio Code copilot chat 开源且将整合到 core
@dbskcnc 做得确实也不够好,无论是用户体验上还是生成质量
164 天前
回复了 pythonee 创建的主题 Python 还有类似 pandas 提升运营人员效率的工具么
可能需要一个 BI 平台
164 天前
回复了 zfyime 创建的主题 分享发现 我感觉腾讯元宝的客户端做的还不错
@zfy941 嗯... Claude 的 客户端经常卡死
165 天前
回复了 zfyime 创建的主题 分享发现 我感觉腾讯元宝的客户端做的还不错
@zfy941 这一轮 chatbot 的客户端应该基本上都是 web 技术,包括 OpenAI 、Claude 、Gemini 这些
168 天前
回复了 zzzain46 创建的主题 问与答 有没有好用的咖啡随行杯推荐
瑞幸经常会买咖啡液送咖啡杯
可以用来 debug 。然后很多实验室没能力训更大规模的模型,只能在 0.5b 1b 上试试。
168 天前
回复了 AlghaPorthos 创建的主题 问与答 RAG 有什么比较有前景的工程运用嘛?
@AlghaPorthos 幻觉问题可以通过 Knowledge Edit 解决。我并不太同意 RAG 可以解决幻觉,RAG 能做的只是给 LLM 添加一些提示信息,一方面 RAG 本身可能会引入错误信息,另一方面,提示信息并不能避免幻觉的出现,比如在长程推理场景下,RAG 输入的提示信息会被稀释。

另一个 RAG 目前试图解决上下文长度不够的问题。

我认为我们对上下文的需求是有极限的,比如 context window 已经能装下一整个 codebase 了,追求更长的上下文的意义就没那么大。

此外我们还有一些特别的技术比如 context compression 我认为这是比 RAG 解决 context length 更好的方案。
169 天前
回复了 AlghaPorthos 创建的主题 问与答 RAG 有什么比较有前景的工程运用嘛?
我始终觉得这是一个中间形态,只是因为现在 LLM 还不够强
即使是同一个基座,工具链的好坏,RAG 的好坏也会很影响使用效果的。
193 天前
回复了 nananqujava 创建的主题 机器学习 学习 AI, 跑下模型, 应该用什么 N 卡?
不如买 m 芯片,显存够大
我怎么觉得你需要的其实是 text2sql
如果只是单独做分类的话,用 LLM 不一定比 BERT 更好,都得做了实验才知道。
205 天前
回复了 wencan 创建的主题 浏览器 哪款浏览器跑 js 最快??
几百行根本到不了性能瓶颈,问题还是在实现上。我的 Google Docs 日常能处理 300w 单元格,还不带任何卡顿的,纯前端计算。
@yushi17 没有这么语义化的分化,但是专家之间还是会有分化吧
@sujin190 表示能力和统计意义上容易学到是两件事,LLM 到目前为止对四则运算还是有问题的。
Let us verify step by step, 过程监督虽然被训练推理模型抛弃了,但是对使用 copilot/cursor 还是很好用。在开始的时候和 cursor 聊清楚需求,中间及时介入防止它走偏,以及尽可能短的上下文,往往能很好提升产出质量。
现在的辅助编程还是从手动挡切换到自动挡,还没到自动驾驶的阶段。
就是得拆,太长的上下文严重影响 token 使用量以及准确率。
LLM 有 exposure bias ,意思是序列越长出错的概率越高,是指数增长的。
不过 edge 为什么不去做拖拽标签页自动触发这个功能,Microsoft 家的产品经理总是怪怪的
1  2  3  4  5  6  
关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   956 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 42ms · UTC 19:10 · PVG 03:10 · LAX 12:10 · JFK 15:10
♥ Do have faith in what you're doing.