naclfish2333 最近的时间轴更新 naclfish2333 最近的时间轴更新 |
naclfish2333V2EX 第 496233 号会员，加入于 2020-06-24 21:55:01 +08:00 |
| 求一个 windows 后台全盘搜索方案 问与答 • naclfish2333 • 60 天前 • 最后回复来自 naclfish2333 | 2 |
naclfish2333 最近回复了
4 天前 回复了 lzd123 创建的主题 › Google › Gemini App 语音对话真的强！ |
需要 ios 16 以上😭
18 天前 回复了 shendaowu 创建的主题 › 硬件 › 有没有便宜（百元以下）、开发方便、不用安装不靠谱的软件的小屏幕？ |
esp32 天气时钟，这个好像淘宝上面有很多带漂亮外壳的卖，基本都是开源方案。github 上面有很多固件，拉一个下来自己改代码烧录进去就行了
60 天前 回复了 naclfish2333 创建的主题 › 问与答 › 求一个 windows 后台全盘搜索方案 |
@xuc 这个感觉有点太重了，预期是下发后能做无感的检测。比如用 python 写一个小脚本，检测完调一个 api 上报结果。
88 天前 回复了 erwin985211 创建的主题 › 生活 › 关于壁挂新风机有在用的能说一下体验吗 |
如果是推拉窗，可以用窗户挡板
@erwin985211
@erwin985211
100 天前 回复了 luanchen123 创建的主题 › OpenAI › 有什么值得推荐的本地翻译模型吗? |
试试 glm-4 ，有点老了，但是之前好像小红书的翻译用的就是这个
286 天前 回复了 andforce 创建的主题 › 程序员 › 约 192GB 短信样本如何标记分类？ |
@yuxizhe 能不能跑起来主要看显存，glm-4 是 9B 的模型，全精度大概要占用到 17G 左右的显存。3090 单卡好像是 25G 左右，是足够了，但是 vllm 这个框架的策略是尽量占满显存的。
至于效果，只能是差强人意，我是要求模型分析词语和某个领域的相关性。直接输出输出一个 1 到 5 的数字，代表这个词和这个领域的相关性。
最后确实是可以正确分类，但是可能是 prompt 没写好或者分类的颗粒度分得太细了，导致分类的结果不是很一致。比如“电阻”模型会给出“5”，但是“电容”又会给出“4”。
至于效果，只能是差强人意，我是要求模型分析词语和某个领域的相关性。直接输出输出一个 1 到 5 的数字，代表这个词和这个领域的相关性。
最后确实是可以正确分类，但是可能是 prompt 没写好或者分类的颗粒度分得太细了，导致分类的结果不是很一致。比如“电阻”模型会给出“5”，但是“电容”又会给出“4”。
286 天前 回复了 andforce 创建的主题 › 程序员 › 约 192GB 短信样本如何标记分类？ |
使用大模型并没有 op 想象的那么久，我之前才用 vllm 部署 glm-4 ，用 3090 一个下午就把整个中文维基的标题分类完了。那个数量差不多也是几百万条。
注意，一定是用 vllm 部署，这个框架的并发能力强的可怕。部署完就 python 写个脚本，并发写到 500 干他就完了。
注意，一定是用 vllm 部署，这个框架的并发能力强的可怕。部署完就 python 写个脚本，并发写到 500 干他就完了。
Select Language