首页 注册 登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  yanyao233  ›  全部回复第 15 页 / 共 19 页
回复总数  362
1 ... 7  8  9  10  11  12  13  14  15  16 ... 19  
❮ ❯
2023-11-04 19:07:32 +08:00
回复了 yueji 创建的主题 › 机器学习 › 如何搭建一个基于聊天记录 训练的 AI 对话机器人
几个月前刚训练过一个，安卓手机的话需要把微信数据库导出并解密 https://github.com/greycodee/wechat-backup
然后导出 contact 和 message 表，我先是对导出的表进行了清洗，把非目标群聊/联系人的聊天数据和大部分根本不需要的字段全部删除，删除不使用的聊天记录类型（比如图片啥）然后再清洗掉个人敏感信息

对于数据集生成，我的思路是
1.群聊: 先筛选出我发送的消息，然后向上追溯一分钟之内的其他人的消息作为一组对话（我这里没考虑引用回复），一天内的消息均作为上下文（但实际上我并不推荐使用群聊消息，现在并没有成本低且效果很好的方式来分割聊天，第三次训练时我去掉群聊的数据集，胡言乱语的情况好了很多）
2.联系人: 一问一答为一组对话，多条连续消息合并，一天内为上下文
最后总共有 8k 条聊天记录

我当时使用的 chatglm2 模型，lora 和 pt 都试了，lora 效果好太多，最终 15steps 的 loss 稳定在 1.0 左右

效果怎么说呢...确实金句频出，但记忆力明显下降，并且指令服从性几乎没有，也就仅仅能用来聊天了。

另外，我多次尝试让他认识到自己是谁，无论是通过数据集强化的方式，还是靠推理时增加 system prompt ，都无法达到效果...
2023-10-28 18:26:33 +08:00
回复了 yhtbiy 创建的主题 › JetBrains › 看看 jetbrains 又出了新的 IDE [writerside]
@zen1 这样高度统一的 ui 风格我觉得挺好的，降低了很多学习成本
2023-10-28 18:12:38 +08:00
回复了 Jack0 创建的主题 › GitHub › github 的 star 有什么用处？
@AoEiuV020JP star 还能刷的吗...
2023-10-28 18:07:55 +08:00
回复了 luzemin 创建的主题 › 程序员 › 命名的时候，会把缩写后的单词当做普通单词使用吗？
id 小写，其他缩写大写
2023-10-28 17:41:03 +08:00
回复了 oszlso 创建的主题 › Google › 为什么 Google 搜索结果会去除空格？
才发现...还真是
2023-10-27 20:34:01 +08:00
回复了 guchengzhihuan 创建的主题 › 奇思妙想 › 什么 AI 能精简八股文公告
ai 读的懂字面意思，但无法联系上下文（指社会舆论环境、时事新闻、历史）等来判断深层含义。

甚至普通人都很难理解的东西，就别强求 ai 了...
2023-10-27 20:30:26 +08:00
回复了 chenzw2 创建的主题 › 分享创造 › 写给孙子玩的视觉错觉可视化
@chenzw2 哈哈哈哈哈哈哈笑死
2023-10-26 20:10:18 +08:00
回复了 xuelang 创建的主题 › OpenAI › 身边非 IT 的人也知道 ChatGPT 吗？ ChatGPT 渗透力到底有多少
火，很火...几乎没有人不知道，但大部分人似乎都没真正用过
2023-10-25 19:38:59 +08:00
回复了 qingxia 创建的主题 › OpenAI › 好奇问一下，你们都用 chatgpt 干什么？
@qingxia 如果要硬找的话，确实找不到，写代码、读论文、聊琐碎问题，哪个原来不是靠自己和搜索引擎完成的？但是 chatgpt 提供了一种捷径，提供质量几乎相同甚至更高的内容，只要你认为它带给你的便利性或给你创造出来的价值超过 chatgpt 本身，那他就是值得的
2023-10-24 22:05:56 +08:00
回复了 audiozen3001 创建的主题 › 音乐 › V 友们 上班听的什么音乐
@PickOne 你是有品位的 https://i.imgur.com/xr1UOz1.png
2023-10-24 21:35:26 +08:00
回复了 jsun969 创建的主题 › 分享创造 › 分享一款最近做的网页游戏， Is That AI
玩了一下，11/12 ，我承认我有炫耀的成分（
2023-10-24 20:50:47 +08:00
回复了 qingxia 创建的主题 › OpenAI › 好奇问一下，你们都用 chatgpt 干什么？
在刚开始使用时很惊艳，但后来慢慢就不这么觉得了...直到前几天 plus 过期，我才明白他已经融入到我生活里了，毫不犹豫地续费...
2023-10-24 20:36:10 +08:00
回复了 Simon95 创建的主题 › 分享创造 › 做了一个自然语音生成的 AI 模型，大家提点意见
帅啊！
2023-10-24 20:27:33 +08:00
回复了 zhengqiaoyin 创建的主题 › PHP › 还有谁嘲笑 PHPer，使用最为广泛的服务端编程语言中， PHP 以 76.8%的比例位居第一
so...?
2023-10-23 21:40:29 +08:00
回复了 qilme 创建的主题 › Windows › 微软计算器的人民币兑美元汇率 0.64...
@efcndi 图片上：“已更新 2023/10/23 18:27”
2023-10-23 21:38:53 +08:00
回复了 Bazingawang 创建的主题 › 分享发现 › 大模型你方唱罢我登场，到底谁在裸泳？
啥？ baichuan2 这么差？不至于吧....其他很多评测报告+我自己的主观体验感觉并没有这么差啊
2023-10-21 18:10:44 +08:00
回复了 gpt5 创建的主题 › 问与答 › 工作原因，接触了几个 00 左右的小主播，发现她们有一种特有的口音？
@geelaw 原来还有专门的名词吗，好酷
2023-10-21 09:46:18 +08:00
回复了 bywenshu 创建的主题 › OpenAI › 请问 ChatGPT 官方移动端的语音输出是用什么实现的？
@bywenshu 我顺着 #4 回复的，whisper 确实就是个语音转文字
1 ... 7  8  9  10  11  12  13  14  15  16 ... 19  
❮ ❯
关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4063 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 35ms · UTC 00:14 · PVG 08:14 · LAX 17:14 · JFK 20:14
Developed with CodeLauncher
♥ Do have faith in what you're doing.