Theigrams 最近的时间轴更新 Theigrams 最近的时间轴更新 |
TheigramsV2EX 第 428757 号会员，加入于 2019-07-11 23:45:10 +08:00 |
Theigrams 最近回复了
2024-07-22 15:12:17 +08:00 回复了 RaftingPoint 创建的主题 › 程序员 › 请问哪个大模型 api 能支持输出标准严谨的 json 格式 |
2024-07-01 00:24:35 +08:00 回复了 mikelirjc 创建的主题 › MacBook Pro › 在 M1Max 的 MacBook Pro 上跑 Apple 的 Ai 是否够用？主要是端侧大模型硬件性能是否够用 |
> With this set of optimizations, on iPhone 15 Pro we are able to reach time-to-first-token latency of about 0.6 millisecond per prompt token, and a generation rate of 30 tokens per second.
苹果的端侧模型才 3B ，M1 随便跑无压力
苹果的端侧模型才 3B ，M1 随便跑无压力
2024-06-27 14:48:59 +08:00 回复了 steelshadow39 创建的主题 › Apple › 后端开发 MacBook 求推荐 |
没啥问题，就是 16 寸有点大了，一般会外接显示器，用不着那么大，带着不方便。
2024-06-13 13:01:17 +08:00 回复了 SuperDaFu 创建的主题 › OpenAI › baidu 的 comate 有个牛逼的功能：通读整个代码库 |
GitHub Copilot 也能读取整个工作区的代码，devv.ai 的 GitHub 模式也能读取整个 GitHub 仓库的代码，
Copilot 是直接基于文本相似度检测，devv 是对 embedding 计算相似度
Copilot 是直接基于文本相似度检测，devv 是对 embedding 计算相似度
Select Language