预算 8k–1w 左右，有没有 gpu 深度学习服务器 ubuntu 组装配置推荐呐

2024-06-26 18:00:27 +08:00
 1140601003
用来深度学习训练，大模型调用，微调，玩玩 yolo 训练与部署
1772 次点击
所在节点    硬件
7 条回复
1140601003
2024-06-26 20:41:49 +08:00
来个人顶贴呀！！
Fred0410
2024-06-27 00:58:31 +08:00
不考虑用云吗？ 我冲了 300 块钱玩了一个月了。。
telaviv
2024-06-27 08:02:05 +08:00
能忍没有 bf16 的话，性价比最高的可能是 2080 Ti 22G ，单卡用 unsloth 可以调不少模型，ollama 推理 35B 模型可以 5-10 tokens/s ，双卡会更快些。
1140601003
2024-06-27 08:49:15 +08:00
@Fred0410 云的不划算
1140601003
2024-06-27 08:49:42 +08:00
@telaviv 我打算搞个 3090 ，搞个双系统来玩玩训练
telaviv
2024-06-28 14:24:45 +08:00
@1140601003 可以的
frankyzf
227 天前
@Fred0410 麻烦问下哪个云服务商？

这是一个专为移动设备优化的页面（即为了让你能够在 Google 搜索结果里秒开这个页面），如果你希望参与 V2EX 社区的讨论，你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://ex.noerr.eu.org/t/1052845

V2EX 是创意工作者们的社区，是一个分享自己正在做的有趣事物、交流想法，可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX