V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
jlak
V2EX  ›  问与答

想投资一张 5090 玩玩 AI 请问主机需要什么配置?

  •  
  •   jlak · 5 天前 · 1058 次点击

    看到官网 FE 版有货,在考虑投资一张玩玩 但是好久没有关注机圈了不太懂现在什么配置带动这张卡 主要就是 AI 用,基本很少玩游戏

    第 1 条附言  ·  5 天前
    忘记说清楚是 AI 视频/图片
    13 条回复    2025-06-11 16:44:40 +08:00
    asd7160
        1
    asd7160  
       5 天前 via iPhone
    如果要离线部署开源的 deepseek ,达到满血的效果的话,估计整套下来要好几万吧。
    就一张卡估计不太够用吧,要么反应速度慢,要么只能部署一个相对比较蠢的小点儿的模型
    asd7160
        2
    asd7160  
       5 天前 via iPhone
    肯定是要一个工作站或是服务器才带的动的
    jlak
        3
    jlak  
    OP
       5 天前 via iPhone
    @asd7160 忘记说是 AI 视频,语言大模型有很多免费的不考虑部署
    asd7160
        4
    asd7160  
       5 天前 via iPhone
    @jlak AI 视频那必然更贵了,绝对最少都要一个几万的小服务器
    asd7160
        5
    asd7160  
       5 天前 via iPhone
    当然这个基本就是用金钱换运算时间的事情。如果不介意渲染几十个小时的话那降低成本用便宜的机器也是可以的。
    murmur
        6
    murmur  
       5 天前
    为什么不考虑 4090 魔改 48g 呢,反正 5090 你也没法正常购买
    gaobh
        7
    gaobh  
       5 天前
    混元的视频模型,可以做参考:
    The following table shows the requirements for running HunyuanVideo model (batch size = 1) to generate videos:

    Model Setting
    (height/width/frame) GPU Peak Memory
    HunyuanVideo 720px1280px129f 60GB
    HunyuanVideo 544px960px129f 45GB
    An NVIDIA GPU with CUDA support is required.
    The model is tested on a single 80G GPU.
    Minimum: The minimum GPU memory required is 60GB for 720px1280px129f and 45G for 544px960px129f.
    Recommended: We recommend using a GPU with 80GB of memory for better generation quality.
    Tested operating system: Linux
    Clannad0708
        8
    Clannad0708  
       5 天前
    现在自己搞成本很高 啊,你是要调整模型吗?我看大多数不都是调用大模型的 api 接口?为接口付费就行了。
    Morriaty
        9
    Morriaty  
       5 天前
    楼主有做过一些视频类项目,或则 colab 上的教学类 AI 训练吗?没有的话,建议先去云平台先玩一玩,看一看是不是真的想做“炼丹”🤣
    jlak
        10
    jlak  
    OP
       5 天前 via iPhone
    @asd7160 有台 3060 12gb 配的 i5 3470+16gb 爆显存爆内存很累

    @murmur 能正常购买


    @gaobh 跑量化模型


    @Clannad0708 API 抽卡调试成本不更吗


    @Morriaty 跑过图片 但视频类跑不动
    asd7160
        11
    asd7160  
       5 天前 via iPhone
    你这机器无论显存内存都才十几 GB 必然不行。我看 b 站 up 主玩这个的都是配几十上百 GB 的
    Clannad0708
        12
    Clannad0708  
       5 天前
    @jlak #10 deepseek 的 api 成本很低了。你要微调的话感觉 5090 不一定够啊。我用公司的 A800 部署了 deepseek 68B 版本的感觉和没有差别不大,很弱智生成的错误很多。
    jlak
        13
    jlak  
    OP
       5 天前
    @asd7160 #4 #11 你是不是在云聊,一般玩家都是量化版 16G 显存就完全足够成品也是不错的 有兴趣可以去模型圈子里溜达一圈先 8GB 显存就可以尝鲜。RTX5090 也有几万了,显存 32G
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2958 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 26ms · UTC 13:19 · PVG 21:19 · LAX 06:19 · JFK 09:19
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.