各位 AI 程序员们是用 Windows 还是 macOS?

2024-10-29 14:42:57 +08:00
 felixchen1314

如题,因为本人之前是传统程序员,感觉 macOS 和 linux 系统比较接近,且 mac 没有 windows 那些流氓软件,所以一直用的都是 macBook Pro 。最近想做一些 AI 编程,在想要不要整一套 windows 台式。 请教下有经验的大佬们~谢谢

11279 次点击
所在节点    程序员
97 条回复
beginor
2024-10-29 20:29:07 +08:00
如果只是想通过 HTTP API 调用跑一些简单的文本生成的话,可以考虑 Mac ,毕竟统一内存有优势,64G 的 Mac 可以分 56G 出来跑大模型。

如果是跑 Python+大模型编程个人使用的话,4090 游戏卡也能玩。

如果是搞企业级大模型,上服务器+专业卡,PC 机做客户端,什么系统都行。
rtu
2024-10-29 20:56:15 +08:00
我用 ubuntu,但是!!! 听博士的
Takizawa
2024-10-29 20:59:03 +08:00
有服务器就 mac ,没服务器就 win 。ubuntu 不够全能。
cooltechbs
2024-10-29 21:00:48 +08:00
macOS 和 Linux 接近——这正是我不选 macOS 的理由,接近但又有微妙的差别,一些命令经常会搞混。
回到正题,当然是 Ubuntu/Debian 服务器,本地啥环境都行,反正是远程开发
Lxcloud
2024-10-29 21:10:32 +08:00
听博士的
faterazer
2024-10-29 21:11:53 +08:00
不清楚你说的 AI 编程的具体需求,一般来说如果想正经训练模型(无论是不是 LLM ),都是放在服务器上跑,所以个人电脑 Mac 还是 Windows 其实无所谓,如果你习惯 MAC 的话就用 Mac ,反正也是 SSH 到服务器上。

如果确定需要本地的 GPU 资源,推荐 Windows + WSL2 ,应该是目前最好的方案,WSL2 很容易装 cuda 环境( Nvidia 官方支持,如果你是个人 PC 的话,大概率是 RTX 游戏卡),另外 Windows Terminal 、VSCode 、PyCharm 等开发工具对 WSL 都有原生支持,同时也不耽误 Windows 本身能提供的影音娱乐或者其他生产力。

除非你非常喜欢 Linux ,当成玩具愿意折腾,不然不建议全机装 Linux (虽然我有一台专门装 Archlinux 的机器)
ailiyaqin2003
2024-10-29 21:22:49 +08:00
我做网站和安卓 app 用 windows ,ubuntu 专门搞网络之类的
javazero
2024-10-29 21:28:08 +08:00
搞 ai 也是分大小的。跑个 7b 的 lora finetune 那本地也能跑,你要是想跑个全参 finetune 没个 8 卡下不来,finetune20b 都要上集群了。这应该不是个人能承受的吧🤔。所以没有本地运行的需求,就不需要纠结什么系统了。至于楼上说的 mac 的统一内存,我没有用过但是我知道用户一定没有 nv 多。如果能上 nv ,就没必要没苦硬吃了。
webs
2024-10-29 21:43:27 +08:00
只有我用 debian 12 么?
jie63823aa
2024-10-29 21:58:03 +08:00
听博士的
realpg
2024-10-29 23:40:26 +08:00
差生天天才纠结文具

什么都行
bitduke
2024-10-29 23:42:08 +08:00
听博士的
fang2hou
2024-10-30 06:16:30 +08:00
如果有服务器,那本地无所谓的,反正都是 ssh 上服务器。海外院校基本清一色发 mac 给学生用,大部分命令和环境和服务器比较统一。
如果个人兴趣本地搞,就别弄 mac 了,本地组台 pc 装 linux 最好。
yman59
2024-10-30 08:30:06 +08:00
听博士的
wm5d8b
2024-10-30 08:33:55 +08:00
@hiphooray 本地 ubuntu ,终端登录服务器可以直接 ssh ,上传下载文件有好用的 gui 工具吗?
alleng
2024-10-30 09:01:26 +08:00
听博士的
z3wood
2024-10-30 09:04:14 +08:00
听博士的
leo0769
2024-10-30 09:13:32 +08:00
听博士的。
crackidz
2024-10-30 09:15:04 +08:00
试试 AI 编程不需要本地环境 XD
ruaRobot
2024-10-30 09:21:34 +08:00
我想问问,流氓软件指的是微软自带的软件?或者你的生产力软件,在 windows 上是流氓软件在 mac 上就不是了?(本人公司办公 mbp 家里 pc

这是一个专为移动设备优化的页面(即为了让你能够在 Google 搜索结果里秒开这个页面),如果你希望参与 V2EX 社区的讨论,你可以继续到 V2EX 上打开本讨论主题的完整版本。

https://ex.noerr.eu.org/t/1084621

V2EX 是创意工作者们的社区,是一个分享自己正在做的有趣事物、交流想法,可以遇见新朋友甚至新机会的地方。

V2EX is a community of developers, designers and creative people.

© 2021 V2EX