ai 训练（非大模型）现在可以用 cpu 跑吗？

前不久跑了一个小小的模型，就是几万个参数那种，CPU 完全没问题……

TensorFlow 和 PyTorch 都已经有 mps 加速了，用来加速训练简单的模型是没问题的。

CPU 显存低，bitchsize 太小，准确率和速度都会降低。苹果 m 应该也没加成

ultra 带 npu 可以跑

@lpf0309 cpu 用内存

INTEL 有个新出的 BigDL 框架，可以看看。不过对 CPU 好像有要求要新一点的，太老不行。

https://github.com/intel-analytics/BigDL

自来水管不用 你用吸管？

一直都可以，就是比 GPU 慢亿点点。pytorch 有对 m 系列的 GPU 支持，比 CPU 肯定快多了。如果只是玩票可以考虑用 Google colab 用 GPU 训练，训练完可以在自己电脑 CPU 上推理，CPU 推理也慢但是没有训练慢那么多。

@lchynn 需要新的 ultra CPU 吧

物品识别肯定可以。用 .onnx 模型搭配 ONNX 框架就行。如果要加成，要看芯片商出的推理框架，比如苹果就是 CoreML ，高通就是 QNN 。

mac 有 MPS 可以加速训练

你要是没接触过，就别纠结 CPU GPU 的问题啊，先把 numpy 、torch 、transforms 这些库搞熟

可以，就是慢了点

CPU 不行，苹果就更不行了，都是英伟达的 CUDA

12500 cpu 是指一万两千五百个 cpu 核心的集群还是说一颗 Intel 12500 ？前者可以试试 Intel 的加速库 + MPI 分布式训练，后者够呛。即使是训 100M 级别的 CV 模型，以前用 1080Ti 都觉得慢得不行

@Muniesa 别吓我，初期肯定反复试错，一等几个小时肯定受不了。

@Morriaty 这些肯定是要了解的

@CrazyRundong 就是普通的 12 代酷睿 i5

你这种情况为什么不白嫖 colab

完全可以的，就是比较慢，苹果早就支持 cuda 加速了，前面不要乱说。