电脑没显卡 / 显存不够怎么跑 AI 模型？云 GPU 与 CPU 方案

结论先行：没显卡完全不影响学 AI，入门阶段 CPU 够用；要训练/跑大模型，用云 GPU 或直接调 API，别硬买显卡。

方案一：云 GPU（训练/跑大模型首选）

| 平台 | 特点 | 适合 |

|---|---|---|

| AutoDL | 按小时计费、价格低、国内访问快、预装镜像 | 国内用户主力选择 |

| Google Colab | 免费额度（T4 级别）、需科学上网 | 学习/实验 |

| Kaggle | 每周免费约 30h GPU 时长 | 打比赛/练手 |

| 阿里云/腾讯云 GPU 实例 | 稳定、贵 | 正式项目 |

方案二：纯 CPU 跑（入门完全可行）

1. 安装 CPU 版 PyTorch（体积小、无 CUDA 报错）：

pip install torch torchvision --index-url https://download.pytorch.org/whl/cpu

2. 能跑什么：机器学习模型、小规模神经网络、中小模型的推理都没问题；训练大模型会很慢，但小模型（MNIST 分类、简单 MLP）CPU 几分钟也能跑完。

3. 优化：torch.set_num_threads() 调线程数；用小 batch size；用 ONNX Runtime CPU 加速推理。

方案三：跑大模型

• 本地 CPU 推理：用 Ollama 跑小参数量模型（如 Qwen2.5-7B 量化版、Llama-3.2-3B），CPU 能出结果只是慢；8G 内存以上体验才可用。
• 更推荐：直接调用大模型 API（OpenAI、DeepSeek、通义等），几块钱的额度就能用上顶级模型，性价比远高于自己买卡。

显存不够时的降级思路： 换小模型（如 1.5B/3B 替代 7B/70B）→ 量化（INT8/INT4 可省 3~4 倍显存）→ 降低 batch size / 序列长度 → 用梯度累积。