[2026.2] 你需要一個python, 這個時間點建議用3.10~3.12的版本, 穩定不新支援多, 較不會出問題

(optional) 建議使用uv來管理python pkg, 一方面下載也比較快(Rust並行下載)

Nvidia的場合

請先安裝nvidia drive驅動程式, 才能用硬體的功能

用cmd中使用 nvidia-smi 來看目前的CUDA版本, 會出現如下的資訊

+-----------------------------------------------------------------------------------------+
| NVIDIA-SMI 560.94                 Driver Version: 560.94         CUDA Version: 12.6     |
|-----------------------------------------+------------------------+----------------------+
| GPU  Name                  Driver-Model | Bus-Id          Disp.A | Volatile Uncorr. ECC |
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
|                                         |                        |               MIG M. |
|=========================================+========================+======================|
|   0  NVIDIA GeForce RTX 2070 ...  WDDM  |   00000000:01:00.0  On |                  N/A |
|  0%   46C    P8              5W /  255W |    1250MiB /   8192MiB |      9%      Default |
|                                         |                        |                  N/A |
+-----------------------------------------+------------------------+----------------------+

一般來說安裝了nvidia driver, 就會出現CUDA版本數字, 如上面的12.6 但需要注意這個並不表示你裝了CUDA, 而是驅動程式可以支援的最高CUDA版本

因此pytorch可以安裝這個版本, 通常就能直接使用, 而不用再自行安裝CUDA toolkit跟cuDNN等套件

然後到

https://pytorch.org/get-started/locally/

找尋適合的套件並使用 Run this Command 的指令來下載

安裝方式如下

# 例如 CUDA 12.6
pip install torch torchvision --index-url <https://download.pytorch.org/whl/cu126>

如果使用 pip list應該會出現下面資訊

torch                     2.10.0+cu126
torchvision               0.25.0+cu126

然後在python裡面跑, 應該會出現True, 就能使用GPU的平行運算了

import torch
print(torch.cuda.is_available())  # 應為 True

intel的場合

使用以下方式安裝xpu版, 但需注意非所有框架或方法都支援intel的硬體使用