WSL下跑Ollama运行大模型

2023年可以通过WSL 2 + DirectML来使用AMD的GPU,直接绕开ROCm。

DirectML Plugin for TensorFlow 2learn.microsoft.com/en-us/windows/ai/directml/gpu-tensorflow-plugin

Enable PyTorch with DirectML on WSL 2learn.microsoft.com/en-us/windows/ai/directml/gpu-pytorch-wsl

作者:圆方

链接:https://www.zhihu.com/question/510863768/answer/3006692954

来源:知乎

著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。