pytorch 如何利用 Apple Silicon 的神经网络引擎（NPU）训练模型和生成向量？

作者站长头像
站长
· 阅读数 6

pytorch 如何利用 Apple Silicon 的神经网络引擎（NPU）训练模型和生成向量？

Apple Silicon 有 CPU、GPU、NPU

看了这两篇文章：

MPS backend深度学习系列50：苹果m1芯片加速pytorch

发现 pytorch 运行的时候，可以选择 device 为 mps

这个 mps 的调用了 Apple Silicon 的 GPU 还是 NPU？ 还是两者都有？

如果 mps 是调用了 GPU 的话，那我要怎么选择 NPU 呢？

我自己感觉这个 mps 只是调用了 Apple Silicon 的 GPU

pytorch 如何利用 Apple Silicon 的神经网络引擎（NPU）训练模型和生成向量？

回复
1个回答
avatar
test
2024-07-10

MPS 只能用到 GPU 。

NPU 一般是推理用的，不用于训练。用 NPU 需要用 CoreML 。现在苹果还没有开放 NPU 编程。

回复
likes
适合作为回答的
  • 经过验证的有效解决办法
  • 自己的经验指引，对解决问题有帮助
  • 遵循 Markdown 语法排版，代码语义正确
不该作为回答的
  • 询问内容细节或回复楼层
  • 与题目无关的内容
  • “赞”“顶”“同问”“看手册”“解决了没”等毫无意义的内容