微软开放NVIDIA GPU运行原本仅限Copilot+ PC的本地AI功能 - Microsoft 微软 (opens in new tab)

然而，能够承担 AI 负载的并不只有 NPU。 尤其是现代 GPU，本来就是为大规模并行计算而生，长期以来一直被用于运行机器学习模型。 在实际应用中，对于许多 AI 工作负载，GPU 往往可以提供比当前 NPU 更高的吞吐能力，只是通常会付出更高的功耗代价。在此次调整之前，微软一直把大部分内置 AI 功能限制在配有 NPU 的设备上。 这让不少算力充足、仅依赖 GPU 的 PC 无法使用本地文本与图像生成，以及 Windows Recall 等一系列 AI 工具。 如今，这道鸿沟开始被填平。 微软在更新的技术文档和 GitHub 帖子中确认，开发者现在可以在非 Copilot+ PC 上，利用受支持的 GPU 来运行语言模型 API。微软在介绍中称，此项能力为“语言模型 API 在 GPU 上运行（试验性）”，并指出这些 API 现已能在配备受支持 GPU 的非 Copilot+ PC 上运行，为更广泛的 Windows 11 设备带来本地语言模型能力。 官方同时明确，目前受支持的硬件包括配备 6GB 以上显存的 NVIDIA GeForce RTX 30 系列及更新产品。就当前...