时间: 2025-04-09 16:16:38 | 作者: 球王会app官网
DeepSeek 征服了移动国际,现在正在向 Windows 扩展,令人惊奇的是,它得到了微软的全力支持。昨日,这家软件巨头将 DeepSeek R1 模型添加到其 Azure AI Foundry,以答应开发人员使用它测验和构建根据云的应用程序和服务。今日,微软宣告将 R1 的精简版别引进 Copilot+ PC。
精简模型将首要供给给搭载骁龙 X 芯片的设备、搭载英特尔酷睿Ultra 200V 处理器的设备,然后是搭载 AMD Ryzen AI 9 的 PC。
第一个模型将是 DeepSeek-R1-Distill-Qwen-1.5B(即 15 亿参数模型),更大、更强壮的 7B 和 14B 模型行将推出。这些模型将可从微软的 AI 工具包中下载。
微软调整了这些模型,使其在搭载 NPU 的设备上运转。严峻依靠内存拜访的操作在 CPU 上运转,而核算密集型操作在 NPU 上运转。经过优化,微软成功完成了快速的第一个词元时刻(130 毫秒)和短提示(少于 64 个令牌)每秒 16 个词元的吞吐率。
如果您更喜爱本地 AI,请先下载适用于 VS Code 的 AI 工具包。从那里,您应该能够在本地下载模型(例如,“deepseek_r1_1_5”是 1.5B 模型)。最终,在 Playground 中点击“测验”,看看这个精粹版 R1 有多智能。
“模型精粹”,有时也称为“常识精粹”,是选用大型 AI 模型(完好的 DeepSeek R1 有 6710 亿个参数)并将其尽可能多的常识转移到较小的模型(例如 15 亿个参数)的进程。这不是一个完美的进程,精粹模型的功能不如完好模型 - 但其较小的尺度使其能够直接在消费硬件上运转(而不是花费数万美元的专用 AI 硬件)。