Начало Новини hardwareBG новини Оптимизираните за NPU версии на модела R1 на DeepSeek вече ще работят...

Оптимизираните за NPU версии на модела R1 на DeepSeek вече ще работят на компютри с Copilot+ Windows 11

889
0

R1 на DeepSeek е в центъра на разследване, инициирано от Microsoft за това дали AI моделът е бил обучен, чрез неправомерен достъп до изходните данни на OpenAI. Това обаче не е спряло софтуерния гигант да въведе NPU-оптимизирана версия на модела за своите Copilot+ компютри. Компанията направи съобщение преди малко, заявявайки, че първото издание ще бъде DeepSeek-R1-Distill-Qwen-1.5B и ще бъде достъпно чрез Microsoft AI Toolkit за разработчици. Microsoft възнамерява да пусне по-усъвършенствани модели, но засега ще прави малки стъпки.

Microsoft предостави някои лесни стъпки за това как да стартирате DeepSeek R1 на вашата машина с Windows 11
Докато американските компании се потят заради популярността на DeepSeek, Microsoft прегърна R1 AI модела и в публикацията в блога си обяви, че ще пристигне оптимизирана версия за машини, захранвани от чипсетите Snapdragon X на Qualcomm, последвани от Core Ultra 200V на Intel и други. След DeepSeek-R1-Distill-Qwen-1.5B, Microsoft възнамерява скоро да представи вариантите 7B и 14B, като разработчиците ще могат да се възползват напълно от тях. За да започнете, по-долу Microsoft предоставя инструкции как да накарате DeepSeek да работи на вашата машина.

„За да видите DeepSeek в действие на вашия компютър Copilot+, просто изтеглете разширението AI Toolkit VS Code. Моделът DeepSeek, оптимизиран във формат ONNX QDQ, скоро ще бъде наличен в каталога с модели на AI Toolkit, извлечен директно от Azure AI Foundry. Можете да го изтеглите локално, като щракнете върху бутона „Download“. Веднъж изтеглен, експериментирането с модела е толкова просто, колкото отваряне на Playground, зареждане на модела „deepseek_r1_1_5“ и изпращане на подкани към него.“

Има и други оптимизации, направени от компанията, за да се гарантира, че R1 на DeepSeek работи ефективно и локално на хардуер, базиран на NPU.

Източник: Wccftech

ВАШИЯТ КОМЕНТАР

Моля, въведете коментар!
Моля, въведете името си тук